DOI: https://doi.org/10.1007/s00146-023-01852-5
تاريخ النشر: 2024-01-27
المؤلف: Deborah G. Johnson وآخرون
الموضوع الرئيسي: علم نفس الحكم الأخلاقي والعاطفي
نظرة عامة
تتناول ورقة البحث المنحى المتزايد للمنح الدراسية حول تضمين القيم في الذكاء الاصطناعي (AI) وتفرق بين تصورين للذكاء الاصطناعي: كأدوات حسابية وكأنظمة اجتماعية تقنية. يجادل المؤلفون بأن أيًا من المنظورين لا يسمح بتضمين القيم بشكل مباشر. عند اعتبار الذكاء الاصطناعي كأدوات حسابية، تكون القيم والذكاء الاصطناعي متميزة من الناحية الأنطولوجية ولا يمكن دمجها. على العكس من ذلك، فإن رؤية الذكاء الاصطناعي كأنظمة اجتماعية تقنية تضع كل من القيم والذكاء الاصطناعي ضمن نفس الأنطولوجيا الاجتماعية؛ ومع ذلك، فإن تأطير علاقتهما كعلاقة تضمين يسيء تمثيل التفاعل الديناميكي بين التكنولوجيا والمجتمع. بدلاً من ذلك، يجب فهم هذه العلاقة من خلال إطار الإنتاج المشترك، الذي يبرز الطبيعة التوليدية للقيم والذكاء الاصطناعي، متناقضًا مع الفكرة الثابتة للتضمين.
تؤكد الخاتمة على أن الارتباك ينشأ عندما يخلط المحللون بين المفهومين للذكاء الاصطناعي، مما يؤدي إلى مفاهيم خاطئة تفيد بأن القيم مجرد مدمجة داخل مكونات الذكاء الاصطناعي الحسابية. يعزز هذا الفهم الخاطئ الاعتقاد بأن القضايا المتعلقة بالذكاء الاصطناعي والقيم يمكن حلها فقط من خلال تعديلات على الشيفرة. بينما يمكن معالجة بعض التحديات من خلال إعادة التصميم، يجب أن يأخذ نهج شامل في الاعتبار السياقات والعلاقات الاجتماعية الأوسع. يبرز المؤلفون أهمية التعرف على هذه التمييزات، لا سيما في صياغة المبادئ التوجيهية لأنظمة الذكاء الاصطناعي، كما يتضح من “قانون الذكاء الاصطناعي” للاتحاد الأوروبي. يجادلون بأن ضمان توافق أنظمة الذكاء الاصطناعي مع القيم الاجتماعية يتطلب تعاونًا بين التخصصات يتجاوز المجال الفني، مؤكدين على الحاجة إلى فهم دقيق للأبعاد الاجتماعية المعنية.
مقدمة
تناقش مقدمة ورقة البحث المنحى المتطور للمنح الدراسية حول تقاطع القيم والذكاء الاصطناعي (AI)، مع تسليط الضوء على مجموعة متنوعة من وجهات النظر حول كيفية ارتباط هذه المفاهيم. استخدم الباحثون مصطلحات متنوعة، مثل مواءمة الذكاء الاصطناعي مع القيم الإنسانية، ودمج القيم في التصميم الفني، وتضمين السلوك الأخلاقي داخل الآلات. ومع ذلك، تثير هذه المناهج أسئلة حاسمة بشأن جدوى دمج المفاهيم الاجتماعية المجردة، مثل القيم، في كيانات حسابية ملموسة.
يقترح المؤلفون فهمًا دقيقًا للعلاقة بين القيم والذكاء الاصطناعي، مجادلين ضد فكرة أن القيم يمكن ببساطة إضافتها أو تضمينها داخل أنظمة الذكاء الاصطناعي. يوضحون مفهوم القيم من خلال الأدبيات النفسية، معرفين إياها باعتبارها اعتبارات اجتماعية مهمة، ويفرقون بين تفسيرين للذكاء الاصطناعي: كأدوات حسابية وكأنظمة اجتماعية تقنية. تفترض الورقة أنه بينما تكون القيم والأدوات الحسابية متميزة من الناحية الأنطولوجية، فإن رؤية الذكاء الاصطناعي كأنظمة اجتماعية تقنية يسمح باستكشاف أكثر تكاملاً لعلاقتهما. يستند المؤلفون إلى التصميم الحساس للقيم (VSD) وفلسفة التكنولوجيا لتأطير تحليلهم، مقترحين أن القيم ليست مدمجة في الذكاء الاصطناعي بل تنشأ من عمليات بشرية معقدة لصنع المعنى. يعتزمون نقد تضمين القيم في الذكاء الاصطناعي، مستخدمين أمثلة مثل توزيع إعلانات الوظائف بشكل عادل، والروبوت تويتر المثير للجدل “تاي”، ونظام الدفاع “القبة الحديدية” لتوضيح نقاطهم.
نقاش
في قسم النقاش، تستكشف الورقة العلاقة المعقدة بين القيم والذكاء الاصطناعي (AI)، مع التأكيد على التمييز بين رؤية الذكاء الاصطناعي كأدوات حسابية بسيطة مقابل أنظمة اجتماعية تقنية. يجادل المؤلفون بأن القيم ليست مدمجة بطبيعتها داخل الأدوات الحسابية؛ بل تنشأ من تفاعل السياقات الاجتماعية، والسلوكيات البشرية، ونوايا التصميم وراء أنظمة الذكاء الاصطناعي. يتماشى هذا المنظور مع فكرة الأنظمة الاجتماعية التقنية، التي تعترف بأن التكنولوجيا والمجتمع مترابطان بعمق، وأن نتائج أنظمة الذكاء الاصطناعي تتشكل من خلال كل من العمليات الحسابية والديناميات الاجتماعية المحيطة بها.
ينتقد المؤلفون الأطر الحالية، مثل التصميم الحساس للقيم (VSD)، بسبب ميلها إلى اعتبار القيم كيانات ثابتة بدلاً من كونها سائلة وتعتمد على السياق. يوضحون ذلك من خلال أمثلة، مثل خوارزمية ذكاء اصطناعي لتوزيع الإعلانات التي استمرت عن غير قصد في تعزيز التحيز الجنسي، مما يبرز كيف تتجمع تصميم الخوارزمية والقيم الاجتماعية للمعلنين لإنتاج نتائج متحيزة. يؤكد النقاش على أهمية فهم الذكاء الاصطناعي ضمن إطار اجتماعي تقني لفهم كيفية نسب القيم وتحقيقها بالكامل، داعيًا إلى نهج أكثر دقة يأخذ في الاعتبار الآثار الاجتماعية الأوسع لتقنيات الذكاء الاصطناعي.
DOI: https://doi.org/10.1007/s00146-023-01852-5
Publication Date: 2024-01-27
Author(s): Deborah G. Johnson et al.
Primary Topic: Psychology of Moral and Emotional Judgment
Overview
The research paper discusses the growing scholarship on embedding values in artificial intelligence (AI) and distinguishes between two conceptualizations of AI: as computational artifacts and as sociotechnical systems. The authors argue that neither perspective allows for the straightforward embedding of values. When considering AI as computational artifacts, values and AI are ontologically distinct and cannot be integrated. Conversely, viewing AI as sociotechnical systems places both values and AI within the same social ontology; however, framing their relationship as one of embedding misrepresents the dynamic interplay between technology and society. Instead, this relationship should be understood through a co-production framework, which emphasizes the generative nature of values and AI, contrasting with the static notion of embedding.
The conclusion emphasizes that confusion arises when analysts conflate the two concepts of AI, leading to misconceptions that values are merely embedded within AI’s computational components. This misunderstanding fosters the belief that issues related to AI and values can be resolved solely through code modifications. While some challenges may be addressed through redesign, a comprehensive approach must consider broader social contexts and relations. The authors highlight the importance of recognizing these distinctions, particularly in the formulation of prescriptive principles for AI systems, as exemplified by the European Commission’s “AI Act.” They argue that ensuring AI systems align with societal values requires interdisciplinary collaboration beyond the technical domain, emphasizing the need for a nuanced understanding of the social dimensions involved.
Introduction
The introduction of the research paper discusses the evolving scholarship on the intersection of values and artificial intelligence (AI), highlighting a variety of perspectives on how these concepts relate. Researchers have employed diverse terminologies, such as aligning AI with human values, integrating values into technical design, and embedding ethical behavior within machines. However, these approaches prompt critical questions regarding the feasibility of incorporating abstract social concepts, like values, into concrete computational entities.
The authors propose a nuanced understanding of the relationship between values and AI, arguing against the notion that values can simply be added to or embedded within AI systems. They clarify the concept of values through psychological literature, defining them as important societal considerations, and differentiate between two interpretations of AI: as computational artifacts and as sociotechnical systems. The paper posits that while values and computational artifacts are ontologically distinct, viewing AI as sociotechnical systems allows for a more integrated exploration of their relationship. The authors draw on value-sensitive design (VSD) and the philosophy of technology to frame their analysis, suggesting that values are not embedded in AI but rather arise from complex human processes of meaning-making. They intend to critique the embedding of values in AI, using examples such as equitable job advertisement distribution, the controversial AI Twitter-bot Tay, and the Iron Dome defense system to illustrate their points.
Discussion
In the discussion section, the paper explores the complex relationship between values and artificial intelligence (AI), emphasizing the distinction between viewing AI as mere computational artifacts versus sociotechnical systems. The authors argue that values are not inherently embedded within computational artifacts; rather, they emerge from the interplay of social contexts, human behaviors, and the design intentions behind AI systems. This perspective aligns with the notion of sociotechnical systems, which recognizes that technology and society are deeply intertwined, and that the outcomes of AI systems are shaped by both computational processes and the social dynamics surrounding them.
The authors critique existing frameworks, such as Value Sensitive Design (VSD), for their tendency to treat values as fixed entities rather than fluid and context-dependent. They illustrate this with examples, such as an AI algorithm for ad distribution that inadvertently perpetuated gender bias, highlighting how the algorithm’s design and the social values of advertisers coalesce to produce biased outcomes. The discussion underscores the importance of understanding AI within a sociotechnical framework to fully grasp how values are attributed and realized, advocating for a more nuanced approach that considers the broader social implications of AI technologies.