DOI: https://doi.org/10.1038/s41598-024-56648-4
PMID: https://pubmed.ncbi.nlm.nih.gov/38503818
تاريخ النشر: 2024-03-19
المؤلف: Stevie Bergman وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تناقش هذه القسم القضية الحرجة المتعلقة بمحاذاة القيم في الذكاء الاصطناعي (AI)، مع التأكيد على الحاجة إلى أن تعكس أنظمة الذكاء الاصطناعي القيم والأهداف الإنسانية. بينما ركزت الأبحاث الحالية على ترميز القيم الأخلاقية في وكلاء الذكاء الاصطناعي، هناك فجوة كبيرة تتعلق بالقيم التي ينبغي إعطاؤها الأولوية وكيفية اتخاذ هذه القرارات. لمعالجة ذلك، يقدم البحث عملية STELA (محاذاة وكيل اللغة الاجتماعية التقنية)، التي تستخدم منهجية تشاركية تشمل مناقشات متأنية مع مجموعات تاريخياً غير ممثلة في الولايات المتحدة. يهدف هذا النهج إلى التقاط وجهات نظر ومخاوف متنوعة تتعلق بتفاعلات الذكاء الاصطناعي، مما يبرز أهمية المناقشة المجتمعية في استنباط الرؤى المعيارية.
تشير النتائج إلى أن إشراك المجتمعات المهمشة في عملية تطوير الذكاء الاصطناعي يمكن أن يؤدي إلى تقنيات أكثر شمولية وعدلاً، خاصة مع تزايد انتشار أنظمة الحوار المعتمدة على نماذج اللغة الكبيرة (LLMs). هذه الأنظمة، رغم قدرتها على المحادثة الطبيعية، تثير مخاوف أخلاقية واجتماعية، خاصة بالنسبة للمجموعات المهمشة التي تتأثر بشكل غير متناسب بالتقنيات الناشئة. يجادل البحث بأنه بدون فهم مستند إلى السياق للقيم المجتمعية، فإن أنظمة الذكاء الاصطناعي تخاطر بتعزيز التحيزات وعدم التوافق مع احتياجات السكان المتنوعين. وبالتالي، تهدف عملية STELA ليس فقط إلى تعزيز محاذاة الذكاء الاصطناعي مع القيم الإنسانية ولكن أيضًا إلى تمكين المجتمعات وتعزيز العدالة الخوارزمية.
الطرق
تحدد هذه القسم الإطار المنهجي لمحاذاة أنظمة الذكاء الاصطناعي، وخاصة نماذج اللغة الكبيرة (LLMs)، مع القيم الإنسانية. يؤكد على أهمية محاذاة القيم من كل من المنظورات التقنية والمعيارية، مع تسليط الضوء على مخاطر عدم المحاذاة، مثل المخرجات الضارة أو المتحيزة. يصنف المؤلفون الأساليب الحالية للمحاذاة إلى ثلاثة أنواع رئيسية: (1) **الأساليب المعتمدة على المواصفات**، التي تتضمن تحديد القيم مسبقًا للذكاء الاصطناعي ليتبعها؛ (2) **الأساليب المعتمدة على الاستنتاج**، حيث تتعلم النماذج القيم بشكل ضمني من خلال التغذية الراجعة البشرية؛ و(3) **الأساليب المعتمدة على الاستنباط**، التي تسعى للحصول على مدخلات مباشرة من أصحاب المصلحة المتنوعين لإبلاغ سلوك الذكاء الاصطناعي. يُلاحظ أن الأخيرة تتمتع بإمكانية دمج المنهجيات التشاركية، على الرغم من أن التحديات لا تزال قائمة في تمثيل المجتمعات المهمشة بشكل كافٍ.
تم تصميم منهجية مجموعات التركيز المستخدمة في الدراسة لجمع رؤى دقيقة حول تفاعلات المستخدمين مع الدردشات الآلية. أُجريت عبر الإنترنت، وتكونت كل مجموعة تركيز من 4-6 مشاركين وشملت استبيانًا مسبقًا لتعريفهم بسياق الدراسة وجمع تقييمات أولية لتفاعلات الدردشة الآلية على مقياس ليكرت من 7 نقاط. قام ميسر محترف بتسهيل المناقشات، مما يضمن أن يتمكن المشاركون من التعبير عن آرائهم وأسبابهم بشأن ملاءمة ردود الدردشة الآلية. كانت الجلسات تهدف إلى تعزيز المشاركة والتفكير، مع منح المشاركين الفرص لتقديم ملاحظات خلال المناقشات وبعدها. بشكل عام، شملت الدراسة ثماني مجموعات تركيز، مع اهتمام دقيق بدمج رؤى المشاركين في التطوير المستمر لعينات تفاعل الدردشة الآلية.
النتائج
في هذا القسم، يقدم المؤلفون النتائج المستمدة من التحليلات النوعية للمحتوى والمواضيع، والتي تم توضيحها بشكل أكبر مع مقتطفات من نصوص مجموعات التركيز. تسلط النتائج الضوء على الموضوعات الرئيسية التي تم تحديدها خلال التحليل، مما يوفر رؤى حول وجهات نظر وتجارب المشاركين المتعلقة بتركيز الدراسة. لفهم شامل لملاحظات المشاركين ومجموعات القواعد الكاملة التي تم تحليلها، يتم توجيه القراء إلى الملاحق A.3 و A.4، التي تحتوي على معلومات إضافية.
المناقشة
تهدف عملية STELA إلى فهم الأضرار والتفضيلات والتفكير لدى المجتمعات المهمشة تاريخيًا بشأن التفاعلات مع نماذج اللغة الكبيرة (LLMs). أُجريت من خلال مجموعات التركيز مع مشاركين من أربع مجموعات ديموغرافية في الولايات المتحدة (النساء، اللاتينيات/اللاتينيين، الأمريكيون من أصل أفريقي، وجنوب شرق آسيا)، التزمت الدراسة بالإرشادات الأخلاقية وأكدت على نهج يركز على المجتمع. تضمنت العملية مراحل متعددة، بما في ذلك توليد تفاعلات افتراضية بين البشر والدردشة الآلية التي تركزت على الكلام الضار، واستنباط المعايير المجتمعية، وتطوير قواعد لسلوك الدردشة الآلية، ومراجعة خارجية لهذه القواعد لضمان أنها تعكس بدقة وجهات نظر المشاركين.
تكشف النتائج عن تباينات موضوعية كبيرة بين مجموعة قواعد STELA ومجموعات قواعد المطورين الحالية، خاصة في مجالات مثل الضرر، والمساعدة، والاعتبار. بينما تعطي قواعد المطورين الأولوية لتجنب المحتوى الضار وضمان الصدق، تؤكد قواعد STELA على أهمية الحيادية، والدقة الواقعية، والسياق في الردود. أعرب المشاركون عن تفضيل قوي لتجنب الدردشات الآلية الافتراضات حول المستخدمين وتقديم معلومات دقيقة ومدعومة جيدًا. تسلط عملية STELA الضوء على الحاجة إلى أن تكون الدردشات الآلية مراعية ومحترمة، بينما تكون أيضًا واقعية وشاملة للهويات المتنوعة، مما يعكس المخاوف الفريدة للمجتمعات المعنية.
DOI: https://doi.org/10.1038/s41598-024-56648-4
PMID: https://pubmed.ncbi.nlm.nih.gov/38503818
Publication Date: 2024-03-19
Author(s): Stevie Bergman et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
The section discusses the critical issue of value alignment in artificial intelligence (AI), emphasizing the need for AI systems to reflect human values and goals. While existing research has focused on encoding moral values into AI agents, there is a significant gap regarding whose values should be prioritized and how these decisions are made. To address this, the paper introduces the STELA process (SocioTEchnical Language agent Alignment), which employs a participatory methodology involving deliberative discussions with historically underrepresented groups in the United States. This approach aims to capture diverse perspectives and concerns related to AI interactions, highlighting the importance of community-centered deliberation in eliciting normative insights.
The findings suggest that engaging marginalized communities in the AI development process can lead to more inclusive and equitable technologies, particularly as dialogue systems based on large language models (LLMs) become increasingly prevalent. These systems, while capable of natural conversation, raise ethical and social concerns, especially for marginalized groups disproportionately affected by emerging technologies. The paper argues that without a contextually grounded understanding of societal values, AI systems risk perpetuating biases and misaligning with the needs of diverse populations. Thus, the STELA process not only aims to enhance AI alignment with human values but also seeks to empower communities and promote algorithmic equity.
Methods
The section outlines the methodological framework for aligning AI systems, particularly large language models (LLMs), with human values. It emphasizes the significance of value alignment from both technical and normative perspectives, highlighting the risks of misalignment, such as harmful or biased outputs. The authors categorize existing alignment approaches into three main types: (1) **Specification-based approaches**, which involve pre-defining values for the AI to follow; (2) **Inference-based approaches**, where models learn values implicitly through human feedback; and (3) **Elicitation-based approaches**, which seek direct input from diverse stakeholders to inform AI behavior. The latter is particularly noted for its potential to incorporate participatory methodologies, although challenges remain in adequately representing marginalized communities.
The focus group methodology employed in the study is designed to gather nuanced insights on user interactions with chatbots. Conducted online, each focus group consisted of 4-6 participants and included a pre-work survey to familiarize them with the study’s context and gather initial ratings of chatbot interactions on a 7-point Likert scale. A professional moderator facilitated discussions, ensuring that participants could articulate their views and reasoning regarding the appropriateness of chatbot responses. The sessions aimed to foster engagement and reflection, with participants given opportunities to provide feedback both during and after the discussions. Overall, the study involved eight focus groups, with careful attention to integrating participant insights into the ongoing development of chatbot interaction samples.
Results
In this section, the authors present the findings derived from qualitative content and thematic analyses, which are further illustrated with excerpts from focus group transcripts. The results highlight key themes identified during the analysis, providing insights into participant perspectives and experiences related to the study’s focus. For a comprehensive understanding of the participant feedback and the complete rulesets analyzed, readers are directed to Appendices A.3 and A.4, which contain supplementary information.
Discussion
The STELA process aims to understand the harms, preferences, and reasoning of historically marginalized communities regarding interactions with large language models (LLMs). Conducted through focus groups with participants from four demographic groups in the U.S. (Female-Identifying, Latina/o/x, African-American, and Southeast Asian), the study adhered to ethical guidelines and emphasized a community-centered approach. The process involved multiple stages, including the generation of hypothetical human-chatbot interactions that focused on harmful speech, the elicitation of community norms, the development of rules for chatbot behavior, and an external review of these rules to ensure they accurately reflected participant perspectives.
The findings reveal significant thematic variations between the STELA ruleset and existing developer rulesets, particularly in areas such as harm, helpfulness, and consideration. While developer rules prioritize avoiding harmful content and ensuring honesty, the STELA rules emphasize the importance of impartiality, factual accuracy, and contextualization in responses. Participants expressed a strong preference for chatbots to avoid making assumptions about users and to provide nuanced, well-supported information. The STELA process highlights the need for chatbots to be considerate and respectful, while also being factual and inclusive of diverse identities, reflecting the unique concerns of the communities involved.