DOI: https://doi.org/10.1007/s11023-024-09680-2
تاريخ النشر: 2024-06-12
المؤلف: Olya Kudina وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نقاش
يستعرض قسم النقاش في الورقة مفهوم الأنظمة الاجتماعية التقنية، لا سيما في سياق الذكاء الاصطناعي (AI). يبرز أن الأنظمة الاجتماعية التقنية تشمل مزيجًا من العوامل الاجتماعية والسياسية والاقتصادية والثقافية والتكنولوجية، كما تم التعرف عليها في خارطة طريق حديثة بين الاتحاد الأوروبي والولايات المتحدة. تكشف الأدبيات عن توافق على أن العناصر التكنولوجية والاجتماعية كلاهما حاسم لفهم هذه الأنظمة. يبرز منظور الأنظمة الاجتماعية التقنية أن التقنيات والعوامل البشرية والمؤسسات هي مكونات مترابطة تعمل معًا نحو أهداف مشتركة. ومن الجدير بالذكر أن أنظمة الذكاء الاصطناعي تقدم عناصر فريدة – وهي الوكلاء الاصطناعيون والقواعد التقنية – بسبب طبيعتها المستقلة والقابلة للتكيف، مما يميزها عن التقنيات التقليدية.
يُعتبر اعتماد نهج الأنظمة الاجتماعية التقنية في الذكاء الاصطناعي مفيدًا لفهم شامل لوظائف الذكاء الاصطناعي وتأثيراته الاجتماعية وآثاره الأخلاقية. يبرز هذا المنظور ضرورة النظر في المؤسسات والثقافة والحكم في تصميم ودمج أنظمة الذكاء الاصطناعي. ويجادل بأن الإمكانات المدمرة للذكاء الاصطناعي تتطلب إعادة تقييم الأنظمة الاجتماعية التقنية الحالية وإنشاء مؤسسات وممارسات جديدة. تختتم الفقرة بالتأكيد على أن فهمًا دقيقًا للأهمية الأخلاقية للذكاء الاصطناعي يتطلب الاعتراف بالتفاعل بين التكنولوجيا والسياق الاجتماعي الثقافي الأوسع، مما يضع الأخلاق كتركيب هجين يتأثر بالعوامل البشرية والتكنولوجية. تهدف المساهمات اللاحقة في العدد الخاص إلى استكشاف هذه الموضوعات بشكل أعمق، مع معالجة جوانب مختلفة من الذكاء الاصطناعي كنظم اجتماعية تقنية معقدة واقتراح أطر للتصميم المسؤول والحكم.
DOI: https://doi.org/10.1007/s11023-024-09680-2
Publication Date: 2024-06-12
Author(s): Olya Kudina et al.
Primary Topic: Ethics and Social Impacts of AI
Discussion
The discussion section of the paper elaborates on the concept of sociotechnical systems, particularly in the context of Artificial Intelligence (AI). It highlights that sociotechnical systems encompass a blend of social, political, economic, cultural, and technological factors, as recognized in a recent EU-U.S. roadmap. The literature reveals a consensus that both technological and social elements are crucial for understanding these systems. A sociotechnical systems perspective emphasizes that technologies, human agents, and institutions are interrelated components that work together towards shared objectives. Notably, AI systems introduce unique elements—namely artificial agents and technical rules—due to their autonomous and adaptive nature, which distinguishes them from traditional technologies.
Adopting a sociotechnical systems approach to AI is posited as beneficial for comprehensively understanding AI’s functionality, social impacts, and ethical implications. This perspective underscores the necessity of considering institutions, culture, and governance in the design and integration of AI systems. It argues that AI’s disruptive potential necessitates a reevaluation of existing sociotechnical systems and the creation of new institutions and practices. The section concludes by emphasizing that a nuanced understanding of AI’s moral significance requires acknowledging the interplay between technology and the broader sociocultural context, thereby framing morality as a hybrid construct influenced by both human and technological factors. The subsequent contributions in the special issue aim to explore these themes further, addressing various aspects of AI as complex sociotechnical systems and proposing frameworks for responsible design and governance.