DOI: https://doi.org/10.1093/polsoc/puae022
تاريخ النشر: 2024-07-02
المؤلف: Inga Ulnicane
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
يتناول هذا القسم من ورقة البحث المبادرات المتعلقة بالحكم والسياسات المحيطة بالذكاء الاصطناعي التوليدي، مع التركيز بشكل خاص على عملية مجموعة السبع في هيروشيما، وتقارير منظمة التعاون والتنمية الاقتصادية، وقمة سلام الذكاء الاصطناعي في المملكة المتحدة. يبرز أن حكم الذكاء الاصطناعي التوليدي يتميز بنظام متعدد المراكز، حيث تتعاون مراكز حكم متعددة، ومع ذلك يتأثر بشكل كبير بعدد قليل من الدول المتقدمة. تكشف التحليلات عن تركيز كبير على إدارة المخاطر، مما يثير القلق بشأن المخاطر الوجودية وغالبًا ما يطغى على الاعتبارات المتعلقة بغرض التكنولوجيا وآثارها الاجتماعية. يؤدي ذلك إلى “مفارقة الحكم التوليدي”، حيث يكون الانخراط العام ضئيلاً على الرغم من الاستخدام الواسع للتكنولوجيا، مما يعزز عدم التوازنات والقيم الموجودة.
يقدم المؤلف مصطلح “إصلاح الحكم” لوصف الميل إلى اعتبار الحكم حلاً بسيطًا لقضايا معقدة. لمعالجة هذه التحديات، تدعو الورقة إلى نهج تشاركي للحكم والابتكار المسؤول الذي يشمل أصحاب المصلحة المتنوعين في تشكيل اتجاه التكنولوجيا. تقترح الدراسة نتيجتين رئيسيتين للبحث المستقبلي: مراقبة تطور حكم الذكاء الاصطناعي التوليدي وتأثيره على تطوير التكنولوجيا، والاعتراف بأهمية الحكم المدفوع بالهدف والأدوار الاجتماعية في إدارة التقنيات الناشئة بما يتجاوز الذكاء الاصطناعي التوليدي.
نقاش
يسلط النقاش حول الحكم، وخاصة في سياق الذكاء الاصطناعي التوليدي، الضوء على تحول كبير من الأطر الحكومية التقليدية إلى نماذج حكم أكثر ديناميكية تشمل الفاعلين غير الحكوميين والمجتمع المدني. يُعرف الحكم بأنه عملية جماعية تشمل أصحاب المصلحة المتنوعين في تحديد الأهداف واتخاذ القرارات، كما أوضح أنسيل وتورفينغ (2022) وتشوتراي وستوكر (2009). يبرز هذا التحول أهمية التعاون والحاجة إلى ممارسات شاملة في اتخاذ القرار، خاصة في مجال حكم التكنولوجيا، حيث ظهر الابتكار المسؤول كنهج رئيسي. يدعو الابتكار المسؤول إلى مواءمة التقدم التكنولوجي مع احتياجات المجتمع والاعتبارات الأخلاقية، متجاوزًا مجرد إدارة المخاطر لمعالجة غرض واتجاه الابتكار (ستيلغو وآخرون، 2013).
لقد زادت ظهور الذكاء الاصطناعي التوليدي من النقاشات حول حكمه، كاشفة عن نظام متعدد المراكز يتميز بمراكز اتخاذ القرار المتعددة، مثل مجموعة السبع ومنظمة التعاون والتنمية الاقتصادية والاتحاد الأوروبي، التي تتعاون مع الحفاظ على الاستقلال (أوسترم، 2010). يهدف هذا الإطار الحكومي إلى معالجة الآثار العالمية للذكاء الاصطناعي التوليدي، ومع ذلك يثير القلق بشأن التمثيل والشمولية، خاصة بالنسبة للدول الأقل تطورًا. تعكس المبادرات الأولية، مثل عملية مجموعة السبع في هيروشيما، نهجًا تعاونيًا لحكم الذكاء الاصطناعي، لكن هيمنة الدول المتقدمة في هذه النقاشات تبرز الحاجة إلى منتديات عالمية أوسع لضمان المشاركة العادلة في تشكيل سياسات الذكاء الاصطناعي. مع تطور الخطاب، هناك توتر ملحوظ بين التركيز على المخاطر الوجودية المرتبطة بالذكاء الاصطناعي والتحديات الاجتماعية الأكثر إلحاحًا التي يقدمها، مما يشير إلى مشهد معقد من الحكم يجب أن يوازن بين الابتكار والاعتبارات الأخلاقية والانخراط العام.
DOI: https://doi.org/10.1093/polsoc/puae022
Publication Date: 2024-07-02
Author(s): Inga Ulnicane
Primary Topic: Ethics and Social Impacts of AI
Overview
This section of the research paper discusses the governance and policy initiatives surrounding generative AI, specifically focusing on the G7 Hiroshima process, OECD reports, and the UK AI Safety Summit. It highlights that the governance of generative AI is characterized by a polycentric system, where multiple governance centers collaborate, yet is predominantly influenced by a few developed nations. The analysis reveals a significant emphasis on risk management, which raises concerns about existential risks and often overshadows considerations of the technology’s purpose and societal implications. This leads to a “paradox of generative governance,” where public engagement is minimal despite widespread use of the technology, reinforcing existing power imbalances and inequalities.
The author introduces the term “governance fix” to describe the tendency to treat governance as a simplistic solution to complex issues. To address these challenges, the paper advocates for a participatory approach to governance and Responsible Innovation that includes diverse stakeholders in shaping the direction of technology. The study suggests two key implications for future research: monitoring the evolving governance of generative AI and its impact on technology development, and recognizing the importance of purpose-driven governance and societal roles in managing emerging technologies beyond generative AI.
Discussion
The discussion on governance, particularly in the context of generative AI, highlights a significant shift from traditional government frameworks to more dynamic governance models that incorporate nonstate actors and civil society. Governance is defined as a collective process involving diverse stakeholders in setting objectives and making decisions, as articulated by Ansell and Torfing (2022) and Chhotray and Stoker (2009). This shift emphasizes the importance of collaboration and the need for inclusive practices in decision-making, particularly in the realm of technology governance, where Responsible Innovation has emerged as a key approach. Responsible Innovation advocates for aligning technological advancements with societal needs and ethical considerations, moving beyond mere risk management to address the purpose and direction of innovation (Stilgoe et al., 2013).
The emergence of generative AI has intensified discussions around its governance, revealing a polycentric system characterized by multiple decision-making centers, such as the G7, OECD, and EU, which collaborate while maintaining independence (Ostrom, 2010). This governance framework aims to address the global implications of generative AI, yet it raises concerns about representation and inclusivity, particularly for less developed countries. Initial initiatives, such as the G7 Hiroshima process, reflect a cooperative approach to AI governance, but the dominance of developed nations in these discussions highlights the need for broader global forums to ensure equitable participation in shaping AI policies. As the discourse evolves, there is a notable tension between focusing on existential risks associated with AI and the more immediate societal challenges it presents, indicating a complex landscape of governance that must balance innovation with ethical considerations and public engagement.