DOI: https://doi.org/10.1093/ia/iiae073
تاريخ النشر: 2024-04-08
المؤلف: Huw Roberts وآخرون
الموضوع الرئيسي: الابتكار الاقتصادي والتكنولوجي
نظرة عامة
في أواخر عام 2022 وأوائل عام 2023، أدت ظهور تقنيات الذكاء الاصطناعي المتقدمة، كما يتضح من ChatGPT الخاص بـ OpenAI، إلى تحقيق مزايا كبيرة ومخاطر كبيرة. بينما يمكن أن تعزز هذه الأنظمة من كفاءة الأعمال وتحسن تجارب المستهلكين، فإنها تشكل أيضًا تهديدات للأمن القومي من خلال تمكين الاستخدامات الضارة، وتفاقم الفوارق الاقتصادية من خلال توطيد القوة السوقية، وتساهم في الظروف الاجتماعية السلبية من خلال ممارسات البيانات الاستغلالية وتأثيرات البيئة. هذه التحديات عالمية بطبيعتها، مما يدعو إلى مناشدات متجددة من أجل أطر حوكمة دولية قوية يمكن أن توازن بفعالية بين الفوائد والمخاطر المرتبطة بالذكاء الاصطناعي.
يدعو شخصيات بارزة، بما في ذلك الأمين العام للأمم المتحدة أنطونيو غوتيريش، ورئيس وزراء المملكة المتحدة ريشي سوناك، والرئيس التنفيذي لـ OpenAI سام ألتمان، إلى إنشاء هيئة دولية جديدة لحوكمة الذكاء الاصطناعي، على غرار الهيئة الحكومية الدولية المعنية بتغير المناخ (IPCC) والوكالة الدولية للطاقة الذرية (IAEA). ومع ذلك، فإن الطبيعة الطموحة لمثل هذه المقترحات الحوكمة غالبًا ما تتعارض مع الديناميكيات الجيوسياسية الحالية والأطر المؤسسية، مما يثير القلق بشأن عمليتها ورغبتها. تهدف هذه الورقة السياسية إلى معالجة هذه التحديات من خلال رسم خريطة للعقبات الجيوسياسية والمؤسسية أمام تعزيز حوكمة الذكاء الاصطناعي العالمية واستكشاف مسارات محتملة للتعاون الفعال في هذا المجال.
نقاش
يسلط النقاش الضوء على المشهد المتطور لحوكمة الذكاء الاصطناعي العالمية، مع التأكيد على الدور النشط للدول والمؤسسات الدولية في إنشاء أطر لإدارة تقنيات الذكاء الاصطناعي. تشمل المبادرات الرئيسية المناقشات الجارية للأمم المتحدة حول أنظمة الأسلحة المستقلة القاتلة، ومبادئ أخلاقيات الذكاء الاصطناعي التي اعتمدها قادة مجموعة العشرين، وتوصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي. على الرغم من هذه الجهود، لا يزال المشهد الحوكمي مجزأً، يتميز بـ “مجمع نظام” ضعيف يكافح من أجل التنسيق والفعالية. تنبع التحديات من مبادئ عالية المستوى غير واضحة، واتفاقيات غير ملزمة، والنهج المتباينة للدول مثل الولايات المتحدة والاتحاد الأوروبي والصين، مما يعقد التوافق بشأن حوكمة الذكاء الاصطناعي.
تحدد الورقة مشاكل التعاون من الدرجة الأولى، مثل التوترات الجيوسياسية والتنافس على التفوق التكنولوجي، لا سيما بين الولايات المتحدة والصين، كحواجز كبيرة أمام الحوكمة الفعالة. بالإضافة إلى ذلك، تنشأ قضايا التعاون من الدرجة الثانية من التجزئة المؤسسية والتداخل في المهام بين مختلف المنظمات، مما يعيق العمل المتماسك. يقترح المؤلفون مسارين للمضي قدمًا: تطوير مؤسسات ذكاء اصطناعي عالمية مركزية أو تعزيز المؤسسات الحالية. إنهم يدعون إلى الخيار الأخير، مقترحين أن تعزيز التنسيق والشرعية الإجرائية داخل المجمع الحالي يمكن أن يسهل التقدم التدريجي ويعزز الثقة بين أصحاب المصلحة المتنوعين. تشمل التوصيات تحسين التواصل بين المؤسسات، وتوحيد الأهداف من خلال توجيه الخبراء، واستغلال المنظمات القائمة مثل منظمة التعاون والتنمية الاقتصادية (OECD) لتوفير معلومات موثوقة تدعم التعاون القائم على الأدلة في حوكمة الذكاء الاصطناعي.
DOI: https://doi.org/10.1093/ia/iiae073
Publication Date: 2024-04-08
Author(s): Huw Roberts et al.
Primary Topic: Economic and Technological Innovation
Overview
In late 2022 and early 2023, the emergence of advanced artificial intelligence (AI) technologies, exemplified by OpenAI’s ChatGPT, has brought both significant advantages and considerable risks. While these AI systems can enhance business efficiency and improve consumer experiences, they also pose threats to national security by enabling malicious use, exacerbate economic inequalities by consolidating market power, and contribute to adverse societal conditions through exploitative data practices and environmental impacts. These challenges are global in nature, prompting renewed calls for robust international governance frameworks that can effectively balance the benefits and risks associated with AI.
Prominent figures, including UN Secretary-General António Guterres, UK Prime Minister Rishi Sunak, and OpenAI CEO Sam Altman, advocate for the establishment of a new international body for AI governance, akin to the Intergovernmental Panel on Climate Change (IPCC) and the International Atomic Energy Agency (IAEA). However, the ambitious nature of such governance proposals often clashes with existing geopolitical dynamics and institutional frameworks, raising concerns about their practicality and desirability. This policy paper aims to address these challenges by mapping the geopolitical and institutional obstacles to enhanced global AI governance and exploring potential pathways for effective cooperation in this domain.
Discussion
The discussion highlights the evolving landscape of global AI governance, emphasizing the active role of states and international institutions in establishing frameworks to manage AI technologies. Key initiatives include the UN’s ongoing discussions on lethal autonomous weapons systems, the OECD’s AI ethics principles adopted by G20 leaders, and UNESCO’s Recommendation on the Ethics of Artificial Intelligence. Despite these efforts, the governance landscape remains fragmented, characterized by a weak “regime complex” that struggles with coordination and effectiveness. The challenges stem from vague high-level principles, non-binding agreements, and the divergent approaches of countries like the US, EU, and China, which complicate consensus on AI governance.
The paper identifies first-order cooperation problems, such as geopolitical tensions and competition for technological supremacy, particularly between the US and China, as significant barriers to effective governance. Additionally, second-order cooperation issues arise from institutional fragmentation and overlapping mandates among various organizations, which hinder cohesive action. The authors propose two pathways forward: developing centralized global AI institutions or strengthening existing ones. They advocate for the latter, suggesting that enhancing coordination and procedural legitimacy within the current regime complex could facilitate incremental progress and foster trust among diverse stakeholders. Recommendations include improving communication between institutions, aligning goals through expert guidance, and leveraging existing organizations like the OECD to provide authoritative information that supports evidence-based cooperation in AI governance.