DOI: https://doi.org/10.1007/s43681-024-00653-w
تاريخ النشر: 2025-01-14
المؤلف: Amna Batool وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تقدم هذه القسم نظرة عامة على التحديات والاعتبارات الأخلاقية المحيطة بنشر الذكاء الاصطناعي (AI). ويؤكد على أهمية الذكاء الاصطناعي الأخلاقي والمسؤول، الذي يركز على مواءمة تطوير الذكاء الاصطناعي مع مبادئ مثل العدالة، والمساءلة، والشفافية، والشمولية. تهدف هذه المبادئ إلى التخفيف من المخاطر المرتبطة بالذكاء الاصطناعي، بما في ذلك التحيز والتمييز، مع تعزيز الثقة بين المستخدمين وأصحاب المصلحة. يبرز النص ضرورة وجود حلول قوية لحوكمة الذكاء الاصطناعي تشمل اللوائح والإجراءات لضمان الاستخدام الأخلاقي للذكاء الاصطناعي، مع تحقيق التوازن بين الابتكار والسلوك الأخلاقي لمنع العواقب غير المتوقعة.
في الختام، تقدم مراجعة الأدبيات المنهجية (SLR) لـ 28 دراسة ملخصًا شاملاً لحلول حوكمة الذكاء الاصطناعي الحالية، كاشفة عن فجوات كبيرة في معالجة الجوانب الشاملة للحوكمة—تحديدًا، “من، ماذا، متى، وكيف” من حوكمة الذكاء الاصطناعي. تشير النتائج إلى أنه بينما تعتبر الاعتبارات الأخلاقية حاسمة، هناك حاجة لمشاركة أوضح من أصحاب المصلحة خلال مراحل تطوير الذكاء الاصطناعي. تؤكد المراجعة على أهمية مواءمة حلول حوكمة الذكاء الاصطناعي المستقبلية مع المبادئ الأخلاقية لتعزيز الحوكمة المسؤولة. بالإضافة إلى ذلك، يخطط المؤلفون لتوسيع تحليلهم ليشمل الأدبيات الرمادية، حيث لم تغطي الدراسات الأكاديمية الحالية معايير حوكمة الذكاء الاصطناعي بشكل كافٍ، مثل معايير ISO وإطار حوكمة الذكاء الاصطناعي من NIST، مما يثري النقاش حول حوكمة الذكاء الاصطناعي.
مقدمة
تسلط مقدمة الورقة الضوء على الأهمية المتزايدة للذكاء الاصطناعي (AI) عبر مختلف القطاعات، بما في ذلك المركبات المستقلة، والرعاية الصحية، والمالية، مع الاعتراف أيضًا بالمخاطر المتزايدة المرتبطة بنشره. تشير إلى أن العديد من المنظمات، مثل الاتحاد الأوروبي ومنظمة التعاون والتنمية الاقتصادية (OECD)، قد وضعت مبادئ توجيهية وأخلاقية لحوكمة الذكاء الاصطناعي. قدمت مراجعات الأدبيات المنهجية الحالية (SLRs) رؤى حول الاستراتيجيات الوطنية والأطر الأخلاقية، ومع ذلك لا يزال هناك فجوة في الأدبيات بشأن تحليل شامل لحوكمة الذكاء الاصطناعي عبر مستويات متعددة.
لمعالجة هذه الفجوة، يقدم المؤلفون مراجعة أدبيات منهجية تستخدم أربعة أسئلة محددة—من يحكم، ماذا يتم الحكم عليه، متى تحدث الحوكمة، وكيف يتم تنفيذها—لاستخراج المعلومات ذات الصلة من الأدبيات حول حوكمة الذكاء الاصطناعي. تصنف هذه الدراسة العناصر الرئيسية للحوكمة إلى خمسة مستويات: الفريق، المنظمة، الصناعة، الوطنية، والدولية. تهدف النتائج إلى تلخيص حلول حوكمة الذكاء الاصطناعي الحالية، وفحص التحديات القائمة، وتقديم فهم دقيق لحوكمة الذكاء الاصطناعي، مما يساهم في النقاش المستمر حول ممارسات الذكاء الاصطناعي الأخلاقية. تم هيكلة الورقة لتشمل معلومات خلفية، ومنهجية، وتحليل البيانات، ومناقشات حول تداعيات النتائج.
الطرق
تم إجراء مراجعة الأدبيات المنهجية (SLR) وفقًا للإرشادات التي وضعتها كيتشام وآخرون. تضمنت المنهجية نهجًا منظمًا يتكون من ثلاث مراحل رئيسية: التخطيط، وإجراء المراجعة، وتقرير النتائج. تم توفير بروتوكول SLR مفصل كمواد إضافية عبر الإنترنت، مما يضمن الشفافية وقابلية إعادة إنتاج عملية المراجعة. توضح الشكل 1 الخطوات المحددة التي تم اتخاذها خلال المراجعة.
المناقشة
في هذا القسم، يوضح المؤلفون مراجعتهم المنهجية للأدبيات (SLR) حول حوكمة الذكاء الاصطناعي، مع التركيز على استراتيجية البحث، والتخطيط، وتقييم الجودة، واستخراج البيانات، والتركيب. استخدم البحث كلمات مفتاحية مثل “الذكاء الاصطناعي”، و”الذكاء الاصطناعي”، و”الحوكمة”، مع التركيز على الأدبيات التي تمت مراجعتها من قبل الأقران والأدبيات الرمادية من Google Scholar وScopus لضمان تغطية شاملة. كانت المراجعة تهدف إلى معالجة سؤالين بحثيين رئيسيين: الأطر والسياسات المتاحة لحوكمة الذكاء الاصطناعي والقيود والتحديات المرتبطة بهياكل الحوكمة هذه. كشف تقييم الجودة الصارم لـ 28 دراسة مختارة أن 20 منها تم تصنيفها على أنها “جيدة”، مما يشير إلى أساس قوي للمراجعة.
صنفت التحليلات النتائج بناءً على أربعة أسئلة رئيسية: من الذي يحكم، ماذا يتم الحكم عليه، متى تحدث الحوكمة، وكيف يتم تنفيذها. تم تحديد أصحاب المصلحة المشاركين في الحوكمة على مستويات مختلفة، بما في ذلك الهيئات الوطنية والدولية، مع التأكيد على أهمية المشاركة المتعددة والتعاون في معالجة المخاطر العالمية المرتبطة بالذكاء الاصطناعي. سلطت المراجعة الضوء على ضرورة الحوكمة عبر جميع مراحل تطوير الذكاء الاصطناعي—قبل التطوير، أثناء التطوير، وبعد التطوير—مع الإشارة أيضًا إلى الاختلافات الجيوسياسية في نهج الحوكمة، لا سيما بين مناطق مثل أوروبا والولايات المتحدة وآسيا والمحيط الهادئ. خلص المؤلفون إلى أنه بينما تركز الأطر الحالية للحوكمة غالبًا على الامتثال والجوانب التشغيلية، هناك حاجة ملحة لحلول أكثر قوة تتضمن مبادئ أخلاقية مثل العدالة، والشفافية، والمساءلة لضمان نشر الذكاء الاصطناعي بشكل مسؤول.
القيود
في قسم “القيود” من ورقة البحث، يعترف المؤلفون بالتهديدات المحتملة لصحة نتائجهم بسبب احتمال جمع بيانات غير مكتملة. على الرغم من استخدام استراتيجية بحث صارمة، لا يزال هناك خطر من عدم تضمين بعض الدراسات ذات الصلة، ربما بسبب عدم إمكانية الوصول إليها أو غيابها عن المنصات الإلكترونية المستهدفة، تحديدًا Google Scholar وScopus. كما يشير المؤلفون إلى أن قرارهم باستبعاد مصطلحات رئيسية مثل “لوائح الذكاء الاصطناعي”، و”أخلاقيات الذكاء الاصطناعي”، و”الأطر التنظيمية للذكاء الاصطناعي”، و”نماذج حوكمة الذكاء الاصطناعي” من سلاسل بحثهم كان بهدف تقليل النتائج غير ذات الصلة، مما قد يؤدي عن غير قصد إلى إغفال الأدبيات ذات الصلة.
لتخفيف هذه القيود، استخدم المؤلفون تقنية التراكم لتحديد وإدراج أي دراسات مفقودة. يبرز هذا النهج التزامهم بمراجعة شاملة، على الرغم من أن القيود الجوهرية لاستراتيجية بحثهم قد لا تزال تؤثر على اكتمال مجموعة البيانات بشكل عام.
DOI: https://doi.org/10.1007/s43681-024-00653-w
Publication Date: 2025-01-14
Author(s): Amna Batool et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
The section provides an overview of the challenges and ethical considerations surrounding the deployment of artificial intelligence (AI). It emphasizes the importance of Ethical and Responsible AI, which focuses on aligning AI development with principles such as fairness, accountability, transparency, and inclusivity. These principles aim to mitigate risks associated with AI, including bias and discrimination, while fostering trust among users and stakeholders. The text highlights the necessity of robust AI governance solutions that encompass regulations and procedures to ensure ethical AI use, balancing innovation with ethical behavior to prevent unforeseen consequences.
In the conclusion, the systematic literature review (SLR) of 28 studies offers a comprehensive summary of current AI governance solutions, revealing significant gaps in addressing the holistic aspects of governance—specifically, the “who, what, when, and how” of AI governance. The findings indicate that while ethical considerations are crucial, there is a need for clearer stakeholder involvement throughout AI development stages. The review underscores the importance of aligning future AI governance solutions with ethical principles to promote responsible governance. Additionally, the authors plan to extend their analysis to include grey literature, as existing academic studies have not sufficiently covered standards of AI governance, such as ISO standards and the NIST AI governance framework, thereby enriching the discourse on AI governance.
Introduction
The introduction of the paper highlights the increasing significance of artificial intelligence (AI) across various sectors, including autonomous vehicles, healthcare, and finance, while also acknowledging the growing risks associated with its deployment. It notes that numerous organizations, such as the European Union and the OECD, have established ethical principles and guidelines for AI governance. Existing systematic literature reviews (SLRs) have provided insights into national strategies and ethical frameworks, yet a gap remains in the literature regarding a comprehensive analysis of AI governance across multiple levels.
To address this gap, the authors present a systematic literature review that employs four specific questions—who governs, what is governed, when governance occurs, and how it is implemented—to extract relevant information from the literature on AI governance. This study categorizes key elements of governance into five levels: team, organization, industry, national, and international. The findings aim to summarize current AI governance solutions, examine existing challenges, and provide a nuanced understanding of AI governance, thereby contributing to the ongoing discourse on ethical AI practices. The paper is structured to include background information, methodology, data analysis, and discussions on the implications of the findings.
Methods
The systematic literature review (SLR) was conducted in accordance with the guidelines set forth by Kitchenham et al. The methodology involved a structured approach comprising three main phases: planning, conducting the review, and reporting the findings. A detailed SLR protocol has been made available as supplementary online material, ensuring transparency and reproducibility of the review process. Figure 1 illustrates the specific steps undertaken throughout the review.
Discussion
In this section, the authors detail their systematic literature review (SLR) on AI governance, emphasizing their search strategy, planning, quality assessment, data extraction, and synthesis. The search utilized keywords such as “AI,” “artificial intelligence,” and “governance,” focusing on peer-reviewed and grey literature from Google Scholar and Scopus to ensure comprehensive coverage. The review aimed to address two primary research questions: the frameworks and policies available for AI governance and the limitations and challenges associated with these governance structures. A rigorous quality assessment of the selected 28 studies revealed that 20 were rated as “Good,” indicating a robust foundation for the review.
The analysis categorized findings based on four key questions: who is governing, what is being governed, when governance occurs, and how it is implemented. Stakeholders involved in governance were identified at various levels, including national and international bodies, with an emphasis on the importance of multi-participation and cooperation in addressing global risks associated with AI. The review highlighted the necessity of governance across all stages of AI development—pre-development, during-development, and post-development—while also noting the geopolitical variations in governance approaches, particularly between regions like Europe, the U.S., and Asia-Pacific. The authors concluded that while existing governance frameworks often focus on compliance and operational aspects, there is a critical need for more robust solutions that incorporate ethical principles such as fairness, transparency, and accountability to ensure responsible AI deployment.
Limitations
In the “Limitations” section of the research paper, the authors acknowledge potential threats to the validity of their findings due to the possibility of incomplete data collection. Despite employing a rigorous search strategy, there remains a risk that some relevant studies were not included, potentially due to their inaccessibility or absence from the electronic platforms targeted, specifically Google Scholar and Scopus. The authors also note that their decision to exclude key terms such as “AI regulations,” “AI ethics,” “AI regulatory frameworks,” and “AI governance models” from their search strings was intended to reduce unrelated results, which may have inadvertently led to the omission of pertinent literature.
To mitigate this limitation, the authors employed a snowballing technique to identify and include any missing studies. This approach underscores their commitment to a comprehensive review, although the inherent constraints of their search strategy may still impact the overall completeness of the data set.