DOI: https://doi.org/10.1016/j.infsof.2026.108038
تاريخ النشر: 2026-01-17
المؤلف: Nafen Haj Ahmad وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تستكشف هذه الدراسة الآثار الأخلاقية والاجتماعية لتقنيات الذكاء الاصطناعي، مع التركيز على تأثيراتها السلبية الفورية والنظامية على الأفراد والمجتمع. من خلال استخدام مراجعة أدبية متعددة الأصوات لـ 28 نظام ذكاء اصطناعي، تحدد البحث آثارًا ضارة متنوعة، بما في ذلك التمييز، والأذى النفسي والبدني، والمعاملة غير العادلة. تطرح الدراسة سؤالين رئيسيين للبحث: (RQ1) أنواع الآثار الاجتماعية السلبية الناتجة عن أنظمة الذكاء الاصطناعي الحالية، و(RQ2) العوامل المشتركة التي تسهم في هذه الآثار.
تكشف النتائج عن تنوع الآثار الاجتماعية السلبية المصنفة إلى أنواع تمكينية ونظامية، مما يبرز الحاجة إلى تدابير شاملة في تطوير الذكاء الاصطناعي التي تعطي الأولوية للاستدامة الاجتماعية. يقترح المؤلفون إرشادات أولية تهدف إلى التخفيف من هذه الآثار السلبية ويؤكدون على أهمية معالجة الفوارق الاجتماعية القائمة من خلال التصميم الأخلاقي لتقنيات الذكاء الاصطناعي. يجادلون بأن الأطر الأخلاقية الحالية غير كافية لمنع تضخيم الظلم المتأصل في الأنظمة الاجتماعية، داعين إلى تحويل الهياكل الاجتماعية الأساسية لتعزيز التقدم التكنولوجي العادل.
مقدمة
تسلط مقدمة الورقة الضوء على التأثيرات التحولية للتكنولوجيا الرقمية، وخاصة الذكاء الاصطناعي (AI)، على مختلف القطاعات، مع التأكيد على الفوائد والتحديات الاجتماعية المعقدة التي تنشأ من اعتمادها الواسع. بينما يمكن أن تعزز أنظمة الذكاء الاصطناعي الكفاءة وتخلق فرصًا جديدة، فإنها تطرح أيضًا معضلات أخلاقية وقضايا اجتماعية، كما يتضح من حالة أداة التوظيف الخاصة بأمازون، التي استمرت بشكل غير مقصود في التحيز الجنسي بسبب تدريبها على مجموعة بيانات تهيمن عليها الذكور. يبرز هذا المثال ضرورة فهم شامل لتداعيات الذكاء الاصطناعي في العالم الحقيقي.
يهدف المؤلفون إلى التحقيق في الآثار الاجتماعية السلبية لأنظمة الذكاء الاصطناعي الحالية وتحديد العوامل المشتركة التي تسهم في هذه الآثار السلبية، من خلال إطار سؤالين بحثيين: يركز RQ1 على أنواع الآثار السلبية، بينما يفحص RQ2 الأسباب الكامنة. تهدف الدراسة إلى وضع نتائجها في سياق المبادئ الأخلاقية المعمول بها، مثل تجنب الأذى وضمان العدالة، واقتراح توصيات قابلة للتنفيذ لتعزيز الإرشادات الأخلاقية في تطوير الذكاء الاصطناعي. تم هيكلة الورقة لتقديم الخلفية ذات الصلة والأعمال ذات الصلة أولاً، تليها استكشاف مفصل لتصميم البحث، والنتائج، والنقاش، والاستنتاجات.
النتائج
يوفر قسم النتائج في الورقة تحليلًا شاملاً للأنظمة التي تم فحصها، بدءًا من نظرة عامة في القسم 4.1، تليها استكشاف الآثار السلبية الشائعة. يميز المؤلفون بين الآثار التمكينية، التي تنشأ من استخدام النظام، والآثار النظامية، التي تمثل الآثار التراكمية لكل من الآثار الفورية والتمكينية على مر الزمن. يتم تفصيل الآثار التمكينية في القسم 4.2، بينما يتم مناقشة الآثار النظامية في القسم 4.3.
من الجدير بالذكر أن المؤلفين يبرزون فئات محددة من التأثير، مثل عدم المساواة بين الجنسين والعرق، بدلاً من دمجها تحت تصنيف أوسع لعدم المساواة النظامية. تم تصميم هذا القرار لتسليط الضوء على أشكال معينة من عدم المساواة التي تتطلب اهتمامًا مركزًا، بما يتماشى مع المنطق وراء أهداف التنمية المستدامة (SDGs). على سبيل المثال، بينما يمكن أن يتم تضمين SDG 5 حول المساواة بين الجنسين تحت SDG 10 حول تقليل عدم المساواة، يجادل المؤلفون بأن الأهمية الفريدة لعدم المساواة بين الجنسين تبرر تصنيفها المتميز.
النقاش
يسلط قسم النقاش في ورقة البحث الضوء على الآثار الاجتماعية المتعددة الأوجه للذكاء الاصطناعي (AI) عبر مجالات مختلفة، مع التأكيد على فوائدها المحتملة والمخاوف الأخلاقية. في قطاع العمل، يُفترض أن يعزز الذكاء الاصطناعي الإنتاجية ويخلق فرص عمل جديدة؛ ومع ذلك، فإنه أيضًا يعرض خطر فقدان الوظائف، خاصة بين العمال ذوي الأجور المنخفضة والمهمشين. تعكس هذه الثنائية الثورات الصناعية التاريخية، مما يشير إلى اضطرابات كبيرة في القوى العاملة. في الطب، بينما يمكن أن يحسن الذكاء الاصطناعي دقة التشخيص ويخصص العلاجات، فإن الاعتماد على بيانات معيبة يمكن أن يستمر في تعزيز التحيزات، مما يؤثر سلبًا على عدالة الرعاية الصحية. على المستوى الفردي، يكشف الذكاء الاصطناعي أنه يمكن أن يعزز الوصول إلى الخدمات ولكنه قد يقوض أيضًا الاستقلالية الشخصية والروابط الإنسانية، مما يؤدي إلى مشاعر الاغتراب.
تستكشف الورقة أيضًا الأسباب الجذرية للتمييز في أنظمة الذكاء الاصطناعي، منسوبة إلى ديناميات القوة وسوء التمثيل داخل القوى العاملة في الذكاء الاصطناعي، مما يؤثر بشكل خاص على النساء ومجموعات الأقليات. تجادل من أجل زيادة التنوع في فرق تطوير الذكاء الاصطناعي للتخفيف من التحيزات. بالإضافة إلى ذلك، يتم التأكيد على ضرورة وجود تشريعات قوية للذكاء الاصطناعي وإرشادات أخلاقية، حيث تعتبر الأطر الحالية مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي ومجموعة متنوعة من مدونات الأخلاق غير كافية دون توجيه قابل للتنفيذ. يدعو المؤلفون إلى نهج من القاعدة إلى القمة لتطوير إرشادات أخلاقية شاملة تأخذ في الاعتبار الآثار الاجتماعية للذكاء الاصطناعي، مع التأكيد على الحاجة إلى منظور متوازن يدمج بين العوامل التكنولوجية والاجتماعية لمعالجة الآثار طويلة الأجل لأنظمة الذكاء الاصطناعي بشكل فعال.
القيود
تسلط القيود في هذه الدراسة الضوء على عدة مخاوف بشأن الصلاحية الخارجية والداخلية. يحد الطابع الاستكشافي للتحليل النوعي من إمكانية تعميم النتائج، حيث لا تدعي الدراسة أنها تشمل جميع الآثار الاجتماعية السلبية المحتملة للذكاء الاصطناعي. تنشأ تهديدات كبيرة للصلاحية الخارجية من الاعتماد على Google Scholar وGoogle في عمليات البحث الأدبي، مما قد يقدم تحيزًا في العينة من خلال تفضيل المقالات الأكثر وصولًا أو الأكثر اقتباسًا. بينما أسفرت هذه المنصات عن جزء كبير من الأدبيات ذات الصلة، قد تكون قد أغفلت دراسات مهمة متاحة في قواعد بيانات أخرى، مثل مكتبة ACM الرقمية أو IEEE Xplore. بالإضافة إلى ذلك، تعطي خوارزميات البحث الأولوية للنتائج بناءً على الصلة وعدد الاقتباسات، مما قد يميل النتائج نحو وجهات نظر معروفة.
تعتبر صلاحية البناء أيضًا مصدر قلق، حيث قد تؤدي التعريفات غير الواضحة للمصطلحات الرئيسية مثل “الذكاء الاصطناعي التمييزي” إلى تفسيرات ذاتية عبر الدراسات. قد تكون مصطلحات البحث المختارة قد استبعدت أبحاثًا ذات صلة تستخدم مصطلحات مختلفة، مثل “التحيز الخوارزمي”. علاوة على ذلك، قد يعزز استخدام العينة الثلجية وجهات نظر معينة، مما يحد من استكشاف آثار وأسباب متنوعة. تشمل تهديدات الصلاحية الداخلية المتغيرات المربكة – العوامل الاجتماعية والاقتصادية أو الثقافية أو السياسية – التي قد تؤثر على الآثار الاجتماعية السلبية المبلغ عنها، مما يعقد نسب هذه الآثار فقط إلى أنظمة الذكاء الاصطناعي. لمعالجة هذه القضايا، تم إجراء التحليل بشكل تعاوني بين المؤلفين لضمان تصنيف منهجي وموضوعي للنتائج.
DOI: https://doi.org/10.1016/j.infsof.2026.108038
Publication Date: 2026-01-17
Author(s): Nafen Haj Ahmad et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
This study investigates the ethical and social implications of AI technologies, focusing on their immediate and systemic negative impacts on individuals and society. Utilizing a multi-vocal literature review of 28 AI systems, the research identifies various harmful effects, including discrimination, psychological and physical harm, and unfair treatment. The study poses two primary research questions: (RQ1) the types of negative social impacts caused by existing AI systems, and (RQ2) the common factors contributing to these impacts.
The findings reveal a diversity of negative social impacts categorized into enabling and systemic types, highlighting the need for comprehensive measures in AI development that prioritize social sustainability. The authors propose initial guidelines aimed at mitigating these adverse effects and emphasize the importance of addressing existing social inequalities through the ethical design of AI technologies. They argue that current ethical frameworks are insufficient in preventing the amplification of injustices inherent in social systems, advocating for a transformation of underlying social structures to foster equitable technological advancements.
Introduction
The introduction of the paper highlights the transformative effects of digital technology, particularly Artificial Intelligence (AI), on various sectors, emphasizing both the benefits and the complex societal challenges that arise from its widespread adoption. While AI systems can enhance efficiency and create new opportunities, they also pose ethical dilemmas and social issues, as illustrated by the case of Amazon’s recruitment tool, which inadvertently perpetuated gender bias due to its training on a male-dominated dataset. This example underscores the necessity for a comprehensive understanding of AI’s real-world implications.
The authors aim to investigate the negative social impacts of existing AI systems and identify common factors contributing to these adverse effects, framed by two research questions: RQ1 focuses on the types of negative impacts, while RQ2 examines the underlying causes. The study intends to contextualize its findings within established ethical principles, such as avoiding harm and ensuring fairness, and to propose actionable recommendations for enhancing ethical guidelines in AI development. The paper is structured to first present relevant background and related work, followed by a detailed exploration of research design, results, discussion, and conclusions.
Results
The results section of the paper provides a comprehensive analysis of the examined systems, beginning with an overview in Section 4.1, followed by an exploration of common negative impacts. The authors distinguish between enabling impacts, which arise from the use of the system, and systemic impacts, which represent the cumulative effects of both immediate and enabling impacts over time. Enabling impacts are detailed in Section 4.2, while systemic impacts are discussed in Section 4.3.
Notably, the authors emphasize specific categories of impact, such as gender and racial inequality, rather than consolidating them under a broader classification of systemic inequality. This decision is intended to highlight particular forms of inequality that require focused attention, aligning with the rationale behind the Sustainable Development Goals (SDGs). For instance, while SDG 5 on Gender Equality could be subsumed under SDG 10 on Reducing Inequality, the authors argue that the unique significance of gender inequality justifies its distinct categorization.
Discussion
The discussion section of the research paper highlights the multifaceted social impacts of artificial intelligence (AI) across various domains, emphasizing both its potential benefits and ethical concerns. In the employment sector, AI is posited to enhance productivity and create new job opportunities; however, it also risks job displacement, particularly among low-wage and marginalized workers. This duality mirrors historical industrial revolutions, suggesting significant workforce disruptions. In medicine, while AI can improve diagnostic accuracy and personalize treatments, reliance on flawed data can perpetuate biases, adversely affecting healthcare equity. The individual level reveals that AI can enhance access to services but may also undermine personal autonomy and human connections, leading to feelings of alienation.
The paper further explores root causes of discrimination in AI systems, attributing them to power dynamics and misrepresentation within the AI workforce, particularly affecting women and minority groups. It argues for increased diversity in AI development teams to mitigate biases. Additionally, the necessity for robust AI legislation and ethical guidelines is underscored, with existing frameworks like the EU’s Artificial Intelligence Act and various codes of ethics being deemed insufficient without actionable guidance. The authors advocate for a bottom-up approach to develop comprehensive ethical guidelines that consider the social implications of AI, emphasizing the need for a balanced perspective that incorporates both technological and social factors to address the long-term impacts of AI systems effectively.
Limitations
The limitations of this study highlight several concerns regarding external and internal validity. The exploratory nature of the qualitative analysis restricts the generalizability of the findings, as the study does not claim to encompass all potential negative social impacts of AI. A significant threat to external validity arises from the reliance on Google Scholar and Google for literature searches, which may introduce sampling bias by favoring more accessible or widely cited articles. While these platforms yielded a substantial portion of relevant literature, they may have overlooked important studies available in other databases, such as ACM Digital Library or IEEE Xplore. Additionally, the search algorithms prioritize results based on relevance and citation count, potentially skewing the findings towards well-known perspectives.
Construct validity is also a concern, as unclear definitions of key terms like “discriminatory AI” may lead to subjective interpretations across studies. The chosen search terms might have excluded relevant research that employs different terminology, such as “algorithmic bias.” Furthermore, the use of snowball sampling could reinforce specific viewpoints, limiting the exploration of diverse effects and causes. Internal validity threats include confounding variables—socio-economic, cultural, or political factors—that may influence the reported negative social effects, complicating the attribution of these effects solely to AI systems. To address these issues, the analysis was conducted collaboratively among the authors to ensure systematic and objective categorization of findings.