DOI: https://doi.org/10.1007/s43681-025-00958-4
تاريخ النشر: 2026-02-01
المؤلف: Eleonora Catena
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تقدم هذه القسم مراجعة للأدبيات الأكاديمية حول أخلاقيات الذكاء الاصطناعي، مع التركيز بشكل خاص على تأثير تقنيات الذكاء الاصطناعي على الاستقلالية البشرية. تهدف المراجعة إلى تنظيم وتوضيح النقاش المستمر حول هذا الموضوع، الذي يتميز بطبيعته المتنوعة وغير المنظمة. تبدأ بتحديد المفاهيم المختلفة للاستقلالية البشرية الموجودة في الأدبيات، مع تسليط الضوء على كيفية تأثير التفسيرات المختلفة على تحليلات آثار الذكاء الاصطناعي.
تحدد المراجعة قلقين رئيسيين بشأن تأثير الذكاء الاصطناعي على الاستقلالية: أولاً، الوساطة للأنشطة البشرية بواسطة الذكاء الاصطناعي، مما يغير من التفكير المستقل، واتخاذ القرار، والسلوك؛ وثانياً، أتمتة الأنشطة التي تغير من الشروط اللازمة للاختيار والعمل المستقل. تؤكد هذه التصنيفات أن آثار تقنيات الذكاء الاصطناعي تعتمد على النظام والسياق والفهم المحدد للاستقلالية المعنية. في النهاية، تقترح مراجعة الأدبيات إطاراً مشتركاً لتعزيز الفهم للمفاهيم والقضايا الرئيسية، بينما تقترح أيضاً طرقاً للبحث المستقبلي.
مقدمة
تؤكد مقدمة ورقة البحث على أهمية الاستقلالية البشرية كقيمة أساسية عبر تقاليد فلسفية متنوعة، خاصة في سياق التحديات المعاصرة التي تطرحها تقنيات الذكاء الاصطناعي. تسلط الضوء على أن التفاعل مع الذكاء الاصطناعي يثير قضايا حاسمة تتعلق بالاستقلالية، بما في ذلك الفرص لتحسين اتخاذ القرار والتهديدات مثل التلاعب والمراقبة. تهدف الورقة إلى تقديم مراجعة شاملة للأدبيات توضح المفاهيم المختلفة للاستقلالية في أخلاقيات الذكاء الاصطناعي وتصنف آثار الذكاء الاصطناعي على الاستقلالية البشرية، مما يحدد الفجوات للبحث المستقبلي.
تُهيكل المراجعة إلى جزئين رئيسيين: الأول يستعرض تفسيرات مختلفة للاستقلالية الموجودة في الأدبيات، موضحاً كيف تؤثر هذه الحسابات المختلفة على تقييم آثار الذكاء الاصطناعي. الجزء الثاني يصنف الطرق التي تؤثر بها تقنيات الذكاء الاصطناعي على الاستقلالية، مشيراً إلى أن التأثير يختلف بناءً على النظام المحدد للذكاء الاصطناعي والسياق وفهم الاستقلالية. تُقدم المنهجية والنتائج بشكل نوعي، تليها تحليل نقدي. يُعتبر هذا العمل مساهمة فريدة في هذا المجال، حيث يدمج وجهات نظر متنوعة حول الاستقلالية البشرية والذكاء الاصطناعي بينما يتناول الأدبيات حتى ديسمبر 2024.
الطرق
تستخدم منهجية هذه المراجعة الأدبية نهجاً فلسفياً نقدياً أو سردياً لتجميع وتحليل وتقييم الأدبيات الموجودة حول تأثير الذكاء الاصطناعي على الاستقلالية البشرية. بدأت المراجعة بالأدبيات المعروفة للمؤلف، مدعومة ببحث منظم عبر قواعد بيانات مثل PhilPapers وGoogle Scholar، مع التركيز على المناقشات الفلسفية والأخلاقية المحيطة بتأثير الذكاء الاصطناعي على الاستقلالية. شمل عملية الاختيار تحديد الموضوعات الرئيسية من خلال تحليل متعمق للنصوص، والذي يهدف إلى كشف الأنماط الشائعة والفجوات والأسئلة الناشئة. سمح هذا النهج المرن بإدماج كل من المفاهيم الفلسفية الموجودة مسبقاً والموضوعات الجديدة الناشئة من الأدبيات.
تشمل المراجعة مجموعة متنوعة من الأدبيات، بما في ذلك الأعمال المنشورة وغير المنشورة، وتمتد عبر مجالات مختلفة تأثرت بالذكاء الاصطناعي، مثل الرعاية الصحية والتعليم. تسلط الضوء على الطبيعة المزدوجة لتأثير الذكاء الاصطناعي على الاستقلالية، حيث يمكن أن يعيد إنتاج التهديدات التقليدية (مثل التلاعب والمراقبة) ويقدم تحديات جديدة (مثل “التوجيه الدقيق” و”الدفع المفرط”). تشير النتائج إلى أنه بينما قد يتطور الذكاء الاصطناعي الظواهر الموجودة، فإن مدى جدته يبقى سؤالاً مفتوحاً، مما يتطلب مزيداً من الانخراط الفلسفي مع مفاهيم الاستقلالية. تهدف المراجعة في النهاية إلى إعادة التفكير في الاستقلالية البشرية في ضوء استقلالية الآلات والآثار الأخلاقية التي تطرحها تقنيات الذكاء الاصطناعي.
النتائج
تكشف الأدبيات التي تمت مراجعتها حول الاستقلالية البشرية عن نقص في الإجماع بشأن تعريفها، حيث تقدم مجموعة متنوعة من التفسيرات التي تعكس التعقيدات الموجودة في أخلاقيات الذكاء الاصطناعي والمناقشات الفلسفية. على مستوى أساسي، تُميز الاستقلالية البشرية بمفاهيم تقليدية مثل الحكم الذاتي، وتقرير المصير، والحكم الذاتي. يركز حوالي نصف الأدبيات على الاستقلالية الشخصية، بينما يتناول جزء أصغر الاستقلالية الأخلاقية. تصنف حسابات معاصرة مختلفة الاستقلالية إلى أطر هيكلية، وتأليف ذاتي، وعلاقاتية، كل منها يقدم وجهات نظر متميزة حول كيفية تكوين الاستقلالية أو تأثيرها من قبل العلاقات الاجتماعية والتفضيلات الفردية.
تأثير الذكاء الاصطناعي على الاستقلالية البشرية متعدد الأوجه، حيث تسلط الأدبيات الضوء على كل من التحديات والفرص، على الرغم من أنها تركز بشكل أساسي على الأولى. تشمل القضايا الرئيسية التلاعب، حيث يمكن لتقنيات الذكاء الاصطناعي، مثل أنظمة التوصية والذكاء الاصطناعي التوليدي، استغلال نقاط الضعف في اتخاذ القرار وتشكيل بيئات الاختيار، مما يقوض التفكير العقلاني واتخاذ القرار الأصيل. يمكن أن يؤثر هذا التلاعب على جوانب مختلفة من الاستقلالية، حيث تشير بعض الدراسات إلى أنه بينما قد ي compromise الاستقلالية الوصفية، فإنه لا ينتهك بالضرورة الاستقلالية المعيارية. يتم تنظيم تصنيف تأثير الذكاء الاصطناعي على الاستقلالية إلى نوعين رئيسيين: الوساطة بواسطة الذكاء الاصطناعي، التي تؤثر على العمليات الداخلية للتفكير، وأتمتة الذكاء الاصطناعي، التي تؤثر على القدرات الخارجية في اتخاذ القرار. بشكل عام، تؤكد الأدبيات على أهمية السياق والشبكات العلائقية الأوسع في فهم آثار الذكاء الاصطناعي على الاستقلالية البشرية.
المناقشة
تكشف المناقشة حول الاستقلالية البشرية ضمن أخلاقيات الذكاء الاصطناعي عن مشهد معقد يتميز بتصورات متنوعة يمكن تصنيفها على محورين رئيسيين: الداخلية مقابل الخارجية والإجرائية مقابل الجوهرية. تركز الحسابات الداخلية على العناصر النفسية الفردية، بينما تشمل وجهات النظر الخارجية السياقات الاجتماعية والعلاقات. تؤكد النظريات الإجرائية على عمليات تشكيل الدوافع، بينما تأخذ وجهات النظر الجوهرية في الاعتبار محتوى تلك الدوافع. تسلط الأدبيات الضوء على شروط مختلفة للاستقلالية، بما في ذلك الكفاءة، والأصالة، والحرية، والفرص، والدعم الاجتماعي، مما يبرز الطبيعة المتعددة الأوجه للاستقلالية في سياق التفاعلات مع الذكاء الاصطناعي.
تشير التحليلات إلى تحول من الأطر الفردية التقليدية، مثل الاستقلالية الكانتية، نحو الحسابات العلائقية التي تعترف بترابط الأفراد ضمن السياقات الاجتماعية. هذا الانتقال ذو صلة خاصة في تقييم تأثير الذكاء الاصطناعي على الاستقلالية الشخصية والأخلاقية، حيث يمكن أن تقوض أنظمة الذكاء الاصطناعي وتُعزز من اتخاذ القرار المستقل. على سبيل المثال، بينما قد يسهل الذكاء الاصطناعي اتخاذ خيارات مستنيرة، فإنه يمكن أيضاً أن يتلاعب بالتفضيلات ويحد من الخيارات، مما يثير مخاوف أخلاقية بشأن الإكراه والسيطرة. تشير الأدبيات إلى أن فهماً أكثر دقة للاستقلالية، يتضمن كل من وجهات النظر متعددة الأبعاد والعلاقاتية، ضروري لمعالجة آثار الذكاء الاصطناعي على الوكالة البشرية، خاصة بالنسبة للمجتمعات المهمشة. يدعو هذا النقاش المتطور إلى مزيد من الانخراط مع التقاليد الفلسفية غير الغربية لإثراء الإطار المفاهيمي للاستقلالية في أخلاقيات الذكاء الاصطناعي.
DOI: https://doi.org/10.1007/s43681-025-00958-4
Publication Date: 2026-02-01
Author(s): Eleonora Catena
Primary Topic: Ethics and Social Impacts of AI
Overview
This section presents a review of the scholarly literature on AI ethics, specifically focusing on the impact of AI technologies on human autonomy. The review aims to organize and clarify the ongoing debate surrounding this topic, which is characterized by its heterogeneous and unstructured nature. It begins by delineating the various conceptions of human autonomy found in the literature, highlighting how differing interpretations influence analyses of AI’s effects.
The review identifies two primary concerns regarding AI’s impact on autonomy: first, the mediation of human activities by AI, which alters autonomous deliberation, decision-making, and behavior; and second, the automation of activities that changes the conditions necessary for autonomous choice and action. This categorization underscores that the effects of AI technologies are contingent upon the specific system, context, and understanding of autonomy involved. Ultimately, the literature review proposes a common framework to enhance comprehension of the key concepts and issues, while also suggesting avenues for future research.
Introduction
The introduction of the research paper emphasizes the significance of human autonomy as a fundamental value across various philosophical traditions, particularly in the context of contemporary challenges posed by artificial intelligence (AI) technologies. It highlights that the interaction with AI raises critical issues regarding autonomy, including opportunities for enhanced decision-making and threats such as manipulation and surveillance. The paper aims to provide a comprehensive literature review that clarifies the different conceptions of autonomy in AI ethics and categorizes the impacts of AI on human autonomy, thereby identifying gaps for future research.
The review is structured into two main parts: the first surveys various interpretations of autonomy found in the literature, illustrating how these differing accounts influence assessments of AI’s effects. The second part categorizes the ways AI technologies affect autonomy, noting that the impact varies based on the specific AI system, context, and understanding of autonomy. The methodology and findings are presented qualitatively, followed by a critical analysis. This work is positioned as a unique contribution to the field, integrating diverse perspectives on human autonomy and AI while addressing literature up to December 2024.
Methods
The methodology of this literature review employs a critical or narrative philosophical approach to synthesize, analyze, and evaluate existing literature on the impact of artificial intelligence (AI) on human autonomy. The review commenced with literature familiar to the author, supplemented by a structured search through databases such as PhilPapers and Google Scholar, focusing on philosophical and ethical discussions surrounding AI’s influence on autonomy. The selection process involved identifying key themes through an in-depth analysis of texts, which aimed to uncover common patterns, gaps, and emerging questions. This flexible approach allowed for the incorporation of both pre-existing philosophical concepts and new themes arising from the literature.
The review encompasses a diverse range of literature, including both published and unpublished works, and spans various domains affected by AI, such as healthcare and education. It highlights the dual nature of AI’s impact on autonomy, where it can both reproduce traditional threats (e.g., manipulation and surveillance) and introduce novel challenges (e.g., “microtargeting” and “hypernudging”). The findings suggest that while AI may evolve existing phenomena, the extent of its novelty remains an open question, necessitating further philosophical engagement with concepts of autonomy. The review ultimately aims to rethink human autonomy in light of machine autonomy and the ethical implications posed by AI technologies.
Results
The reviewed literature on human autonomy reveals a lack of consensus regarding its definition, presenting a diverse array of interpretations that echo the complexities found in AI ethics and philosophical discussions. At a fundamental level, human autonomy is characterized by traditional notions such as self-governance, self-determination, and self-rule. Approximately half of the literature focuses on personal autonomy, while a smaller subset addresses moral autonomy. Various contemporary accounts categorize autonomy into structuralist, self-authorship, and relational frameworks, each offering distinct perspectives on how autonomy is constituted or influenced by social relations and individual preferences.
The impact of AI on human autonomy is multifaceted, with literature highlighting both challenges and opportunities, though it predominantly emphasizes the former. Key issues include manipulation, where AI technologies, such as recommender systems and generative AI, can exploit decisional weaknesses and shape choice environments, thereby undermining rational deliberation and authentic decision-making. This manipulation can affect different aspects of autonomy, with some studies suggesting that while it may compromise descriptive autonomy, it does not necessarily infringe upon normative autonomy. The classification of AI’s impact on autonomy is organized into two main modalities: AI mediation, which influences internal deliberative processes, and AI automation, which affects external decision-making capabilities. Overall, the literature underscores the importance of context and the broader relational networks in understanding AI’s effects on human autonomy.
Discussion
The discussion on human autonomy within AI ethics reveals a complex landscape characterized by diverse conceptualizations that can be categorized along two primary axes: internalism versus externalism and proceduralism versus substantivism. Internalist accounts focus on individual psychological elements, while externalist perspectives incorporate social contexts and relationships. Proceduralist theories emphasize the processes of motive formation, whereas substantivist views consider the content of those motives. The literature highlights various conditions of autonomy, including competency, authenticity, freedom, opportunities, and social support, underscoring the multifaceted nature of autonomy in the context of AI interactions.
The analysis indicates a shift from traditional individualistic frameworks, such as Kantian autonomy, towards relational accounts that recognize the interconnectedness of individuals within social contexts. This transition is particularly relevant in assessing AI’s impact on personal and moral autonomy, as AI systems can both undermine and enhance autonomous decision-making. For instance, while AI may facilitate informed choices, it can also manipulate preferences and limit options, raising ethical concerns about coercion and control. The literature suggests that a more nuanced understanding of autonomy, incorporating both multidimensional and relational perspectives, is essential for addressing the implications of AI on human agency, particularly for marginalized communities. This evolving discourse calls for greater engagement with non-Western philosophical traditions to enrich the conceptual framework of autonomy in AI ethics.