DOI: https://doi.org/10.1136/jmepb-2025-000010
تاريخ النشر: 2026-04-01
المؤلف: Lars Lindblom وآخرون
الموضوع الرئيسي: علم نفس الحكم الأخلاقي والعاطفي
نظرة عامة
في هذا القسم، يبني المؤلفون على إطار الذكاء الاصطناعي الأخلاقي (AI) الذي وضعه شايش بورغ، سينوت-أرمسترونغ، وكونيتزر (SSC) لاستكشاف تطبيقه في اتخاذ القرارات الطبية. يقترح إطار SSC منهجية من خمس خطوات لتدريب الذكاء الاصطناعي، والتي تشمل استقصاء الآراء الأخلاقية، واستخدام طرق استنباط التفضيلات، وتخيل التفضيلات لتخفيف التحيز، وتجميع التفضيلات الفردية، ونمذجة اتخاذ القرار الأخلاقي. بينما يعترف المؤلفون بجدوى الإطار، فإنهم يحددون ثلاث افتراضات إشكالية تتعلق بمفاهيم متميزة ولكنها متشابهة تدعمه.
لتحسين إطار SSC، يقترح المؤلفون نموذجًا أكثر دقة للذكاء الاصطناعي الأخلاقي من خلال التأكيد على ثلاث تمييزات مفاهيمية حاسمة: (1) التفضيلات مقابل الأسباب، (2) التصنيفات مقابل التأمل، و(3) التنبؤات مقابل الأحكام. من خلال التركيز على المفاهيم الأخيرة ضمن هذه الأزواج، يهدف المؤلفون إلى تطوير نظام ذكاء اصطناعي أخلاقي يحتفظ بقوة نهج SSC بينما يعالج قيوده، مما يوفر في النهاية أداة أكثر قوة لاتخاذ القرارات الأخلاقية في السياقات الطبية.
مقدمة
في مقدمة الورقة، يستكشف المؤلفون الدور المحتمل للذكاء الاصطناعي (AI) كمساعد في اتخاذ القرارات الأخلاقية في السياقات الطبية، خاصة في السيناريوهات العاجلة مثل زراعة الكلى. يشيرون إلى الإطار الذي اقترحه شايش بورغ، سينوت-أرمسترونغ، وكونيتزر (SSC) لتطوير نهج معزز للذكاء الاصطناعي الأخلاقي الذي لا يحتفظ فقط بفضائل نموذج SSC ولكن أيضًا يدمج صفات إضافية مناسبة لاتخاذ القرارات الأخلاقية. يؤكد المؤلفون على أهمية التمييز بين ثلاثة أزواج من المفاهيم: التفضيلات مقابل الأسباب، التصنيفات مقابل التأمل، والتنبؤات مقابل الأحكام، بهدف إنشاء إطار شامل أكثر للذكاء الاصطناعي الأخلاقي.
تسلط الورقة الضوء على المناقشات الجارية في تقاطع الأخلاق والذكاء الاصطناعي، خاصة في أخلاقيات الطب، حيث تم تصميم المستشارين الأخلاقيين الاصطناعيين (AMAs) لمساعدة الأفراد في التغلب على القيود المعرفية التي تعيق اتخاذ القرارات الأخلاقية. على عكس AMAs، التي تركز على تحديد التفضيلات الشخصية، يجادل المؤلفون بأن الذكاء الاصطناعي الأخلاقي يجب أن يقدم توجيهًا معياريًا من خلال اتخاذ أحكام أخلاقية بناءً على الأسباب المؤيدة والمعارضة لمختلف الأفعال. يحذرون من أن فعالية الذكاء الاصطناعي في معالجة الأسئلة الأخلاقية تعتمد على تصميمه؛ فإن نظام الذكاء الاصطناعي الذي لا يستطيع النظر في العوامل المعيارية سيكون غير كافٍ لتقديم نصائح أخلاقية، بغض النظر عن ذكائه في مجالات أخرى.
مناقشة
في قسم المناقشة من الورقة، يؤكد المؤلفون على أهمية نموذج PEAS (مقياس الأداء، البيئة، المحركات، والمستشعرات) في تصميم وكلاء الذكاء الاصطناعي، خاصة في سياق الذكاء الاصطناعي الأخلاقي. يجادلون بأنه بينما يمكن تصميم سيارات الأجرة ذاتية القيادة بمقاييس أداء محددة واعتبارات بيئية، يجب تطبيق نفس الدقة عند تطوير الذكاء الاصطناعي لاتخاذ القرارات الأخلاقية. يقترح المؤلفون أن الذكاء الاصطناعي الأخلاقي يجب أن يستند إلى الأسباب بدلاً من مجرد التفضيلات، مشيرين إلى أن الأحكام الأخلاقية تنشأ من عملية توازن تأملي بدلاً من مجرد تصنيف بسيط للتفضيلات. هذا التمييز حاسم، حيث يعني أن الذكاء الاصطناعي الأخلاقي يجب أن يركز على فهم الأسباب الكامنة وراء الأفعال بدلاً من مجرد التنبؤ بالنتائج بناءً على التفضيلات.
يحدد المؤلفون استراتيجية من أربع خطوات لتطوير الذكاء الاصطناعي الأخلاقي، تبدأ باستقصاء التفضيلات الأخلاقية لتحديد الميزات الأخلاقية ذات الصلة، تليها استنباط التفضيلات لتحديد وزن هذه الميزات. يدعون إلى التخيل لتخفيف التحيزات وأخيرًا يقترحون نمذجة الخيارات الأخلاقية باستخدام تقنيات إحصائية. يجادل المؤلفون بأن هذا النهج سيؤدي إلى أنظمة ذكاء اصطناعي تتصرف بطرق تتماشى بشكل أقرب مع المعايير الأخلاقية المجتمعية. يحذرون من الخلط بين التنبؤات والأحكام الأخلاقية، مؤكدين أن التأمل الأخلاقي يتضمن الإجابة على أسئلة “يجب” بدلاً من مجرد التنبؤ بسيناريوهات “هو”. هذا التمييز حيوي لضمان أن تقدم أنظمة الذكاء الاصطناعي توجيهًا أخلاقيًا ذا مغزى بدلاً من تنبؤات بسيطة تعتمد على البيانات الإحصائية.
DOI: https://doi.org/10.1136/jmepb-2025-000010
Publication Date: 2026-04-01
Author(s): Lars Lindblom et al.
Primary Topic: Psychology of Moral and Emotional Judgment
Overview
In this section, the authors build upon the moral artificial intelligence (AI) framework established by Schaich Borg, Sinnott-Armstrong, and Conitzer (SSC) to explore its application in medical decision-making. The SSC framework proposes a five-step methodology for training AI, which includes surveying moral views, employing preference elicitation methods, idealizing preferences to mitigate bias, aggregating individual preferences, and modeling moral decision-making. While acknowledging the framework’s feasibility, the authors identify three problematic assumptions related to distinct but similar concepts that underpin it.
To enhance the SSC framework, the authors propose a more nuanced model of moral AI by emphasizing three critical conceptual distinctions: (1) preferences versus reasons, (2) rankings versus deliberation, and (3) predictions versus judgments. By focusing on the latter concepts within these pairs, the authors aim to develop a moral AI system that retains the strengths of the SSC approach while addressing its limitations, ultimately providing a more robust tool for moral decision-making in medical contexts.
Introduction
In the introduction of the paper, the authors explore the potential role of artificial intelligence (AI) as a moral decision aid in medical contexts, particularly in urgent scenarios such as kidney transplants. They reference the framework proposed by Schaich Borg, Sinnott-Armstrong, and Conitzer (SSC) to develop an enhanced approach to moral AI that not only retains the SSC model’s virtues but also incorporates additional qualities suitable for moral decision-making. The authors emphasize the importance of distinguishing between three pairs of concepts: preferences versus reasons, rankings versus deliberation, and predictions versus judgments, aiming to create a more comprehensive moral AI framework.
The paper highlights ongoing discussions in the intersection of morality and AI, particularly in medical ethics, where artificial moral advisors (AMAs) are designed to assist individuals in overcoming cognitive limitations that impede moral decision-making. Unlike AMAs, which focus on identifying personal preferences, the authors argue that moral AI should provide normative guidance by making moral judgments based on the reasons for and against various actions. They caution that the effectiveness of AI in addressing moral questions hinges on its design; an AI system incapable of considering normative factors would be inadequate for providing moral advice, regardless of its intelligence in other domains.
Discussion
In the discussion section of the paper, the authors emphasize the importance of the PEAS (Performance measure, Environment, Actuators, and Sensors) model in designing AI agents, particularly in the context of moral AI. They argue that while self-driving taxis can be designed with specific performance measures and environmental considerations, the same precision must be applied when developing AI for moral decision-making. The authors propose that moral AI should be informed by reasons rather than mere preferences, suggesting that moral judgments arise from a reflective equilibrium process rather than a simple ranking of preferences. This distinction is crucial, as it implies that moral AI should focus on understanding the underlying reasons for actions rather than just predicting outcomes based on preferences.
The authors outline a four-step strategy for developing moral AI, starting with surveying moral preferences to identify relevant moral features, followed by preference elicitation to determine the weight of these features. They advocate for idealization to mitigate biases and finally propose modeling moral choices using statistical techniques. The authors argue that this approach will yield AI systems that behave in ways that align more closely with societal moral standards. They caution against conflating predictions with moral judgments, asserting that moral deliberation involves answering “ought” questions rather than merely forecasting “is” scenarios. This distinction is vital for ensuring that AI systems provide meaningful moral guidance rather than simplistic predictions based on statistical data.