DOI: https://doi.org/10.1080/10447318.2026.2650562
تاريخ النشر: 2026-05-07
المؤلف: Timothée Schmude وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي القابل للتفسير (XAI)
نظرة عامة
تبحث هذه الورقة البحثية في نشر أنظمة الذكاء الاصطناعي في المؤسسات العامة، مع التأكيد على أهمية مشاركة أصحاب المصلحة في فهم ومناقشة تداعيات هذه التقنيات. تسلط الدراسة الضوء على الحاجة إلى إعدادات جماعية في مناقشات الذكاء الاصطناعي القابل للتفسير (XAI)، والتي لم يتم استكشافها بشكل كافٍ. من خلال دراسة مقابلات تشمل 8 مجموعات تركيز و12 مشاركًا فرديًا، يفحص المؤلفون كيف تسهل التفسيرات المعيارية—المهيكلة في أربع فئات معلوماتية—الفهم واتخاذ القرار بشأن نشر الذكاء الاصطناعي. تشير النتائج إلى أنه بينما انخرط المشاركون الأفراد بعمق مع التفسيرات وأظهروا أداءً أعلى في المهام، إلا أنهم افتقروا إلى التبادل التعاوني الموجود في الإعدادات الجماعية. على العكس من ذلك، استفادت المجموعات من الفهم المشترك والحجة الجماعية، على الرغم من أن بعضهم واجه إخفاقات تعاونية.
تخلص الورقة إلى أن تصميم التفسيرات يجب أن يكون مصممًا لتعزيز التفاعلات الجماعية ودعم المناقشة الفعالة. تكشف التحليلات أن التفسيرات يمكن أن تؤثر بشكل كبير على الفهم وثقة القرار والديناميات الاجتماعية في كل من السياقات الفردية والجماعية. تشمل التوصيات تعديل تصميمات التفسير لتسليط الضوء على المعلومات الحيوية وتعزيز التفاعلات الإنتاجية بين أعضاء المجموعة. تسهم هذه الدراسة في أبحاث XAI من خلال توضيح كيف يمكن أن empower المبتدئين في الذكاء الاصطناعي للانخراط بشكل هادف مع أنظمة الذكاء الاصطناعي العامة، مما يعزز في النهاية الخطاب الديمقراطي حول نشرها.
مقدمة
تناقش مقدمة الورقة زيادة نشر أنظمة الذكاء الاصطناعي في القطاع العام، لا سيما في مجالات حيوية مثل التوظيف والهجرة والعدالة الجنائية. يمكن أن تؤثر هذه الأنظمة بشكل كبير على الأفراد، مما يؤدي غالبًا إلى قضايا مثل التمييز والتصنيف الخاطئ، خاصة عندما تكون عمليات اتخاذ القرار فيها غير شفافة. يجادل المؤلفون بأن أنظمة الذكاء الاصطناعي العامة يجب أن تُعتبر مسائل ذات اهتمام عام، مما يتطلب الشفافية، والقابلية للتفسير، ومشاركة الجمهور. بينما تركز الأبحاث الحالية في الذكاء الاصطناعي القابل للتفسير (XAI) بشكل أساسي على الفهم الفردي، يبرز المؤلفون الفوائد المحتملة للإعدادات الجماعية في تعزيز الفهم وتسهيل المناقشة بين المبتدئين في الذكاء الاصطناعي—الأفراد الذين ليس لديهم خبرة تقنية في الذكاء الاصطناعي.
لمعالجة الفجوة في أبحاث XAI المتعلقة بالديناميات الجماعية واحتياجات غير المتخصصين، يقترح المؤلفون تصميم تفسير معياري يشمل أربع فئات معلوماتية: البيانات، تفاصيل النظام، الاستخدام، والسياق. يهدف هذا التصميم إلى دعم كل من الفهم الفردي والجماعي من خلال السماح للمستخدمين باختيار التفسيرات المخصصة لتفضيلاتهم. توضح الورقة دراسة شملت 43 مشاركًا، والتي تضمنت مجموعات تركيز ومقابلات، لاستكشاف كيف يمكن أن تساعد هذه التفسيرات المبتدئين في الذكاء الاصطناعي في فهم ومناقشة أنظمة الذكاء الاصطناعي. تركز أسئلة البحث على فعالية التصميم المعياري في تعزيز الفهم ودور التفسيرات في عمليات اتخاذ القرار. تهدف النتائج إلى المساهمة في تطوير الذكاء الاصطناعي الموجه نحو الإنسان من خلال تقديم رؤى حول تصميم التفسيرات التي تعزز الخطاب العام المستنير حول أنظمة الذكاء الاصطناعي.
الطرق
في هذه الدراسة، استخدمنا منهجية مقابلات شبه منظمة قائمة على المهام تشمل 43 مشاركًا، تم تنظيمهم في ثماني مجموعات تركيز تضم 3-5 أفراد لكل منها، بالإضافة إلى 12 مقابلة فردية. شارك المشاركون في حالة استخدام محددة لتوقعات التوظيف وتم تزويدهم بسلسلة من التفسيرات المتعلقة بالنظام قبل إكمال أربع مهام محددة واتخاذ قرارات بشأن نشر النظام. تفاوتت مدة المقابلات، حيث استمرت بين 90-120 دقيقة لمجموعات التركيز وحوالي 60 دقيقة للجلسات الفردية.
ركز تحليل البيانات على كل من التفاعلات الفردية والجماعية مع التفسيرات المقدمة، بالإضافة إلى تقارير المشاركين الذاتية وعمليات المناقشة. سمح هذا النهج الشامل بفهم عميق لوجهات نظر المشاركين وعمليات اتخاذ القرار المتعلقة بنظام توقعات التوظيف. تم إجراء الدراسة وفقًا للإرشادات الأخلاقية المعتمدة من قبل لجنة أخلاقيات البحث في الجامعة.
المناقشة
تؤكد قسم المناقشة في الورقة على أهمية الذكاء الاصطناعي القابل للتفسير الموجه نحو الإنسان (HCXAI) في تعزيز أنظمة الذكاء الاصطناعي المسؤولة. يبرز أن التفسيرات الفعالة ضرورية لأصحاب المصلحة، بما في ذلك المستخدمين وموضوعات القرار، لفهم وتحدي قرارات الذكاء الاصطناعي، لا سيما في السياقات عالية المخاطر مثل التوظيف والعدالة الجنائية. يدعو إطار HCXAI إلى تفسيرات ليست فقط شفافة ولكن أيضًا ذات صلة بالسياق، مع الأخذ في الاعتبار الديناميات الاجتماعية واحتياجات أصحاب المصلحة المتنوعة المعنية في نشر الذكاء الاصطناعي. تؤكد الأبحاث على ضرورة تصميم تفسيرات مخصصة للمبتدئين في الذكاء الاصطناعي—الأفراد ذوي الخبرة المحدودة في التعلم الآلي—من خلال معالجة احتياجاتهم المعلوماتية المحددة، والتي تشمل فهم السياق والنوايا والتداعيات الأخلاقية لأنظمة الذكاء الاصطناعي.
تستكشف الورقة أيضًا تصميم التفسيرات من خلال نهج معياري، مما يسمح للمستخدمين بالتفاعل مع المعلومات بمستويات مختلفة من التفاصيل. تحدد أن أساليب XAI التقليدية غالبًا ما تلبي احتياجات الخبراء، وهناك حاجة ملحة لتفسيرات تتناسب مع المستخدمين غير الخبراء. تشير النتائج التجريبية إلى أن الفهم يختلف بناءً على العوامل الديموغرافية والمعرفة السابقة، مما يدل على أن تخصيص التفسيرات أمر ضروري. تقدم الدراسة أيضًا عدسات تحليلية للفهم والمناقشة، حيث تفترض أن التفسيرات الفعالة يمكن أن تعزز كل من الفهم الفردي والتعاوني لأنظمة الذكاء الاصطناعي، مما يسهل اتخاذ قرارات مستنيرة في السياقات العامة. في النهاية، تهدف الأبحاث إلى المساهمة في الخطاب حول الذكاء الاصطناعي العام من خلال تحديد التنسيقات التي تدعم المناقشة بين مجموعات أصحاب المصلحة المتنوعة، وبالتالي معالجة التداعيات الأخلاقية والاجتماعية للذكاء الاصطناعي في المؤسسات العامة.
القيود
تعترف الدراسة بعدة قيود قد تؤثر على تفسير وعمومية نتائجها. أولاً، حجم العينة المحدود حال دون تحليل تأثير الجنس و/أو النوع، مما يقيد قابلية تطبيق النتائج في هذه الأبعاد، على الرغم من أن الصلاحية العامة تظل سليمة. بالإضافة إلى ذلك، قد يؤدي تجنيد المشاركين من منظمات داخل منطقة جغرافية واحدة إلى إدخال تحيزات إقليمية أو ثقافية. قد يؤثر السياق الاجتماعي التقني المحدد لحالة الاستخدام التي تم فحصها أيضًا على تصورات المشاركين، مما يشير إلى أن الاختلافات في المجال (مثل توقعات القابلية للتوظيف مقابل الموافقة على الائتمان) قد تغير فعالية التفسيرات المقدمة.
علاوة على ذلك، أظهرت عينة المشاركين تحيزًا نحو الأفراد ذوي التعليم الجامعي، وهو ما تم التخفيف منه إلى حد ما من خلال التحليل المقارن مع المشاركين في مجموعات التركيز ذوي الخلفيات التعليمية المماثلة. قد يؤدي الاعتماد على منظمات المجتمع المدني لتجنيد المشاركين إلى تحيزات اختيار، بما في ذلك أخذ العينات المريحة، وتحامل الاختيار الذاتي، وتحامل المحاور. لمعالجة هذه القضايا، وضع الباحثون أهدافًا وأساليب بحث واضحة قبل تجنيد المشاركين، واستخدموا استراتيجيات تجنيد متنوعة، وضمان تكوينات جماعية متنوعة. في النهاية، أولت الطبيعة النوعية للدراسة الأولوية لاستكشاف “الحالات ذات الصلة النظرية” بدلاً من السعي لتحقيق عمومية إحصائية، مما يبرز أهمية السياق الدقيق في معالجة أسئلة البحث.
DOI: https://doi.org/10.1080/10447318.2026.2650562
Publication Date: 2026-05-07
Author(s): Timothée Schmude et al.
Primary Topic: Explainable Artificial Intelligence (XAI)
Overview
This research paper investigates the deployment of AI systems in public institutions, emphasizing the importance of stakeholder engagement in understanding and deliberating the implications of these technologies. The study highlights the need for group settings in explainable AI (XAI) discussions, which have been underexplored. Through an interview study involving 8 focus groups and 12 individual participants, the authors examine how modular explanations—structured into four information categories—facilitate understanding and decision-making regarding AI deployment. Findings indicate that while individual participants engaged deeply with explanations and demonstrated higher task performance, they lacked the collaborative exchange present in group settings. Conversely, groups benefited from shared understanding and collective argumentation, although some experienced collaborative failures.
The paper concludes that the design of explanations should be tailored to enhance group interactions and support effective deliberation. The analysis reveals that explanations can significantly influence understanding, decision confidence, and social dynamics in both individual and group contexts. Recommendations include modifying explanation designs to emphasize critical information and foster productive interactions among group members. This work contributes to XAI research by illustrating how structured explanations can empower AI novices to engage meaningfully with public AI systems, ultimately enhancing democratic discourse around their deployment.
Introduction
The introduction of the paper discusses the increasing deployment of AI systems in the public sector, particularly in critical areas such as employment, migration, and criminal justice. These systems can significantly impact individuals, often leading to issues like discrimination and misclassification, especially when their decision-making processes are opaque. The authors argue that public AI systems should be treated as matters of public interest, necessitating transparency, explainability, and public engagement. While existing research in explainable AI (XAI) primarily focuses on individual understanding, the authors highlight the potential benefits of group settings for enhancing comprehension and facilitating deliberation among AI novices—individuals without technical expertise in AI.
To address the gap in XAI research regarding group dynamics and the needs of laypeople, the authors propose a modular explanation design that encompasses four information categories: data, system details, usage, and context. This design aims to support both individual and group understanding by allowing users to select explanations tailored to their preferences. The paper outlines a study involving 43 participants, which included focus groups and interviews, to explore how these explanations can aid AI novices in understanding and deliberating on AI systems. The research questions focus on the effectiveness of the modular design in enhancing understanding and the role of explanations in decision-making processes. The findings aim to contribute to the development of human-centered AI by providing insights into the design of explanations that foster informed public discourse on AI systems.
Methods
In this study, we employed a task-based semi-structured interview methodology involving 43 participants, organized into eight focus groups of 3-5 individuals each, alongside 12 individual interviews. Participants engaged with a specific employment prediction use case and were provided with a series of explanations regarding the system prior to completing four designated tasks and making decisions about the system’s deployment. The interviews varied in length, lasting between 90-120 minutes for focus groups and approximately 60 minutes for individual sessions.
Data analysis focused on both individual and collective interactions with the provided explanations, as well as participants’ self-reports and deliberation processes. This comprehensive approach allowed for an in-depth understanding of participants’ perspectives and decision-making processes related to the employment prediction system. The study was conducted in accordance with ethical guidelines approved by the university’s research ethics committee.
Discussion
The discussion section of the paper emphasizes the significance of human-centered explainable AI (HCXAI) in fostering responsible AI systems. It highlights that effective explanations are crucial for stakeholders, including users and decision subjects, to comprehend and contest AI decisions, particularly in high-stakes contexts like employment and criminal justice. The HCXAI framework advocates for explanations that are not only transparent but also contextually relevant, considering the social dynamics and diverse stakeholder needs involved in AI deployment. The research underscores the necessity of designing explanations tailored for AI novices—individuals with limited expertise in machine learning—by addressing their specific information needs, which include understanding the context, intentions, and ethical implications of AI systems.
The paper further explores the design of explanations through a modular approach, allowing users to engage with information at varying levels of detail. It identifies that while traditional XAI methods often cater to experts, there is a pressing need for explanations that resonate with non-expert users. Empirical findings suggest that comprehension varies based on demographic factors and prior knowledge, indicating that personalization of explanations is essential. The study also introduces analytical lenses of understanding and deliberation, positing that effective explanations can enhance both individual and collaborative understanding of AI systems, thereby facilitating informed decision-making in public contexts. Ultimately, the research aims to contribute to the discourse on public AI by identifying formats that support deliberation among diverse stakeholder groups, thereby addressing the ethical and social implications of AI in public institutions.
Limitations
The study acknowledges several limitations that may affect the interpretation and generalizability of its findings. Firstly, the limited sample size precluded an analysis of the impact of sex and/or gender, which restricts the broader applicability of the results in these dimensions, although the overall validity remains intact. Additionally, the recruitment of participants from organizations within a single geographical region may introduce regional or cultural biases. The specific sociotechnical context of the use case examined could also influence participants’ perceptions, suggesting that variations in domain (e.g., employability prediction versus credit approval) might alter the effectiveness of the explanations provided.
Moreover, the participant sample exhibited a bias towards individuals with university education, which was somewhat mitigated by comparative analysis with focus group participants of similar educational backgrounds. The reliance on civil society organizations for participant recruitment may have led to selection biases, including convenience sampling, self-selection bias, and interviewer bias. To address these issues, the researchers established clear research goals and methods prior to participant recruitment, employed diverse recruitment strategies, and ensured varied group compositions. Ultimately, the qualitative nature of the study prioritized the exploration of “theoretically relevant cases” rather than aiming for statistical generalizability, emphasizing careful contextualization in addressing the research questions.