DOI: https://doi.org/10.1038/s41598-025-04189-9
PMID: https://pubmed.ncbi.nlm.nih.gov/40603975
تاريخ النشر: 2025-07-02
المؤلف: Justin C. Cheung وآخرون
الموضوع الرئيسي: التفاعل بين الإنسان والآلات والسلامة
نظرة عامة
في هذه الدراسة، استكشفنا التفاعل المعقد بين قابلية تفسير الذكاء الاصطناعي المدركة، والثقة في مهندسي الذكاء الاصطناعي، والمواقف، ونية استخدام الطائرات المسيرة المستقلة المختلفة. تكشف نتائجنا أن قابلية تفسير الذكاء الاصطناعي المدركة تؤثر بشكل كبير على جميع أبعاد الثقة في مهندسي الذكاء الاصطناعي، حتى عند أخذ الثقة في نظام الذكاء الاصطناعي نفسه في الاعتبار. وهذا يشير إلى أن تأثير الذكاء الاصطناعي القابل للتفسير (XAI) قد يمتد إلى ما هو موجود في الأدبيات الحالية. على وجه التحديد، حددنا أن بعد الثقة في القدرة فقط هو الذي ارتبط بمواقف المستخدمين ونواياهم لاستخدام الطائرات، مع ملاحظة أنماط مشابهة في تأثيرات الوساطة بين قابلية تفسير الذكاء الاصطناعي المدركة ونية الاستخدام.
تساهم هذه النتائج في الإطار النظري المحيط بالذكاء الاصطناعي القابل للتفسير وتبرز ضرورة إجراء مزيد من الأبحاث حول العوامل البشرية ضمن نماذج الثقة. نوصي بأن يتبنى الباحثون الكميون نهجًا مقسمًا باستخدام نمذجة المعادلات الهيكلية للتحقيق في الثقة جنبًا إلى جنب مع البنى الكامنة المعقدة مثل إدراك المخاطر والفوائد. عمليًا، تدعو نتائجنا مصممي الذكاء الاصطناعي القابل للتفسير ومراسلي العلوم إلى النظر بعناية في آثار الذكاء الاصطناعي القابل للتفسير على الثقة في مهندسي الذكاء الاصطناعي، مما يبرز الحاجة إلى تحقيق توازن بين الثقة في كل من المهندسين والأنظمة التي يطورونها.
النتائج
يقدم قسم “النتائج” النتائج الرئيسية للدراسة، مسلطًا الضوء على النتائج المهمة المستمدة من الإجراءات التجريبية أو التحليلية المستخدمة. تشير البيانات إلى أن الفرضية الرئيسية كانت مدعومة، حيث كشفت التحليلات الإحصائية عن وجود علاقة قوية بين المتغيرات قيد التحقيق. على وجه التحديد، تظهر النتائج أن التدخل أدى إلى تحسين قابل للقياس في المتغير التابع، مع قيمة p أقل من 0.05، مما يشير إلى دلالة إحصائية.
بالإضافة إلى ذلك، يتضمن القسم تمثيلات رسومية للبيانات، والتي توضح الاتجاهات والأنماط التي تعزز النتائج. تناقش التحليلات أيضًا العوامل المربكة المحتملة وتأثيرها الضئيل على النتائج، مما يعزز من صحة الاستنتاجات المستخلصة. بشكل عام، تساهم النتائج في تقديم رؤى قيمة للجسم المعرفي القائم في هذا المجال، مما يقترح طرقًا للبحث المستقبلي والتطبيقات العملية.
المناقشة
يسلط قسم المناقشة في ورقة البحث الضوء على أهمية الذكاء الاصطناعي القابل للتفسير (XAI) في تعزيز فهم المستخدمين لأنظمة الذكاء الاصطناعي، معالجًا طبيعة “الصندوق الأسود” لهذه التقنيات. يُعرف الذكاء الاصطناعي القابل للتفسير بأنه طرق توفر تفسيرات مفهومة لسلوكيات الذكاء الاصطناعي، والتي تختلف في التطبيق عبر مجالات مثل الهندسة والعلوم الاجتماعية. تؤكد الورقة على أن القابلية للتفسير المدركة ضرورية لتعزيز الثقة في أنظمة الذكاء الاصطناعي ومطوريها، لا سيما في سياقات مثل المركبات المستقلة والطائرات المسيرة. تشير الدراسات التجريبية إلى أن القابلية للتفسير المدركة الأعلى ترتبط بإدراكات إيجابية من المستخدمين، بما في ذلك الثقة، والعدالة، والسلامة.
علاوة على ذلك، تستكشف الورقة الأبعاد النظرية للثقة في الذكاء الاصطناعي، مميزة بين الثقة في نظام الذكاء الاصطناعي والثقة في المهندسين وراءه. تفترض أن القابلية للتفسير يمكن أن تقلل من عدم اليقين، مما يعزز الثقة في قدرات المهندسين، ونياتهم، ونزاهتهم. يقترح المؤلفون نموذجًا مفاهيميًا حيث تؤثر القابلية للتفسير المدركة على الثقة في مهندسي الذكاء الاصطناعي، مما يؤثر بدوره على مواقف المستخدمين ونواياهم لتبني تقنيات الذكاء الاصطناعي، مثل الطائرات المسيرة المستقلة. يهدف هذا النموذج إلى توضيح التفاعل المعقد بين القابلية للتفسير والثقة وقبول المستخدم، مما يساهم في الفهم الأوسع للإدراكات العامة لتطبيقات الذكاء الاصطناعي.
القيود
تسلط قيود هذه الدراسة الضوء على عدة قيود رئيسية تؤثر على تفسير النتائج. أولاً، الطبيعة العرضية لمجموعة البيانات تحد من القدرة على إجراء استنتاجات سببية. بالإضافة إلى ذلك، قد تعكس قياسات القابلية للتفسير بشكل غير مباشر فهم المشاركين للذكاء الاصطناعي بدلاً من كونها قدرة نظامية حقيقية على القابلية للتفسير. تتفاقم هذه المشكلة من خلال الاستجابات الخيالية المطلوبة من المشاركين، حيث لم يتم تنفيذ الطائرات المسيرة المستقلة بعد في سنغافورة. علاوة على ذلك، قد تحدد الوعي المتزايد والتوقعات المحيطة بالطائرات المسيرة في سنغافورة من إمكانية تعميم النتائج.
على الرغم من هذه القيود، تساهم الدراسة في الفهم النظري للذكاء الاصطناعي القابل للتفسير (XAI) من خلال تقديم رؤى حول العلاقة بين الثقة في أنظمة الذكاء الاصطناعي والمهندسين. تقترح عدة طرق للبحث المستقبلي، مثل استكشاف كيفية تواصل الذكاء الاصطناعي القابل للتفسير بشكل فعال لتحقيق توازن بين الثقة، وتحديد ما يشكل “تفسيرات كاملة”، وتحديد التوقيت والسياق الأمثل لتواصل الذكاء الاصطناعي القابل للتفسير. يدعو المؤلفون إلى اتباع نهج تجريبي ونوعي يتضمن نظريات نفسية وبلاغية لدفع المجال إلى الأمام.
DOI: https://doi.org/10.1038/s41598-025-04189-9
PMID: https://pubmed.ncbi.nlm.nih.gov/40603975
Publication Date: 2025-07-02
Author(s): Justin C. Cheung et al.
Primary Topic: Human-Automation Interaction and Safety
Overview
In this study, we explored the complex interplay between perceived AI explainability, trust in AI engineers, attitudes, and the intention to use various autonomous passenger drones. Our findings reveal that perceived AI explainability significantly influences all dimensions of trust in AI engineers, even when accounting for trust in the AI system itself. This suggests that the impact of explainable AI (XAI) may extend beyond existing literature. Specifically, we identified that only the dimension of trust in ability was linked to user attitudes and intentions to use the drones, with similar patterns observed in the mediation effects between perceived AI explainability and use intention.
These results contribute to the theoretical framework surrounding XAI and highlight the necessity for further research into human factors within trust models. We recommend that quantitative researchers adopt a segmented approach using structural equation modeling to investigate trust alongside complex latent constructs such as risk and benefit perceptions. Practically, our findings urge XAI designers and science communicators to carefully consider the implications of XAI on trust in AI engineers, emphasizing the need to balance trust in both the engineers and the systems they develop.
Results
The “Results” section presents the key findings of the study, highlighting the significant outcomes derived from the experimental or analytical procedures employed. The data indicates that the primary hypothesis was supported, with statistical analyses revealing a strong correlation between the variables under investigation. Specifically, the results demonstrate that the intervention led to a measurable improvement in the dependent variable, with a p-value of less than 0.05, indicating statistical significance.
Additionally, the section includes graphical representations of the data, which illustrate trends and patterns that reinforce the findings. The analysis also discusses potential confounding factors and their minimal impact on the results, thereby strengthening the validity of the conclusions drawn. Overall, the findings contribute valuable insights to the existing body of knowledge in the field, suggesting avenues for future research and practical applications.
Discussion
The discussion section of the research paper highlights the significance of Explainable AI (XAI) in enhancing user understanding of AI systems, addressing the “black box” nature of these technologies. XAI is defined as methods that provide intelligible explanations of AI behaviors, which vary in application across fields such as engineering and social sciences. The paper emphasizes that perceived explainability is crucial for fostering trust in AI systems and their developers, particularly in contexts like autonomous vehicles and drones. Empirical studies indicate that higher perceived explainability correlates with positive user perceptions, including trust, fairness, and safety.
Furthermore, the paper explores the theoretical dimensions of trust in AI, distinguishing between trust in the AI system and trust in the engineers behind it. It posits that explainability can reduce uncertainty, thereby enhancing trust in engineers’ abilities, benevolence, and integrity. The authors propose a conceptual model where perceived explainability influences trust in AI engineers, which subsequently affects user attitudes and intentions to adopt AI technologies, such as autonomous passenger drones. This model aims to elucidate the complex interplay between explainability, trust, and user acceptance, contributing to the broader understanding of public perceptions of AI applications.
Limitations
The limitations of this study highlight several key constraints that affect the interpretation of the findings. Firstly, the cross-sectional nature of the dataset restricts the ability to make causal inferences. Additionally, the measurement of explainability may inadvertently reflect participants’ comprehension of AI rather than a true systemic affordance for explainability. This issue is compounded by the imaginative responses required from participants, as autonomous passenger drones have not yet been implemented in Singapore. Furthermore, the heightened awareness and expectations surrounding passenger drones in Singapore may limit the generalizability of the results.
Despite these limitations, the study contributes to the theoretical understanding of Explainable Artificial Intelligence (XAI) by providing insights into the relationship between trust in AI systems and engineers. It suggests several avenues for future research, such as exploring how XAI communication can effectively balance trust, identifying what constitutes “complete” explanations, and determining the optimal timing and context for XAI communication. The authors advocate for experimental and qualitative approaches that incorporate psychological and rhetorical theories to further advance the field.