DOI: https://doi.org/10.1007/s00146-025-02378-8
تاريخ النشر: 2025-05-06
المؤلف: Minh-Tay Huynh وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي في تفاعلات الخدمة
نظرة عامة
تستكشف هذه الدراسة العوامل التي تؤثر على ثقة المستخدم في أنظمة الذكاء الاصطناعي التوليدي (GenAI)، مع التركيز على الآثار الاجتماعية لهذه الثقة. مستندة إلى نظرية الأنظمة الاجتماعية التقنية واستخدام إطار العمل FAT (العدالة، المساءلة، الشفافية)، تحدد الأبحاث العوامل الرئيسية التي تسبق الثقة الشبيهة بالإنسان، بما في ذلك العدالة، الحضور الاجتماعي، والانخراط العاطفي. يكشف نموذج المعادلات الهيكلية مع عينة من 244 مشاركًا أن العدالة تعزز الثقة بشكل كبير، بينما لا تؤثر المساءلة والشفافية بشكل ملحوظ. بالإضافة إلى ذلك، يؤثر الحضور الاجتماعي والعواطف بشكل إيجابي على الثقة، في حين أن التشخيص لا يؤثر عليها بشكل كبير. تشير النتائج إلى أن الثقة تلعب دورًا حاسمًا في تشكيل مواقف المستخدمين، والأداء المدرك، والنوايا السلوكية تجاه أنظمة GenAI.
كما تعترف الأبحاث بعدة قيود، بما في ذلك تركيزها على تطبيقات GenAI في حل المشكلات التنظيمية وسياقات اتخاذ القرار، مما قد يسبب تحيزًا في تصورات العدالة والمساءلة. وتؤكد على الحاجة إلى دراسات مستقبلية لاستكشاف ديناميات الثقة عبر تطبيقات الذكاء الاصطناعي المختلفة وسياقات المستخدمين لتعزيز فهم التفاعلات بين الذكاء الاصطناعي والبشر. علاوة على ذلك، تسلط الدراسة الضوء على النقاش الفلسفي المحيط بملاءمة استخدام مصطلح “الثقة” فيما يتعلق بالذكاء الاصطناعي، مما يشير إلى أن الأبحاث المستقبلية يجب أن تأخذ في الاعتبار الآثار الأخلاقية للثقة في أنظمة الذكاء الاصطناعي. كما تم الإشارة إلى القيود المتعلقة بتمثيل العينة الديموغرافي وقياس الثقة الثابت، موصية بضرورة استخدام مجموعات سكانية أوسع وأكثر تنوعًا للتحقق من صحة نموذج البحث في المستقبل.
مقدمة
تسلط مقدمة ورقة البحث الضوء على التأثير التحويلي لتقنيات الذكاء الاصطناعي التوليدي (GenAI) على مختلف القطاعات، بما في ذلك الرعاية الصحية، والتعليم، والمالية، مع الاعتراف أيضًا بالمخاوف الكبيرة بشأن آثارها الأخلاقية والتحيزات. مع اكتساب نماذج GenAI مثل ChatGPT وGoogle’s Gemini زخمًا، يصبح النقاش حول الثقة والموثوقية في أنظمة الذكاء الاصطناعي أكثر أهمية. يؤكد المؤلفون أن إنشاء الثقة في الذكاء الاصطناعي أمر ضروري لتعظيم إمكاناته من أجل الخير الاجتماعي، ومع ذلك فإن الطبيعة غير المتوقعة لهذه الأنظمة تعقد فهم ديناميات الثقة، مما يستلزم أساليب مبتكرة لتعزيز التفاعلات الموثوقة.
تحدد الورقة فجوة في الأدبيات بشأن العلاقة بين تصورات المستخدمين لـ GenAI، لا سيما فيما يتعلق بمسائل “الصندوق الأسود”، وثقتهم في هذه الأنظمة. بينما أشارت الدراسات السابقة إلى أن الميزات التشخيصية يمكن أن تعزز من الموثوقية المدركة، يجادل المؤلفون بأن التأثيرات المحددة للإنسانية على الثقة الشبيهة بالإنسان لا تزال غير مستكشفة بشكل كاف. لمعالجة ذلك، تستخدم الدراسة إطار العمل للعدالة والمساءلة والشفافية (FAT) وتفحص كيف تؤثر هذه العوامل، جنبًا إلى جنب مع خصائص الإنسانية، على الثقة المعرفية للمستخدمين في GenAI. تكشف التحليلات التجريبية، المستندة إلى بيانات استبيان من 244 مشاركًا، أن العدالة هي المتنبئ الوحيد المهم للثقة المعرفية، بينما لا تظهر المساءلة والشفافية تأثيرًا ملحوظًا. بالإضافة إلى ذلك، تؤكد النتائج على أهمية الحضور الاجتماعي والانخراط العاطفي في تعزيز الثقة الشبيهة بالإنسان، مما يساهم في فهم أكثر دقة لآليات بناء الثقة في التفاعلات بين الذكاء الاصطناعي والبشر.
الطرق
في هذه الدراسة، تم استخدام استبيان عبر الإنترنت كطريقة رئيسية لجمع البيانات للتحقق من الفرضيات المقترحة. يوضح قسم المنهجية خصائص عينة السكان والإجراءات المتبعة أثناء جمع البيانات. بالإضافة إلى ذلك، يقدم حسابًا مفصلًا لأدوات القياس المستخدمة في الاستبيان وعملية الاختبار المسبق التي أجريت لضمان موثوقية وصلاحية الأدوات المستخدمة. تهدف هذه المقاربة المنهجية إلى تعزيز قوة النتائج المستمدة من بيانات الاستبيان.
النتائج
في قسم النتائج، أجرى المؤلفون تحليل بيانات شامل مقسم إلى مرحلتين متميزتين: تقييم نموذج القياس والنموذج الهيكلي لاختبار الفرضيات، كما هو موضح من قبل أندرسون وجيربينغ (1988). كان الهدف من تقييم نموذج القياس هو تقييم صلاحية وموثوقية البنى المعنية في الدراسة، مما يضمن أن القياسات تعكس بدقة المفاهيم النظرية التي تهدف إلى تمثيلها.
بعد ذلك، تم اختبار النموذج الهيكلي لفحص الفرضيات المقترحة. تضمنت هذه المرحلة تحليل العلاقات بين البنى لتحديد قوة وأهمية التأثيرات. تعتبر النتائج من كلا المرحلتين حاسمة للتحقق من صحة الإطار النظري ودعم فرضيات البحث، مما يساهم في الفهم العام للظواهر المدروسة.
المناقشة
تسلط قسم المناقشة في ورقة البحث الضوء على التأثير التحويلي لتقنيات الذكاء الاصطناعي التوليدي (GenAI)، لا سيما نماذج اللغة الكبيرة مثل ChatGPT، على مجالات متعددة بما في ذلك التواصل، واتخاذ القرار، والإنتاج الإبداعي. تظهر هذه النماذج سمات شبيهة بالبشر، مما يمكنها من الانخراط في محادثات طبيعية والتكيف مع تفاعلات المستخدم، مما يثير أسئلة مهمة حول ثقة المستخدم والآثار الأخلاقية لنشرها. تؤكد الورقة على الحاجة إلى فهم دقيق للثقة في الذكاء الاصطناعي، مميزة بين الثقة الشبيهة بالبشر – التي تشمل الكفاءة، والنية الحسنة، والنزاهة – والثقة الشبيهة بالنظام، التي تركز على الوظائف والموثوقية. يجادل المؤلفون بأن الثقة الشبيهة بالبشر ذات صلة خاصة في البيئات عالية المخاطر حيث يتفاعل المستخدمون مع أنظمة GenAI، حيث تزداد هذه الأنظمة في تقليد الخصائص البشرية.
علاوة على ذلك، تقدم الورقة منظورًا اجتماعيًا تقنيًا حول الثقة، داعية إلى فحص العدالة، والمساءلة، والشفافية (FAT) في أنظمة الذكاء الاصطناعي. وتفترض أن تصورات المستخدمين لهذه العوامل تؤثر بشكل كبير على ثقتهم في GenAI، وهو أمر حاسم لتعزيز ثقة المستخدم وضمان نشر الذكاء الاصطناعي بشكل أخلاقي. يقترح المؤلفون أن إنسانية GenAI – التي تتجلى من خلال التشخيص، والحضور الاجتماعي، والاتصال العاطفي – يمكن أن تعزز ثقة المستخدم. تهدف الأبحاث إلى سد الفجوات الحالية من خلال استكشاف كيفية تأثير هذه العوامل الإنسانية على مواقف المستخدمين، والأداء المدرك، والنوايا السلوكية تجاه GenAI، مما يساهم في فهم أعمق لديناميات الثقة في التفاعلات بين البشر والذكاء الاصطناعي.
DOI: https://doi.org/10.1007/s00146-025-02378-8
Publication Date: 2025-05-06
Author(s): Minh-Tay Huynh et al.
Primary Topic: AI in Service Interactions
Overview
This study investigates the factors influencing user trust in Generative Artificial Intelligence (GenAI) systems, emphasizing the societal implications of such trust. Grounded in socio-technical systems theory and utilizing the FAT (Fairness, Accountability, Transparency) framework, the research identifies key antecedents of human-like trust, including fairness, social presence, and emotional engagement. Structural equation modeling with a sample of 244 participants reveals that while fairness significantly enhances trust, accountability and transparency do not have a notable impact. Additionally, social presence and emotions positively influence trust, whereas anthropomorphism does not significantly affect it. The findings suggest that trust plays a critical role in shaping users’ attitudes, perceived performance, and behavioral intentions towards GenAI systems.
The research also acknowledges several limitations, including its focus on GenAI applications in organizational problem-solving and decision-making contexts, which may bias perceptions of fairness and accountability. It emphasizes the need for future studies to explore trust dynamics across various AI applications and user contexts to enhance understanding of AI-human interactions. Furthermore, the study highlights the philosophical debate surrounding the appropriateness of using the term ‘trust’ in relation to AI, suggesting that future research should consider the ethical implications of trust in AI systems. Limitations related to the sample’s demographic representation and the static measurement of trust are also noted, recommending broader and more diverse populations for future validation of the research model.
Introduction
The introduction of the research paper highlights the transformative impact of generative AI (GenAI) technologies on various sectors, including healthcare, education, and finance, while also acknowledging the significant concerns regarding their ethical implications and biases. As GenAI models like ChatGPT and Google’s Gemini gain traction, the discourse surrounding trust and trustworthiness in AI systems becomes increasingly critical. The authors emphasize that establishing trust in AI is essential for maximizing its potential for social good, yet the unpredictable nature of these systems complicates the understanding of trust dynamics, necessitating innovative approaches to foster reliable interactions.
The paper identifies a gap in the literature regarding the relationship between users’ perceptions of GenAI, particularly concerning “black box” issues, and their trust in these systems. While previous studies have indicated that anthropomorphic features can enhance perceived trustworthiness, the authors argue that the specific impacts of humanness on human-like trust remain underexplored. To address this, the study employs the Fairness-Accountability-Transparency (FAT) framework and examines how these factors, alongside humanness characteristics, influence users’ cognitive trust in GenAI. The empirical analysis, based on survey data from 244 participants, reveals that fairness is the only significant predictor of cognitive trust, while accountability and transparency do not show a discernible impact. Additionally, the findings underscore the importance of social presence and emotional engagement in fostering human-like trust, thereby contributing to a nuanced understanding of trust-building mechanisms in AI-human interactions.
Methods
In this study, an online-based survey was employed as the primary method for data collection to validate the proposed hypotheses. The methodology section outlines the characteristics of the sample population and the procedures followed during data collection. Additionally, it provides a detailed account of the measurement tools utilized in the survey and the pre-testing process conducted to ensure the reliability and validity of the instruments used. This systematic approach aims to enhance the robustness of the findings derived from the survey data.
Results
In the Results section, the authors conducted a comprehensive data analysis divided into two distinct phases: the measurement model assessment and the structural model for hypothesis testing, as outlined by Anderson and Gerbing (1988). The measurement model assessment aimed to evaluate the validity and reliability of the constructs involved in the study, ensuring that the measures accurately reflect the theoretical concepts they are intended to represent.
Following this, the structural model was tested to examine the proposed hypotheses. This phase involved analyzing the relationships between the constructs to determine the strength and significance of the effects. The findings from both phases are critical for validating the theoretical framework and supporting the research hypotheses, thereby contributing to the overall understanding of the studied phenomena.
Discussion
The discussion section of the research paper highlights the transformative impact of generative AI (GenAI) technologies, particularly large language models like ChatGPT, on various domains including communication, decision-making, and creative production. These models exhibit human-like traits, enabling them to engage in natural conversations and adapt to user interactions, which raises important questions about user trust and the ethical implications of their deployment. The paper emphasizes the need for a nuanced understanding of trust in AI, distinguishing between human-like trust—which encompasses competence, benevolence, and integrity—and system-like trust, which focuses on functionality and reliability. The authors argue that human-like trust is particularly relevant in high-stakes environments where users interact with GenAI systems, as these systems increasingly mimic human characteristics.
Furthermore, the paper introduces a socio-technical perspective on trust, advocating for the examination of fairness, accountability, and transparency (FAT) in AI systems. It posits that users’ perceptions of these factors significantly influence their trust in GenAI, which is crucial for fostering user confidence and ensuring ethical AI deployment. The authors propose that the humanness of GenAI—manifested through anthropomorphism, social presence, and emotional connection—can enhance user trust. The research aims to fill existing gaps by exploring how these humanness factors affect user attitudes, perceived performance, and behavioral intentions towards GenAI, ultimately contributing to a deeper understanding of trust dynamics in human-AI interactions.