DOI: https://doi.org/10.1057/s41599-025-05116-z
تاريخ النشر: 2025-07-23
المؤلف: Keonyoung Park وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تبحث هذه الدراسة في دور شفافية خوارزميات الذكاء الاصطناعي (AI) في تعزيز الثقة في أنظمة الذكاء الاصطناعي والمنظمات التي تستخدمها. مع الزيادة المتزايدة في انتشار الذكاء الاصطناعي التوليدي، مثل ChatGPT، في اتصالات أصحاب المصلحة، تنتقل الأبحاث من نموذج الثقة القائم على السمعة إلى نموذج أنبوبي مركزي للمعرفة، حيث يتم وضع الشفافية كآلية حاسمة لتخفيف عدم اليقين وتعزيز الفهم. تم إجراء تجربة عبر الإنترنت باستخدام تصميم بين الموضوعات 2 (شفافية خوارزمية الذكاء الاصطناعي: عالية مقابل منخفضة) بواسطة 2 (مشاركة القضية: عالية مقابل منخفضة) لتقييم هذه الديناميكيات.
تكشف النتائج أن الشفافية الأعلى في خوارزميات الذكاء الاصطناعي تخفف بشكل كبير من الآثار السلبية للمواقف السلبية تجاه الذكاء الاصطناعي على الثقة في الشركة الأم، خاصة عندما تكون المشاركة في القضية عالية. وهذا يشير إلى أن الشفافية لا تشير فقط إلى الموثوقية ولكنها أيضًا تقلل من الشكوك بين الأفراد الذين يميلون إلى عدم الثقة في الذكاء الاصطناعي. تساهم هذه الدراسة في الأدبيات الحالية من خلال توضيح أن الشفافية تعمل كوسيلة لتسهيل الفهم وآلية للإشارة إلى المساءلة التنظيمية. الآثار المترتبة على المنظمات التي تدمج الذكاء الاصطناعي كبيرة، حيث يمكن أن يؤدي التركيز على الشفافية إلى تعزيز الثقة وزيادة ثقة أصحاب المصلحة في أنظمة الذكاء الاصطناعي، مما يدعم التكامل الأخلاقي للذكاء الاصطناعي عبر سياقات مختلفة.
مقدمة
تناقش مقدمة هذه الورقة البحثية الزيادة في دمج الذكاء الاصطناعي التوليدي (AI) مع روبوتات المحادثة، مع تسليط الضوء على الكفاءة وفوائد الاستجابة الفورية التي تدفع اعتمادها عبر مختلف القطاعات. ومع ذلك، تظل المشاعر العامة تجاه الذكاء الاصطناعي متناقضة، مع مخاوف كبيرة بشأن إمكانياته للتسبب في الاضطراب وعدم وضوح عمليات اتخاذ القرار الخاصة به، مما يمكن أن يؤدي إلى عواقب سلبية مثل تعزيز التحيز والتطرف. تؤكد الدراسة على الدور الحاسم للشفافية في خوارزميات الذكاء الاصطناعي كوسيلة لتخفيف التصورات السلبية وتعزيز الثقة في أنظمة الذكاء الاصطناعي، خاصة في ضوء الأطر التنظيمية مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي الذي يدعو إلى الذكاء الاصطناعي الموثوق.
تنتقد الورقة استراتيجيات بناء الثقة الحالية، مشيرة إلى وجود فجوة في الأساليب العملية التي تأخذ في الاعتبار المواقف العامة المتنوعة تجاه الذكاء الاصطناعي. تقدم إطارًا مفاهيميًا يميز بين “الأنابيب” و”المنشورات” لديناميات الثقة، حيث يعتمد الأول على التفاعلات المباشرة والسلوكيات القابلة للملاحظة، بينما يتم الوساطة في الثاني بواسطة إشارات الطرف الثالث وإشارات السمعة. يقترح المؤلفون الانتقال من نموذج المنشور القائم على السمعة إلى نموذج الأنابيب المركزي للمعرفة للثقة في الذكاء الاصطناعي، حيث يفترضون أن الشفافية في خوارزميات الذكاء الاصطناعي يمكن أن تعمل كقناة مباشرة لتعزيز الثقة. من خلال تطبيق نموذج احتمالية الإيضاح (ELM)، تهدف الدراسة إلى التحقيق تجريبيًا في كيفية تخفيف شفافية الخوارزمية للمواقف السلبية تجاه الذكاء الاصطناعي، مما يقدم آثارًا عملية للمنظمات التي تسعى إلى تكامل ناجح للذكاء الاصطناعي ومعالجة المخاوف الاجتماعية المتعلقة بالمعلومات المضللة والفجوة التكنولوجية.
النتائج
تكشف نتائج الدراسة عن نتائج مهمة تتعلق بتأثير المواقف السلبية العامة تجاه الذكاء الاصطناعي على الثقة في كل من أنظمة الذكاء الاصطناعي وشركاتها الأم. أظهرت تحليلات الانحدار الهرمي أن الموقف السلبي تجاه الذكاء الاصطناعي يتنبأ بشكل كبير بانخفاض الثقة في أنظمة الذكاء الاصطناعي (B = -0.33، SE = 0.03، p < 0.001) والشركات الأم (B = -0.38، SE = 0.03، p < 0.001)، حيث تفسر كلا النموذجين حوالي 21% من التباين في الثقة. بالإضافة إلى ذلك، بينما استكشفت الدراسة التأثيرات المعدلة لشفافية خوارزمية الذكاء الاصطناعي ومشاركة القضية، أشارت النتائج إلى أن هذه العوامل لم تغير بشكل كبير العلاقة بين المواقف السلبية والثقة في أنظمة الذكاء الاصطناعي. ومع ذلك، تم العثور على تفاعل ذو دلالة هامشية للثقة في الشركة الأم، مما يشير إلى أن شفافية الخوارزمية يمكن أن تخفف من بعض عدم الثقة عندما تكون الأهمية الشخصية لموضوع الاتصال عالية. تمتد الآثار النظرية لهذه النتائج إلى الأدبيات الحالية حول الثقة في الذكاء الاصطناعي من خلال دمج رؤى من نموذج احتمالية الإيضاح (ELM) ونظرية الإشارة. تسلط الدراسة الضوء على أن المواقف السلبية المتجذرة قد تعيق معالجة المعلومات عبر المسار المركزي، مما يدفع الأفراد للاعتماد على الإشارات المحيطية، مثل إشارات الشفافية، لتشكيل أحكام حول الشركات الأم. وهذا يشير إلى أنه بينما قد لا تعزز الشفافية الثقة مباشرة في أنظمة الذكاء الاصطناعي، يمكن أن تعمل كأداة استراتيجية لتحسين التصورات حول المنظمات التي تستخدم هذه التقنيات. بشكل عام، تؤكد الأبحاث على تعقيد ديناميات الثقة في سياقات الذكاء الاصطناعي وتبرز أهمية الشفافية كاستراتيجية تواصل لتعزيز الثقة التنظيمية، خاصة بين أصحاب المصلحة المتشككين.
المناقشة
تسلط قسم المناقشة في الورقة البحثية الضوء على التفاعل المعقد بين المواقف السلبية العامة تجاه الذكاء الاصطناعي (AI)، والثقة في أنظمة الذكاء الاصطناعي، ودور الشفافية في تعديل هذه العلاقات. يؤكد على أن التصورات السلبية تجاه الذكاء الاصطناعي غالبًا ما تنبع من مخاوف بشأن فقدان الوظائف، والآثار الأخلاقية، وإمكانية تقليل التفاعلات الشخصية. يمكن أن تعيق هذه المواقف الثقة في تقنيات الذكاء الاصطناعي، وهو أمر حاسم لاعتمادها، حيث إن الثقة تتوسط في سهولة الاستخدام المتصورة وفائدة التقنيات الجديدة، كما هو موضح في نموذج قبول التكنولوجيا (TAM). يجادل المؤلفون بأنه بينما يمكن بناء الثقة من خلال تفاعلات إيجابية متكررة (مسار الأنابيب المباشر)، قد تمنع المواقف السلبية الاعتماد الأولي، مما يجعل المسار غير المباشر “المنشور” – حيث تتأثر الثقة بسمعة الشركة الأم – أكثر أهمية.
يتم استخدام نموذج احتمالية الإيضاح (ELM) لشرح كيفية معالجة الأفراد للمعلومات حول الذكاء الاصطناعي وكيف يمكن أن تعزز الشفافية الثقة. يتم تنشيط المسار المركزي للإقناع، الذي يتضمن تحليلًا دقيقًا للمعلومات، عندما يكون المستخدمون متحفزين لفهم عمليات الذكاء الاصطناعي. على العكس، يعتمد المسار المحيطي على الإشارات السطحية، مثل الشفافية المؤسسية، التي يمكن أن تشير إلى الموثوقية حتى بدون فهم عميق. يقترح المؤلفون أن شفافية خوارزمية الذكاء الاصطناعي يمكن أن تخفف من المواقف السلبية من خلال دفع الأفراد نحو المسار المركزي للمعالجة، مما يعزز الثقة في كل من أنظمة الذكاء الاصطناعي وشركاتها الأم. يفترضون أن الشفافية الأعلى ستضعف العلاقة السلبية بين المواقف تجاه الذكاء الاصطناعي والثقة، خاصة في سياقات ذات أهمية شخصية عالية أو مشاركة في القضية. هذا الفهم الدقيق يبرز أهمية التواصل الاستراتيجي بشأن شفافية الذكاء الاصطناعي لتعزيز الثقة والقبول بين المستخدمين.
DOI: https://doi.org/10.1057/s41599-025-05116-z
Publication Date: 2025-07-23
Author(s): Keonyoung Park et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
This study investigates the role of artificial intelligence (AI) algorithm transparency in fostering trust in AI systems and the organizations that deploy them. With the increasing prevalence of generative AI, such as ChatGPT, in stakeholder communications, the research shifts from a reputation-focused model of trust to a knowledge-centric pipeline model, positioning transparency as a crucial mechanism to alleviate uncertainty and enhance understanding. An online experiment employing a 2 (AI algorithm transparency: High vs. Low) by 2 (Issue involvement: High vs. Low) between-subjects design was conducted to assess these dynamics.
The findings reveal that higher transparency in AI algorithms significantly mitigates the adverse effects of negative attitudes toward AI on trust in the parent company, particularly when issue involvement is high. This indicates that transparency not only signals trustworthiness but also reduces skepticism among individuals predisposed to distrust AI. The research contributes to existing literature by illustrating that transparency serves as both a facilitator of understanding and a signaling mechanism for organizational accountability. The implications for organizations integrating AI are substantial, as emphasizing transparency can effectively cultivate trust and enhance stakeholder confidence in AI systems, thereby supporting ethical AI integration across various contexts.
Introduction
The introduction of this research paper discusses the increasing integration of generative artificial intelligence (AI) with chatbots, highlighting the efficiency and immediate response benefits that drive their adoption across various sectors. However, public sentiment towards AI remains ambivalent, with significant concerns about its potential for disruption and the opacity of its decision-making processes, which can lead to adverse consequences such as bias reinforcement and radicalization. The study emphasizes the critical role of transparency in AI algorithms as a means to mitigate negative perceptions and foster trust in AI systems, particularly in light of regulatory frameworks like the European Union’s AI Act that advocate for trustworthy AI.
The paper critiques existing trust-building strategies, noting a gap in practical approaches that account for diverse public attitudes towards AI. It introduces a conceptual framework distinguishing between “pipes” and “prisms” of trust dynamics, where the former relies on direct interactions and observable behaviors, while the latter is mediated by third-party signals and reputational cues. The authors propose a shift from a reputation-focused prism model to a knowledge-centric pipeline model of AI trust, positing that transparency in AI algorithms can serve as a direct conduit for enhancing trust. By applying the elaboration likelihood model (ELM), the study aims to empirically investigate how algorithm transparency can alleviate negative attitudes towards AI, thereby offering practical implications for organizations seeking successful AI integration and addressing societal concerns related to misinformation and technological disparity.
Results
The results of the study reveal significant findings regarding the impact of general negative attitudes toward AI on trust in both AI systems and their parent companies. Hierarchical regression analyses demonstrated that a negative attitude toward AI significantly predicted lower trust in AI systems (B = -0.33, SE = 0.03, p < 0.001) and parent companies (B = -0.38, SE = 0.03, p < 0.001), with both models explaining approximately 21% of the variance in trust. Additionally, while the study explored the moderating effects of AI algorithm transparency and issue involvement, the results indicated that these factors did not significantly alter the relationship between negative attitudes and trust in AI systems. However, a marginally significant interaction was found for trust in the parent company, suggesting that algorithm transparency could mitigate some distrust when personal relevance to the communication topic was high. The theoretical implications of these findings extend existing literature on trust in AI by integrating insights from the Elaboration Likelihood Model (ELM) and signaling theory. The study highlights that entrenched negative attitudes may inhibit central-route processing of information, leading individuals to rely on peripheral cues, such as transparency signals, to form judgments about parent companies. This suggests that while transparency may not directly enhance trust in AI systems, it can serve as a strategic tool to improve perceptions of the organizations deploying these technologies. Overall, the research underscores the complexity of trust dynamics in AI contexts and emphasizes the importance of transparency as a communicative strategy to foster organizational trust, particularly among skeptical stakeholders.
Discussion
The discussion section of the research paper highlights the complex interplay between general negative attitudes toward artificial intelligence (AI), trust in AI systems, and the role of transparency in moderating these relationships. It emphasizes that negative perceptions of AI often stem from concerns about job loss, ethical implications, and the potential for reduced interpersonal interactions. These attitudes can hinder trust in AI technologies, which is crucial for their adoption, as trust mediates the perceived ease of use and usefulness of new technologies, as outlined by the Technology Acceptance Model (TAM). The authors argue that while trust can be built through repeated positive interactions (the direct pipeline pathway), negative attitudes may prevent initial adoption, making the indirect “prism” pathway—where trust is influenced by the reputation of the parent company—more significant.
The Elaboration Likelihood Model (ELM) is employed to explain how individuals process information about AI and how transparency can enhance trust. The central route of persuasion, which involves careful analysis of information, is activated when users are motivated to understand AI operations. Conversely, the peripheral route relies on superficial cues, such as corporate transparency, which can signal trustworthiness even without deep understanding. The authors propose that AI-algorithm transparency can mitigate negative attitudes by shifting individuals toward the central route of processing, thereby enhancing trust in both AI systems and their parent companies. They hypothesize that higher transparency will weaken the negative relationship between attitudes toward AI and trust, particularly in contexts of high personal relevance or issue involvement. This nuanced understanding underscores the importance of strategic communication regarding AI transparency to foster trust and acceptance among users.