DOI: https://doi.org/10.1038/s41598-026-42252-1
PMID: https://pubmed.ncbi.nlm.nih.gov/41772094
تاريخ النشر: 2026-03-02
المؤلف: Katarzyna Samson وآخرون
الموضوع الرئيسي: تفاعل الروبوتات الاجتماعية والتفاعل بين الإنسان والروبوت
نظرة عامة
تستكشف هذه الدراسة ديناميات الثقة بين البشر ووكلاء الذكاء الاصطناعي (AI)، مع التركيز على دور الإدراك الاجتماعي في تشكيل هذه التفاعلات. أجريت الدراسة مع عينة من 400 مقيم في الولايات المتحدة، حيث تم التلاعب في درجة الدفء والكفاءة المدركة لكل من الأمناء البشريين ووكلاء الذكاء الاصطناعي ضمن إطار لعبة الثقة. تشير النتائج إلى أن وكلاء الذكاء الاصطناعي يُعتمد عليهم عمومًا أقل من نظرائهم البشر، خاصة في السيناريوهات التي يُنظر فيها إلى الدفء على أنه منخفض.
تسلط النتائج الضوء على الدفء كعامل حاسم يؤثر على الثقة في العلاقات بين البشر والذكاء الاصطناعي. تشير هذه الرؤية إلى أن تعزيز الدفء المدرك في أنظمة الذكاء الاصطناعي قد يكون ضروريًا لتعزيز الثقة وتحسين دمج وكلاء الذكاء الاصطناعي في السياقات الاجتماعية والاقتصادية. تمتد تداعيات الدراسة إلى تصميم أنظمة الذكاء الاصطناعي، داعيةً إلى ميزات تعزز من موثوقيتها من خلال تحسين سمات الإدراك الاجتماعي.
مقدمة
تناقش مقدمة ورقة البحث الدور المتطور للذكاء الاصطناعي (AI) في المجتمع، مع تسليط الضوء على انتقاله من أدوات بسيطة إلى كيانات مستقلة يتفاعل معها الناس كفاعلين اجتماعيين. لقد أدى هذا التحول إلى توليد مزيج من القلق والإثارة بين الأفراد بشأن تقنيات الذكاء الاصطناعي. من ناحية، هناك اعتراف بالفوائد التي يمكن أن يجلبها الذكاء الاصطناعي، بما في ذلك تحسين الكفاءة، والابتكار، وتقليل التكاليف، والتي يعتبرها الكثيرون تحسينات محتملة للحياة اليومية. من ناحية أخرى، يتم الاعتراف بالمخاطر والتحديات الكبيرة، مثل إمكانية سوء الاستخدام، وتعزيز التحيزات، وانتهاك الخصوصية، والتهديدات للسيطرة والوكالة البشرية.
تؤكد الورقة على الطبيعة المزدوجة لتأثير الذكاء الاصطناعي، حيث يمكن أن تؤدي قدراته إلى تقدم إيجابي ومخاوف أخلاقية خطيرة. تشمل القضايا الرئيسية مخاطر تفويض اتخاذ القرار إلى خوارزميات غير شفافة، والتي قد تقوض السيطرة البشرية والاختيار. علاوة على ذلك، هناك خوف منتشر بشأن إمكانية تفوق الذكاء الآلي على الذكاء البشري، مما يثير مخاوف وجودية بشأن مستقبل الإنسانية فيما يتعلق بالذكاء الاصطناعي.
الطرق
استخدمت الدراسة تصميمًا بين المشاركين للتحقيق في سلوكيات الثقة في لعبة الثقة، ملتزمةً بميثاق هلسنكي وحاصلةً على موافقة أخلاقية من لجنة الأخلاقيات بجامعة SWPS (رقم القرار 04/P/03/2024). قدم المشاركون موافقة مكتوبة مسبقة قبل المشاركة. قامت الدراسة بالتلاعب في ثلاثة عوامل رئيسية: نوع الأمين (وكيل الذكاء الاصطناعي مقابل إنسان)، ودفء الأمين (منخفض مقابل مرتفع)، وكفاءة الأمين (منخفضة مقابل مرتفعة)، لتقييم تأثيراتها على الثقة.
تم دمج التلاعبات التجريبية في أوصاف الأمناء. في الظروف التي تضم أمناء بشريين، تم إبلاغ المشاركين أن اللاعب الآخر “إنسان”، بينما في ظروف وكيل الذكاء الاصطناعي، تم وصف اللاعب بأنه “وكيل ذكاء اصطناعي”. كانت ظروف الدفء العالي تصف اللاعب الآخر بأنه “شريك” “يريد الأفضل لك”، مما يتناقض مع أوصاف الدفء المنخفض. سمح هذا النهج المنظم باستكشاف دقيق لكيفية تأثير التغيرات في خصائص الأمناء على ديناميات الثقة في اللعبة.
النتائج
يقدم قسم “النتائج” في ورقة البحث النتائج الرئيسية المستمدة من التجارب أو التحليلات التي تم إجراؤها. عادةً ما يتضمن بيانات كمية، وتحليلات إحصائية، وتمثيلات بصرية مثل الرسوم البيانية أو الجداول لتوضيح النتائج. غالبًا ما تتم مقارنة النتائج مع الفرضيات أو الدراسات السابقة لتسليط الضوء على الفروق أو التأكيدات المهمة.
في هذا القسم، قد يبلغ المؤلفون عن مقاييس محددة، مثل المتوسطات، والانحرافات المعيارية، أو قيم p، لدعم ادعاءاتهم. بالإضافة إلى ذلك، يتم مناقشة أي اتجاهات أو أنماط ملحوظة في البيانات، مما يوفر رؤى حول تداعيات النتائج. بشكل عام، يخدم هذا القسم لنقل الأدلة التجريبية التي تدعم أهداف البحث والاستنتاجات المستخلصة في الدراسة.
المناقشة
تستكشف قسم المناقشة في ورقة البحث ديناميات الثقة في أنظمة الذكاء الاصطناعي مقارنة بالأمناء البشريين، مع التركيز على دور الدفء والكفاءة في تشكيل إدراكات الثقة. تشير النتائج إلى أن كلاً من الأمناء من الذكاء الاصطناعي والبشر يُعتمد عليهم أكثر عندما يظهرون دفءً عاليًا وكفاءة عالية. ومع ذلك، تنشأ تمييزات كبيرة في أن الأمناء من الذكاء الاصطناعي يُعتمد عليهم عمومًا أقل من نظرائهم البشر. من الجدير بالذكر أنه بينما تؤثر الكفاءة على الثقة بشكل مشابه لكلا النوعين من الأمناء، فإن الدفء له تأثير أقوى بشكل غير متناسب على الثقة في أنظمة الذكاء الاصطناعي. يرتبط انخفاض الدفء في الأمناء من الذكاء الاصطناعي بأدنى مستويات الثقة، مما يشير إلى أن المخاوف المحيطة بالذكاء الاصطناعي – وخاصة تلك المتعلقة بالمصالح الذاتية المدركة – يمكن أن تقوض الثقة بشكل كبير.
يضع المؤلفون هذه النتائج في سياق المخاوف المجتمعية الأوسع بشأن تقنيات الذكاء الاصطناعي، مقترحين أن التوافق المدرك لأهداف الذكاء الاصطناعي مع مصالح المستخدمين يعزز الثقة. يدعون إلى تصميم أنظمة الذكاء الاصطناعي التي تُعتبر دافئة، مما قد يخفف المخاوف الوجودية ويعزز الثقة، بغض النظر عن مقاييس الأداء. تعترف الورقة بالقيود في القابلية للتعميم بسبب الإعداد التجريبي المحدد وتدعو إلى مزيد من البحث عبر سياقات وثقافات متنوعة للتحقق من هذه الرؤى. بشكل عام، تسهم الدراسة في فهم ديناميات الثقة في التفاعلات بين البشر والذكاء الاصطناعي وتقدم توصيات عملية لتطوير تقنيات ذكاء اصطناعي موثوقة.
DOI: https://doi.org/10.1038/s41598-026-42252-1
PMID: https://pubmed.ncbi.nlm.nih.gov/41772094
Publication Date: 2026-03-02
Author(s): Katarzyna Samson et al.
Primary Topic: Social Robot Interaction and HRI
Overview
This study explores the dynamics of trust between humans and artificial intelligence (AI) agents, emphasizing the role of social perception in shaping these interactions. Conducted with a sample of 400 U.S. residents, the research manipulated the perceived warmth and competence of both human and AI trustees within a trust game framework. Findings indicate that AI agents are generally trusted less than their human counterparts, particularly in scenarios where warmth is perceived to be low.
The results highlight warmth as a critical factor influencing trust in human-AI relationships. This insight suggests that enhancing the warmth perceived in AI systems could be essential for fostering trust and improving the integration of AI agents into social and economic contexts. The study’s implications extend to the design of AI systems, advocating for features that promote trustworthiness through enhanced social perception attributes.
Introduction
The introduction of the research paper discusses the evolving role of artificial intelligence (AI) in society, highlighting its transition from simple tools to autonomous entities that people interact with as social actors. This shift has generated a mix of apprehension and excitement among individuals regarding AI technologies. On one hand, there is recognition of the benefits AI can bring, including enhanced efficiency, innovation, and cost reduction, which many view as potential improvements to daily life. On the other hand, significant risks and challenges are acknowledged, such as the potential for misuse, reinforcement of biases, infringement on privacy, and threats to human autonomy and agency.
The paper emphasizes the dual nature of AI’s impact, where its capabilities can lead to both positive advancements and serious ethical concerns. Key issues include the dangers of decision-making being delegated to opaque algorithms, which may undermine human control and choice. Furthermore, there is a pervasive fear regarding the possibility of machine intelligence surpassing human intelligence, raising existential concerns about the future of humanity in relation to AI.
Methods
The research employed a between-participant design to investigate trusting behaviors in a trust game, adhering to the Declaration of Helsinki and receiving ethical approval from the SWPS University Ethics Committee (decision number 04/P/03/2024). Participants provided written informed consent prior to involvement. The study manipulated three key factors: trustee type (AI agent vs. human), trustee warmth (low vs. high), and trustee competence (low vs. high), to assess their effects on trust.
Experimental manipulations were integrated into the descriptions of the trustees. In conditions featuring human trustees, participants were informed that the other player was “a human,” whereas in AI agent conditions, the player was described as “an AI agent.” High warmth conditions characterized the other player as a “partner” who “wants what’s best for you,” contrasting with low warmth descriptions. This structured approach allowed for a nuanced exploration of how variations in trustee characteristics influence trust dynamics in the game.
Results
The “Results” section of the research paper presents key findings derived from the conducted experiments or analyses. It typically includes quantitative data, statistical analyses, and visual representations such as graphs or tables to illustrate the outcomes. The results are often compared against hypotheses or previous studies to highlight significant differences or confirmations.
In this section, the authors may report specific metrics, such as means, standard deviations, or p-values, to substantiate their claims. Additionally, any observed trends or patterns in the data are discussed, providing insight into the implications of the findings. Overall, this section serves to convey the empirical evidence that supports the research objectives and conclusions drawn in the study.
Discussion
The discussion section of the research paper explores the dynamics of trust in AI systems compared to human trustees, emphasizing the roles of warmth and competence in shaping trust perceptions. The findings indicate that both AI and human trustees are trusted more when they exhibit high warmth and high competence. However, a significant distinction arises in that AI trustees are generally trusted less than human counterparts. Notably, while competence influences trust similarly for both types of trustees, warmth has a disproportionately stronger effect on trust in AI systems. Low warmth in AI trustees correlates with the lowest trust levels, suggesting that fears surrounding AI—particularly those related to perceived self-interest—can severely undermine trust.
The authors contextualize these findings within broader societal concerns about AI technologies, positing that perceived alignment of AI goals with user interests enhances trust. They advocate for designing AI systems that are perceived as warm, which may mitigate existential fears and foster trust, regardless of performance metrics. The paper acknowledges limitations in generalizability due to the specific experimental setup and calls for further research across diverse contexts and cultures to validate these insights. Overall, the study contributes to understanding trust dynamics in human-AI interactions and offers practical recommendations for developing trustworthy AI technologies.