DOI: https://doi.org/10.1108/tpm-07-2023-0053
تاريخ النشر: 2024-03-09
المؤلف: Eleni Georganta وآخرون
الموضوع الرئيسي: ديناميات الفريق والأداء
نظرة عامة
هدفت هذه الدراسة إلى استكشاف ديناميات الثقة داخل فرق الإنسان والذكاء الاصطناعي، مع التأكيد على الدور الحاسم للثقة في تعزيز التعاون الناجح. أجريت الدراسة من خلال تجربة عبر الإنترنت مع 127 مشاركًا، حيث استخدمت تصميم بين الموضوعات لمقارنة تصورات الثقة والسلوكيات عند تقديم زميل جديد من الذكاء الاصطناعي مقابل زميل جديد من البشر. تم تعيين المشاركين عشوائيًا إلى أحد حالتين: إما زميل جديد من الذكاء الاصطناعي أو زميل جديد من البشر.
أظهرت النتائج أن الثقة المتصورة والثقة الشخصية العاطفية كانت أقل بكثير بالنسبة لزملاء الذكاء الاصطناعي مقارنة بزملاء البشر. ومع ذلك، لم يتم ملاحظة اختلافات ملحوظة في الثقة الشخصية المعرفية أو سلوكيات الثقة. وهذا يشير إلى أنه بينما قد يثق البشر بشكل عقلاني في الذكاء الاصطناعي بناءً على كفاءته وموثوقيته، فإن تطوير الثقة العاطفية لا يزال يمثل تحديًا. تسهم الدراسة في مجال العمل الجماعي بين الإنسان والذكاء الاصطناعي من خلال ربط الأفكار المستمدة من أبحاث الثقة في الفرق البشرية التقليدية مع الأدلة التجريبية الناشئة حول الثقة في التعاون مع الذكاء الاصطناعي.
مقدمة
تسلط مقدمة هذه الورقة البحثية الضوء على ضرورة تكيف فرق العمل باستمرار مع التغيرات، خاصة في سياق دمج الذكاء الاصطناعي (AI) كزملاء. مع تطور تقنيات الذكاء الاصطناعي، تزداد مشاركتها في اتخاذ القرارات المعرفية جنبًا إلى جنب مع أعضاء الفريق البشري، مما يشكل ما يُعرف بفرق الإنسان والذكاء الاصطناعي (HAITs). يتأثر فعالية هذه الفرق بشكل كبير بمستوى الثقة التي يتم تأسيسها بين أعضاء البشر والذكاء الاصطناعي، وهو أمر حاسم للتعاون الناجح. يشير المؤلفون إلى أنه بينما تعتبر الثقة ضرورية في الفرق البشرية، فإن إدخال زميل من الذكاء الاصطناعي يقدم تحديات فريدة، حيث يجب على الأعضاء الحاليين في الفريق تطوير الثقة ليس فقط تجاه الذكاء الاصطناعي الجديد ولكن أيضًا تجاه التكنولوجيا نفسها.
تهدف الدراسة إلى التحقيق فيما إذا كانت ديناميات الثقة تختلف عند تقديم زميل من الذكاء الاصطناعي مقارنة بزميل بشري. يفترض المؤلفون أن الثقة المتصورة، والثقة الشخصية المعرفية والعاطفية، وسلوكيات الثقة ستكون أقل بالنسبة لزملاء الذكاء الاصطناعي. من خلال دمج نظريات الثقة من كل من ديناميات الفريق وتفاعلات الإنسان والتكنولوجيا، تسعى الدراسة إلى المساهمة في فهم الثقة في فرق الإنسان والذكاء الاصطناعي. يقترح المؤلفون أن الثقة الشخصية، التي تشمل الأبعاد المعرفية والعاطفية، هي أمر حاسم للتعاون الفعال وأن انخفاض الثقة يمكن أن يؤدي إلى نتائج سلبية مثل اتخاذ قرارات سيئة وسوء الفهم. يجادلون بأن الخبرة المحدودة السابقة مع تقنيات الذكاء الاصطناعي قد تعيق تطوير الثقة، مما يؤثر على أداء الفريق.
طرق البحث
في هذه الدراسة، تم استخدام تصميم بين الموضوعات للتحقيق في تأثير نوع الزميل—الذكاء الاصطناعي مقابل البشر—على تصورات المشاركين للموثوقية وسلوكيات الثقة. تم تعيين المشاركين عشوائيًا إلى أحد حالتين: الحالة A، حيث تفاعلوا مع زميل من الذكاء الاصطناعي، أو الحالة B، حيث تفاعلوا مع زميل بشري. باستخدام برنامج oTree مفتوح المصدر، أنشأ الباحثون سيناريو فريق افتراضي عبر الإنترنت حيث تم إبلاغ المشاركين بأنهم جزء من فريق متعدد التخصصات مكون من خمسة أعضاء مكلف بتنظيم إصدار كتاب وجولة.
بعد تقديم الفريق وأدائه السابق، تم إبلاغ المشاركين بأن أحد الأعضاء سيتم استبداله إما بالذكاء الاصطناعي أو بشخص بشري. كانت الدراسة تهدف إلى تقييم الاختلافات في الموثوقية المتصورة، والثقة المعرفية والعاطفية، والسلوكيات المتعلقة بالثقة تجاه الزميل الجديد عبر الحالتين. يسمح هذا النهج المنهجي بفهم دقيق لكيفية تأثير طبيعة الزميل على ديناميات الثقة في البيئات التعاونية.
النتائج
تشير نتائج الدراسة إلى أن الموثوقية المتصورة لزميل من الذكاء الاصطناعي (M = 3.75، SD = 0.60) كانت أقل بكثير من تلك الخاصة بزميل بشري (M = 4.02، SD = 0.60)، مما يدعم الفرضية 1 (H1) بقيمة t تبلغ -2.58 (p = 0.011). ومع ذلك، لم تكن هناك اختلافات ملحوظة في الثقة الشخصية المعرفية بين تقديم زميل من الذكاء الاصطناعي (M = 4.24، SD = 0.69) وزميل بشري (M = 4.28، SD = 0.65)، مما أدى إلى رفض الفرضية 2a (H2a) بقيمة t تبلغ -0.29 (p = 0.767).
فيما يتعلق بالثقة الشخصية العاطفية، أدى تقديم زميل من الذكاء الاصطناعي (M = 3.58، SD = 0.93) إلى مستويات ثقة أقل بكثير مقارنة بزميل بشري (M = 4.02، SD = 0.70)، مما يدعم الفرضية 2b (H2b) بقيمة t تبلغ -3.04 (p < 0.01). على عكس التوقعات، لم يتم ملاحظة اختلافات ملحوظة في اختيار الخيارات التي تعكس مستويات منخفضة أو متوسطة أو عالية من سلوكيات الثقة بين حالات زميل الذكاء الاصطناعي والبشري، مما أدى إلى رفض الفرضية 3 (H3).
المناقشة
في هذا القسم، تناقش البحث ديناميات الثقة عند تقديم زميل جديد، مع التركيز على مقارنة وكلاء الذكاء الاصطناعي مع نظرائهم من البشر. يتم تصور الثقة كحالة نفسية تتضمن استعداد الموثوق لقبول الضعف بناءً على الموثوقية المتصورة للموثوق به، والتي تتكون من ثلاثة أبعاد: القدرة، والنزاهة، والإحسان. تفترض الدراسة أن الأعضاء الحاليين في الفريق سيعتبرون زميل الذكاء الاصطناعي أقل موثوقية من زميل بشري بسبب الشكوك المحيطة بكفاءة الذكاء الاصطناعي ونقص التفاعل السابق. تتأثر هذه التصورات أيضًا بأبعاد الثقة الشخصية—المعرفية والعاطفية. قد لا تختلف الثقة المعرفية، المستندة إلى التقييمات العقلانية للكفاءة، بشكل كبير بين زملاء الذكاء الاصطناعي والبشر، حيث يتم تقديم كلاهما بمعلومات متطابقة. ومع ذلك، من المتوقع أن تكون الثقة العاطفية، التي تعتمد على الروابط العاطفية والتجارب المشتركة، أقل بالنسبة للذكاء الاصطناعي بسبب الاختلافات المتصورة وتصنيف الذكاء الاصطناعي كفئة خارجية.
تدعم النتائج من التجربة عبر الإنترنت الفرضية القائلة بأن الموثوقية المتصورة والثقة الشخصية العاطفية أقل بالنسبة لزملاء الذكاء الاصطناعي، بينما لا تظهر الثقة الشخصية المعرفية وسلوكيات الثقة اختلافات ملحوظة. وهذا يشير إلى أنه بينما يمكن أن تكون التقييمات العقلانية لقدرات الذكاء الاصطناعي دقيقة، فإن الروابط العاطفية تستغرق وقتًا أطول لتتطور. تسلط الدراسة الضوء على الحاجة إلى مزيد من الاستكشاف في آليات الثقة في فرق الإنسان والذكاء الاصطناعي (HAITs) وتقترح تداعيات عملية، مثل دمج الذكاء الاصطناعي القابل للتفسير لتعزيز الموثوقية المتصورة والتدريب لتحسين الألفة مع زملاء الذكاء الاصطناعي. بشكل عام، تسهم الدراسة في فهم ديناميات الثقة في بيئات الفرق المتطورة حيث يلعب الذكاء الاصطناعي دورًا.
القيود
تقدم الدراسة عدة قيود يجب الاعتراف بها في تفسير نتائجها وفي تصميم الأبحاث المستقبلية. أولاً، كانت السيناريوهات المستخدمة ثابتة ولم تسهل التفاعل، مما جعلها أقل تمثيلًا لديناميات الفرق الحقيقية. بينما توفر رؤى أولية حول تصورات الأفراد لوكلاء الذكاء الاصطناعي كزملاء، فإن نقص التفاعل يحد من قابلية تطبيق النتائج على البيئات الفعلية للفرق. ثانيًا، ركزت الدراسة فقط على تصورات ونوايا سلوك عضو واحد في الفريق، متجاهلة ديناميات الثقة التي قد تنشأ من التفاعلات بين عدة أعضاء في الفريق، خاصة في السيناريوهات التي تتضمن زملاء جدد والتواصل عبر الكمبيوتر، مما قد يؤثر بشكل كبير على تطوير الثقة (Tucker et al., 2023).
بالإضافة إلى ذلك، قيدت المدة القصيرة للتجربة دورة حياة الفريق المتصورة، مما قد يعيق تأسيس الثقة الشخصية العاطفية. أخيرًا، بينما تم استنتاج سلوكيات الثقة من قرارات المشاركين، كانت هذه تعكس النوايا بدلاً من نتائج الثقة الفعلية. وبالتالي، يوصي المؤلفون بأن تستكشف الدراسات المستقبلية سيناريوهات فرق الإنسان والذكاء الاصطناعي الحقيقية على مدى فترات طويلة وتقيس سلوكيات الثقة مباشرة للحصول على فهم أكثر شمولاً لديناميات الثقة في مثل هذه السياقات.
DOI: https://doi.org/10.1108/tpm-07-2023-0053
Publication Date: 2024-03-09
Author(s): Eleni Georganta et al.
Primary Topic: Team Dynamics and Performance
Overview
This study aimed to explore trust dynamics within human-AI teams, emphasizing the critical role of trust in fostering successful collaboration. Conducted through an online experiment with 127 participants, the research employed a between-subjects design to compare trust perceptions and behaviors when introducing a new AI teammate versus a new human teammate. Participants were randomly assigned to one of two conditions: either a new AI or a new human team member.
The findings revealed that perceived trustworthiness and affective interpersonal trust were significantly lower for AI teammates compared to human teammates. However, no notable differences were observed in cognitive interpersonal trust or trust behaviors. This indicates that while humans may rationally trust an AI based on its competence and reliability, developing emotional trust remains challenging. The study contributes to the field of human-AI teamwork by bridging insights from traditional human-only team trust research with emerging empirical evidence on trust in AI collaborations.
Introduction
The introduction of this research paper highlights the necessity for work teams to adapt continuously to changes, particularly in the context of integrating artificial intelligence (AI) as teammates. As AI technologies evolve, they increasingly participate in cognitive decision-making alongside human team members, forming what are termed Human-AI Teams (HAITs). The effectiveness of these teams is significantly influenced by the level of trust established between human and AI members, which is critical for successful collaboration. The authors note that while trust is essential in human teams, the introduction of an AI teammate presents unique challenges, as existing team members must develop trust not only towards the new AI but also in the technology itself.
The study aims to investigate whether trust dynamics differ when introducing an AI teammate compared to a human teammate. The authors hypothesize that perceived trustworthiness, cognitive and affective interpersonal trust, and trust behaviors will be lower for AI teammates. By integrating theories of trust from both team dynamics and human-technology interactions, the research seeks to contribute to the understanding of trust in HAITs. The authors propose that interpersonal trust, which encompasses cognitive and affective dimensions, is crucial for effective collaboration and that low trust can lead to adverse outcomes such as poor decision-making and misunderstandings. They argue that the limited prior experience with AI technologies may hinder the development of trust, thereby impacting team performance.
Methods
In this study, a between-subjects design was employed to investigate the impact of teammate type—AI versus human—on participants’ perceptions of trustworthiness and trust behaviors. Participants were randomly assigned to one of two conditions: Condition A, where they interacted with an AI teammate, or Condition B, where they interacted with a human teammate. Utilizing the open-source software oTree, the researchers created a hypothetical online team scenario in which participants were informed they were part of a five-member interdisciplinary team tasked with organizing a book release and tour.
Following an introduction to their team and its prior performance, participants were informed that one member would be replaced by either an AI or a human. The study aimed to assess differences in perceived trustworthiness, cognitive and affective trust, and trust-related behaviors towards the new teammate across the two conditions. This methodological approach allows for a nuanced understanding of how the nature of a teammate influences trust dynamics in collaborative settings.
Results
The results of the study indicate that the perceived trustworthiness of an AI teammate (M = 3.75, SD = 0.60) was significantly lower than that of a human teammate (M = 4.02, SD = 0.60), supporting Hypothesis 1 (H1) with a t-value of -2.58 (p = 0.011). However, there were no significant differences in cognitive interpersonal trust between the introduction of an AI (M = 4.24, SD = 0.69) and a human teammate (M = 4.28, SD = 0.65), leading to the rejection of Hypothesis 2a (H2a) with a t-value of -0.29 (p = 0.767).
In terms of affective interpersonal trust, the introduction of an AI teammate (M = 3.58, SD = 0.93) resulted in significantly lower trust levels compared to a human teammate (M = 4.02, SD = 0.70), thereby supporting Hypothesis 2b (H2b) with a t-value of -3.04 (p < 0.01). Contrary to expectations, no significant differences were observed in the selection of options reflecting low, medium, or high levels of trust behaviors between the AI and human teammate conditions, leading to the rejection of Hypothesis 3 (H3).
Discussion
In this section, the research discusses the dynamics of trust when introducing a new teammate, specifically contrasting AI agents with human counterparts. Trust is conceptualized as a psychological state involving the trustor’s willingness to accept vulnerability based on the perceived trustworthiness of the trustee, which comprises three dimensions: ability, integrity, and benevolence. The study posits that existing team members will perceive an AI teammate as less trustworthy than a human teammate due to uncertainties surrounding the AI’s competence and a lack of prior interaction. This perception is further influenced by the dimensions of interpersonal trust—cognitive and affective. Cognitive trust, based on rational assessments of competence, may not differ significantly between AI and human teammates, as both are presented with identical information. However, affective trust, which relies on emotional connections and shared experiences, is expected to be lower for AI due to perceived dissimilarity and the AI’s categorization as an outgroup.
The findings from the online experiment support the hypothesis that perceived trustworthiness and affective interpersonal trust are lower for AI teammates, while cognitive interpersonal trust and trust behaviors do not show significant differences. This suggests that while rational evaluations of an AI’s capabilities can be accurate, emotional connections take longer to develop. The research highlights the need for further exploration into the mechanisms of trust in human-AI teams (HAITs) and suggests practical implications, such as the integration of Explainable AI to enhance perceived trustworthiness and training to improve familiarity with AI teammates. Overall, the study contributes to the understanding of trust dynamics in evolving team environments where AI plays a role.
Limitations
The study presents several limitations that should be acknowledged in the interpretation of its findings and in the design of future research. Firstly, the scenarios employed were static and did not facilitate interaction, making them less representative of real team dynamics. While they provide initial insights into individual perceptions of AI agents as teammates, the lack of interaction limits the applicability of the results to actual team environments. Secondly, the research focused solely on the perceptions and behavioral intentions of a single team member, neglecting the trust dynamics that may arise from interactions among multiple team members, particularly in scenarios involving new teammates and computer-mediated communication, which could significantly influence trust development (Tucker et al., 2023).
Additionally, the brief duration of the experiment constrained the perceived life cycle of the team, potentially hindering the establishment of affective interpersonal trust. Lastly, while trust behaviors were inferred from participants’ decisions, these reflected intentions rather than actual trust outcomes. Consequently, the authors recommend that future studies explore real Human-AI Teaming (HAIT) scenarios over extended periods and directly measure trust behaviors to gain a more comprehensive understanding of trust dynamics in such contexts.