DOI: https://doi.org/10.1111/joop.12504
تاريخ النشر: 2024-04-27
المؤلف: Eleni Georganta وآخرون
الموضوع الرئيسي: ديناميات الفريق والأداء
نظرة عامة
تستكشف هذه الدراسة ظهور الثقة بين الفرق في فرق الإنسان-الذكاء الاصطناعي مقارنة بالفرق التقليدية بين الإنسان-الإنسان، باستخدام نهج متعدد المستويات من خلال دراستين تجريبيتين تضم 828 مشاركًا (الدراسة 1: 247 فريقًا مكونًا من عضوين؛ الدراسة 2: 106 فرق مكونة من ثلاثة أعضاء). تشير النتائج إلى أنه في الفرق المكونة من عضوين، كانت الثقة بين الأفراد – التي تم قياسها من خلال الثقة المدركة – أقل بكثير في فرق الإنسان-الذكاء الاصطناعي مقارنة بفرق الإنسان-الإنسان. بالإضافة إلى ذلك، أشارت النتائج الاستكشافية إلى أن تحديد الهوية الجماعية والثقة بين الأفراد المعرفية كانت أيضًا أقل في سياق الإنسان-الذكاء الاصطناعي.
على العكس من ذلك، في الفرق المكونة من ثلاثة أعضاء، لم تُلاحظ اختلافات كبيرة في ثقة الفريق عبر الثقة بين الأفراد بين النوعين من الفرق. بدلاً من ذلك، أظهرت كلا النوعين من الفرق أن زيادة الثقة المدركة والتشابه المدرك تؤثر إيجابياً على الثقة بين الأفراد، مما يعزز في النهاية الثقة العامة للفريق. تؤكد هذه الدراسة على قابلية تطبيق النظريات الحالية حول ثقة الفريق من السياقات البشرية فقط إلى فرق الإنسان-الذكاء الاصطناعي مع تسليط الضوء على الفروق الملحوظة التي تستدعي المزيد من الاستكشاف.
الطرق
في الدراسة 1، كان هدف الباحثين هو تقييم تأثير أعضاء الفريق من الذكاء الاصطناعي مقابل الإنسان على الثقة المدركة والتشابه، وتأثيراتهم اللاحقة على الثقة بين الأفراد. باستخدام تصميم بين الموضوعات، تم تقسيم المشاركين إلى مجموعتين: المجموعة A، حيث كان أحد الأعضاء يعمل كذكاء اصطناعي (في الواقع إنسان يستخدم منهجية Wizard of Oz)، والمجموعة B، حيث كان كلا العضوين إنسانين. تم اختيار هذا النهج لتخفيف القيود المفروضة على تقنيات الذكاء الاصطناعي الحالية، التي لم تكن قادرة على المحادثة الطبيعية في ذلك الوقت، مما يسمح بإجراء تحقيق منظم حول ديناميات الثقة في تفاعلات الإنسان-الذكاء الاصطناعي.
وسعت الدراسة 2 الاستفسار إلى مستوى الفريق، حيث تم فحص ما إذا كانت وجود عضو من الذكاء الاصطناعي يؤثر على الثقة بين الأفراد تجاه ذلك العضو والثقة العامة للفريق. على غرار الدراسة 1، تم تنظيم المشاركين في فرق مكونة من ثلاثة أعضاء، حيث تضمنت المجموعة A عضوًا واحدًا من الذكاء الاصطناعي (مرة أخرى، إنسان متنكر) والمجموعة B تتكون بالكامل من أعضاء بشر. تم إبلاغ المشاركين بتكوين فرقهم، مما سهل استكشاف الفجوات في الثقة في البيئات الجماعية التي تأثرت بوجود الذكاء الاصطناعي. استخدمت كلتا الدراستين منهجية Wizard of Oz لضمان أن التفاعلات لم تكن مقيدة بالقيود التكنولوجية، مما يعزز صحة النتائج المتعلقة بالثقة في أنظمة الذكاء الاصطناعي.
النتائج
يقدم قسم “النتائج” من ورقة البحث النتائج الرئيسية المستمدة من التجارب أو التحليلات التي تم إجراؤها. عادةً ما يتضمن بيانات كمية، وتحليلات إحصائية، وأي أرقام أو جداول ذات صلة توضح النتائج. يجب تفسير النتائج في سياق الفرضيات أو أسئلة البحث المطروحة سابقًا في الدراسة.
في هذا القسم، قد يبلغ المؤلفون عن أهمية نتائجهم، بما في ذلك قيم p أو فترات الثقة، لإظهار قوة نتائجهم. بالإضافة إلى ذلك، يجب تسليط الضوء على أي اتجاهات أو أنماط ملحوظة في البيانات، جنبًا إلى جنب مع المقارنات مع الدراسات السابقة إذا كانت قابلة للتطبيق. بشكل عام، يخدم هذا القسم لتقديم نظرة عامة واضحة وشاملة على الأدلة التجريبية التي تدعم استنتاجات الدراسة.
المناقشة
يؤكد قسم المناقشة في ورقة البحث على الدور الحاسم لثقة الفريق في التعاون بين الإنسان-الذكاء الاصطناعي، حيث يفترض أن ثقة الفريق هي حالة ناشئة تعكس اعتقاد الأعضاء في كفاءة بعضهم البعض واستعدادهم ليكونوا عرضة للخطر. تسهل مستويات عالية من ثقة الفريق التواصل المفتوح، والمعايير المشتركة، وتقليل التوترات بين الأفراد، مما يؤدي في النهاية إلى نتائج أفضل للفريق. ومع ذلك، تفترض الورقة أن فرق الإنسان-الذكاء الاصطناعي قد تواجه تحديات فريدة في تطوير الثقة بسبب عوامل مثل تكوين الفريق والصعوبات الكامنة في تقييم موثوقية أعضاء الذكاء الاصطناعي. تشير الأبحاث السابقة إلى أن تكوينات الفرق المتنوعة يمكن أن تعيق تطوير الثقة، وغالبًا ما تؤدي التفاعلات الأولية مع تقنيات الذكاء الاصطناعي إلى مستويات أقل من الثقة المدركة مقارنة بنظرائهم من البشر.
يقترح المؤلفون فرضيتين رئيسيتين: أولاً، أن الثقة المدركة تتوسط العلاقة بين تكوين الفريق (ذكاء اصطناعي مقابل إنسان) والثقة بين الأفراد؛ وثانيًا، أن التشابه المدرك يتوسط أيضًا هذه العلاقة. تقترح الورقة أن الثقة بين الأفراد، سواء كانت معرفية أو عاطفية، ضرورية لتعزيز الثقة العامة للفريق، والتي تتأثر بشكل خاص بتكوين الفريق. أجرى المؤلفون دراستين تجريبيتين مسجلتين مسبقًا لاستكشاف هذه الديناميات، مع التركيز على كيفية تأثير تكوين الفريق على الثقة بين الأفراد، وبالتالي، ثقة الفريق. تهدف النتائج إلى تقديم رؤى حول الآليات التي من خلالها تنشأ الثقة في فرق الإنسان-الذكاء الاصطناعي، مما يسلط الضوء على أهمية فهم الديناميات بين الأفراد في سياق الهياكل الجماعية المتطورة التي تشمل أعضاء من الذكاء الاصطناعي.
القيود
تقدم الدراسة عدة قيود تستدعي الاعتبار. أولاً، بينما كانت إرشادات الاتصال متوافقة مع الأدبيات الحالية حول الدردشة الآلية ونجح المشاركون في إكمال البرنامج التعليمي للتواصل، لم يكونوا زملاء فريق حقيقيين من الذكاء الاصطناعي. قد يكون لهذا التمييز تأثير على النتائج. بالإضافة إلى ذلك، كانت التلاعب في وعي المشاركين بشأن كون زميلهم من الذكاء الاصطناعي أو الإنسان يفتقر إلى العمق، حيث لم يتم تقديم أي خصائص أخرى، مثل التجسيد. يجب على الأبحاث المستقبلية استكشاف تلاعبات متنوعة، بما في ذلك التمثيلات المرئية لزملاء الذكاء الاصطناعي، وإجراء دراسات مع أنظمة ذكاء اصطناعي حقيقية في كل من البيئات الميدانية والمخبرية لتعزيز صحة النتائج.
علاوة على ذلك، فإن استخدام منهجيات Wizard-of-Oz (WoZ)، رغم أنها شائعة في دراسات فرق الإنسان-الذكاء الاصطناعي، يقدم تحديات، حيث قد لا تعكس الاستجابات البشرية بدقة تلك الخاصة بالدردشة الآلية للذكاء الاصطناعي، خاصة في السيناريوهات التي تتضمن خلافات. قد تقلل التقدم السريع في الذكاء الاصطناعي التوليدي من هذه القيود، مما يمكّن من تفاعلات أكثر أصالة مع زملاء الذكاء الاصطناعي. قيد آخر مهم هو عدم معرفة المشاركين بشكل عام بزملاء الذكاء الاصطناعي، مما قد يؤدي إلى توقعات وإدراكات متنوعة. يجب على الدراسات المستقبلية التحقيق في تصورات المشاركين المسبقة حول زملاء الذكاء الاصطناعي وكيف تؤثر هذه التصورات على تفاعلاتهم. أخيرًا، يجب توخي الحذر في تعميم نتائج الدراسة، التي تم اشتقاقها بشكل أساسي من فرق ثنائية وثلاثية مع أغلبية من الأعضاء البشر. يُشجع على إجراء مزيد من الأبحاث لاستكشاف تكوينات الفرق المختلفة والبيئات، بالإضافة إلى استكشاف تصورات زملاء الذكاء الاصطناعي تجاه نظرائهم من البشر، مما يعزز فهم ديناميات الثقة في التعاون بين الإنسان-الذكاء الاصطناعي.
DOI: https://doi.org/10.1111/joop.12504
Publication Date: 2024-04-27
Author(s): Eleni Georganta et al.
Primary Topic: Team Dynamics and Performance
Overview
This study investigates the emergence of team trust in human-AI teams compared to traditional human-human teams, utilizing a multi-level approach through two experimental studies involving a total of 828 participants (Study 1: 247 two-member teams; Study 2: 106 three-member teams). The findings indicate that in two-member teams, interpersonal trust—measured through perceived trustworthiness—was significantly lower in human-AI teams than in human-human teams. Additionally, exploratory results suggested that team identification and cognitive interpersonal trust were also diminished in the human-AI context.
Conversely, in three-member teams, no significant differences in team trust via interpersonal trust were observed between the two types of teams. Instead, both team types demonstrated that increased perceived trustworthiness and perceived similarity positively influenced interpersonal trust, which subsequently enhanced overall team trust. This research underscores the applicability of existing theories on team trust from human-only contexts to human-AI teams while highlighting notable differences that warrant further exploration.
Methods
In Study 1, the researchers aimed to assess the impact of AI versus human team members on perceived trustworthiness and similarity, and their subsequent effects on interpersonal trust. Utilizing a between-subjects design, participants were divided into two groups: Group A, where one member acted as an AI (actually a human using the Wizard of Oz methodology), and Group B, where both members were human. This approach was chosen to mitigate the limitations of existing AI technologies, which were not capable of natural conversation at the time, thereby allowing for a controlled investigation of trust dynamics in human-AI interactions.
Study 2 expanded the inquiry to the team level, examining whether the presence of an AI team member affects interpersonal trust towards that member and overall team trust. Similar to Study 1, participants were organized into three-member teams, with Group A including one AI member (again, a human in disguise) and Group B consisting entirely of human members. Participants were informed of their team composition, which facilitated the exploration of trust disparities in team settings influenced by the presence of AI. Both studies employed the Wizard of Oz methodology to ensure that the interactions were not constrained by technological limitations, reinforcing the validity of the findings regarding trust in AI systems.
Results
The “Results” section of the research paper presents the key findings derived from the conducted experiments or analyses. It typically includes quantitative data, statistical analyses, and any relevant figures or tables that illustrate the outcomes. The results should be interpreted in the context of the hypotheses or research questions posed earlier in the study.
In this section, the authors may report on the significance of their findings, including p-values or confidence intervals, to demonstrate the robustness of their results. Additionally, any observed trends or patterns in the data should be highlighted, along with comparisons to previous studies if applicable. Overall, this section serves to provide a clear and comprehensive overview of the empirical evidence supporting the study’s conclusions.
Discussion
The discussion section of the research paper emphasizes the critical role of team trust in human-AI collaborations, positing that team trust is an emergent state reflecting members’ belief in each other’s competence and willingness to be vulnerable. High levels of team trust facilitate open communication, shared norms, and reduced interpersonal tensions, ultimately leading to superior team outcomes. However, the paper theorizes that human-AI teams may face unique challenges in developing trust due to factors such as team composition and the inherent difficulties in assessing AI members’ trustworthiness. Prior research indicates that diverse team compositions can hinder trust development, and initial interactions with AI technologies often lead to lower levels of perceived trustworthiness compared to human counterparts.
The authors propose two key hypotheses: first, that perceived trustworthiness mediates the relationship between team composition (AI vs. human) and interpersonal trust; and second, that perceived similarity also mediates this relationship. The paper suggests that interpersonal trust, both cognitive and affective, is crucial for fostering overall team trust, which is particularly influenced by the composition of the team. The authors conducted two pre-registered experimental studies to explore these dynamics, focusing on how team composition affects interpersonal trust and, consequently, team trust. The findings aim to provide insights into the mechanisms through which trust emerges in human-AI teams, highlighting the importance of understanding interpersonal dynamics in the context of evolving team structures that include AI members.
Limitations
The study presents several limitations that warrant consideration. Firstly, while the communication guidelines were aligned with existing chatbot literature and participants successfully completed the communication tutorial, they were not actual AI teammates. This distinction may have influenced the findings. Additionally, the manipulation of participant awareness regarding their teammate being an AI or human lacked depth, as no further characteristics, such as embodiment, were introduced. Future research should explore varied manipulations, including visual representations of AI teammates, and conduct studies with real AI systems in both field and laboratory settings to enhance the validity of the findings.
Moreover, the use of Wizard-of-Oz (WoZ) methodologies, while common in human-AI team studies, presents challenges, as human responses may not accurately reflect those of AI chatbots, particularly in scenarios involving disagreement. The rapid advancements in generative AI could mitigate these limitations, enabling more authentic interactions with AI teammates. Another significant limitation is the general unfamiliarity of participants with AI teammates, which may have led to varied expectations and perceptions. Future studies should investigate participants’ preconceptions about AI teammates and how these perceptions influence their interactions. Lastly, the study’s findings, primarily derived from dyadic and triadic teams with a majority of human members, should be generalized cautiously. Further research is encouraged to examine different team compositions and settings, as well as to explore AI teammates’ perceptions of human counterparts, thereby enriching the understanding of trust dynamics in human-AI collaborations.