DOI: https://doi.org/10.1007/s12599-024-00918-y
تاريخ النشر: 2025-01-03
المؤلف: Christopher Diebel وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تبحث ورقة البحث في تأثير المساعدة الاستباقية مقابل المساعدة التفاعلية من الوكلاء المعتمدين على الذكاء الاصطناعي على رضا المستخدمين عن النظام في سياق التعاون بين الإنسان والذكاء الاصطناعي. باستخدام نظرية تحديد الذات، أظهر تجربة عبر الإنترنت تعتمد على مشاهد أن المساعدة الاستباقية من وكلاء الذكاء الاصطناعي يمكن أن تؤدي إلى فقدان أكبر لثقة المستخدمين بالنفس القائمة على الكفاءة، مما يقلل من رضاهم عن النظام. يتم تعديل هذا التأثير السلبي بشكل أكبر من خلال معرفة المستخدمين بالذكاء الاصطناعي، حيث يعاني الأفراد ذوو المعرفة العالية بالذكاء الاصطناعي من تراجع أكثر وضوحًا في تقدير الذات عند تلقي المساعدة الاستباقية مقارنةً بأولئك ذوي المعرفة الأقل.
تسلط الدراسة الضوء على الدور التحويلي لوكلاء الذكاء الاصطناعي، الذين أصبحوا قادرين بشكل متزايد على إدارة عمليات العمل بالكامل بشكل مستقل وتجاوز البشر في مهام معينة. تؤكد النتائج على الحاجة إلى فهم أعمق للديناميات بين المستخدمين ووكلاء الذكاء الاصطناعي الاستباقيين، فضلاً عن الآثار المترتبة على المديرين والمصممين الذين يهدفون إلى تعزيز التعاون. يدعو المؤلفون إلى مزيد من البحث لاستكشاف الفرص والتحديات التي تقدمها وكلاء الذكاء الاصطناعي الاستباقيين، مع التأكيد على أهمية فهم قدرتهم على تحسين التفاعلات بين الإنسان والذكاء الاصطناعي.
مقدمة
تناقش مقدمة ورقة البحث التقدمات الكبيرة في الذكاء الاصطناعي (AI) وظهور وكلاء الذكاء الاصطناعي الاستباقيين الذين يمكنهم بدء التفاعلات بشكل مستقل وتوقع احتياجات المستخدمين. هؤلاء الوكلاء، على عكس الوكلاء التفاعليين الذين يستجيبون فقط لطلبات المستخدم، لديهم القدرة على تعزيز التعاون بين الإنسان والذكاء الاصطناعي من خلال زيادة الكفاءة. ومع ذلك، على الرغم من قدراتهم، لا يزال هناك تشكك من المستخدمين تجاه الذكاء الاصطناعي، خاصة في ألمانيا، حيث يعبر أكثر من 50% من المواطنين عن ترددهم في التفاعل مع أنظمة الذكاء الاصطناعي. يبرز هذا التشكيك أهمية رضا المستخدمين عن وكلاء الذكاء الاصطناعي، حيث يمكن أن تعيق عدم الرضا التفاعل المستمر.
تحدد الورقة فجوة حاسمة في فهم كيفية تأثير أنواع مختلفة من بدء المساعدة – الاستباقية مقابل التفاعلية – على رضا المستخدمين عن النظام، خاصة في ضوء معرفة المستخدمين بالذكاء الاصطناعي. أجرى المؤلفون تجربة عبر الإنترنت تعتمد على مشاهد مع 92 مشاركًا في البرمجة، وكشفت أن المساعدة الاستباقية يمكن أن تؤدي إلى تراجع في تقدير الذات القائم على الكفاءة لدى المستخدمين، مما يقلل بدوره من رضاهم عن النظام. علاوة على ذلك، عانى المستخدمون ذوو المعرفة العالية بالذكاء الاصطناعي من فقدان أكثر وضوحًا في تقدير الذات. تسهم الدراسة في مجال نظم المعلومات من خلال التأكيد على الحاجة إلى النظر في التأثيرات النفسية لتفاعلات الذكاء الاصطناعي وتقترح أن التدخلات قد تكون ضرورية للتخفيف من الآثار السلبية المرتبطة بالمساعدة الاستباقية.
الطرق
تركز منهجية البحث الموضحة في هذه الدراسة على تأثير وكلاء الذكاء الاصطناعي على تطوير البرمجيات، وخاصة في سياقات البرمجة. أجرى المؤلفون تجربة عبر الإنترنت تعتمد على مشاهد لتقييم رضا المستخدمين في التعاون بين الإنسان والذكاء الاصطناعي، مقارنةً بالمساعدة التفاعلية والاستباقية المقدمة من وكلاء الذكاء الاصطناعي مثل GitHub Copilot وChatGPT. استخدم تصميم التجربة إطار عمل بين الموضوعات 2×1، حيث تم تعيين المشاركين عشوائيًا لتجربة إما المساعدة التفاعلية (التي بدأها المستخدم) أو المساعدة الاستباقية (التي قدمها وكيل الذكاء الاصطناعي). يستفيد هذا النهج من نقاط القوة في دراسات المشاهد، التي تقدم صلاحية داخلية عالية من خلال سيناريوهات محكومة مع الحفاظ على الصلاحية الخارجية من خلال محاكاة تفاعلات واقعية.
تولى المشاركون دور مطور برمجيات خيالي، أليكس، مكلف بكتابة كود لميزة جديدة. تم تقديمهم إلى CoCreator™، وكيل ذكاء اصطناعي يتمتع بكفاءة برمجية تعادل كفاءة المطورين البشريين. استخدمت الدراسة نموذجًا لبيئة تطوير Visual Studio Code المتكاملة لتعزيز الواقعية، وشاهد المشاركون فيديو يصور التعاون. تم تصميم نوع المساعدة بعناية لضمان أن توقيت المساعدة لم يعطل عملية البرمجة. بعد التفاعل، أكمل المشاركون استبيانًا لتقييم تصوراتهم حول مساعدة الذكاء الاصطناعي، بما في ذلك فحوصات لفعالية التلاعبات وقياسات رضا المستخدم. تهدف هذه المنهجية إلى تقديم رؤى حول الديناميات المتطورة للتعاون بين الإنسان والذكاء الاصطناعي في تطوير البرمجيات.
النتائج
في هذا القسم، يقدم المؤلفون نتائج أربع تحليلات انحدار عادية (OLS) تهدف إلى اختبار فرضياتهم بشأن تأثير نوع المساعدة (الاستباقية مقابل التفاعلية) على فقدان تقدير الذات القائم على الكفاءة ورضا النظام. شملت التحليلات متغيرات تحكم مختلفة مثل العمر، الجنس، التأثير السلبي، الابتكار الشخصي، تكرار البرمجة، ومعرفة المنتج. تشير النتائج إلى أن المساعدة الاستباقية تقلل بشكل كبير من رضا النظام (M = 3.14 مقابل M = 4.23، $b = -1.33$، $p < 0.001$)، مما يدعم الفرضية 1 (H1). بالإضافة إلى ذلك، وُجد أن فقدان تقدير الذات القائم على الكفاءة يتوسط العلاقة بين نوع المساعدة ورضا النظام، مع ملاحظات تأثيرات كبيرة في كل من التأثيرات المباشرة ($b = -0.28$، $p < 0.01$) والتأثيرات غير المباشرة ($\text{indirect effect} = -0.24$، $95\% \text{ CI} = [-0.65، -0.01]$)، مما يوفر دعمًا للفرضية 2 (H2). علاوة على ذلك، استكشف المؤلفون الدور المعدل لمعرفتهم بالذكاء الاصطناعي على العلاقة بين نوع المساعدة وفقدان تقدير الذات القائم على الكفاءة. أشارت النتائج إلى وجود تأثير تفاعل كبير ($b = 0.70$، $p < 0.05$)، مما يشير إلى أن المعرفة العالية بالذكاء الاصطناعي تعزز التأثير السلبي للمساعدة الاستباقية على رضا النظام عبر فقدان تقدير الذات القائم على الكفاءة. على وجه التحديد، كان تأثير الوساطة المعدل كبيرًا ($\text{index of moderated mediation} = -0.20$، $95\% \text{ CI} = [-0.47، -0.01]$)، مما يشير إلى أن التأثير الضار للمساعدة الاستباقية على الرضا يزداد مع مستويات المعرفة العالية بالذكاء الاصطناعي. أكدت فحوصات إضافية للموثوقية صحة نموذج البحث، وتمت ملاحظة أنماط مماثلة عند تحليل نية الاستخدام كمتغير تابع بديل، مما يعزز موثوقية النتائج.
المناقشة
تسلط قسم المناقشة في ورقة البحث الضوء على الدور المتطور لوكلاء الذكاء الاصطناعي في التفاعلات بين الإنسان والكمبيوتر، وخاصة انتقالهم من وكلاء ردود الفعل البسيطة إلى وكلاء تعلم أكثر استقلالية قادرين على تقديم المساعدة التفاعلية والاستباقية. تُعرف المساعدة التفاعلية بأنها المساعدة المقدمة عند طلب المستخدم، بينما تتوقع المساعدة الاستباقية احتياجات المستخدم دون مطالبات صريحة. تشير الأدبيات إلى أنه بينما يفضل المستخدمون عمومًا المساعدة التفاعلية، يمكن أن تعزز المساعدة الاستباقية أداء المهام ولكنها قد تقوض أيضًا كفاءة المستخدمين وتقديرهم الذاتي، مما يؤدي إلى انخفاض الرضا عن نظام الذكاء الاصطناعي. هذه المفارقة تكون أكثر وضوحًا عندما يمتلك المستخدمون معرفة عالية بالذكاء الاصطناعي، حيث قد يرون المساعدة الاستباقية كتحدٍ لقدراتهم.
تستخدم الورقة نظرية تحديد الذات لاستكشاف كيف تؤثر المساعدة الاستباقية من وكلاء الذكاء الاصطناعي على رضا المستخدمين عن النظام من خلال تأثيرها على تقدير الذات القائم على الكفاءة. تفترض أن المساعدة الاستباقية يمكن أن تؤدي إلى مشاعر عدم الكفاءة، مما يقلل من رضا المستخدم. يقترح نموذج البحث الذي تم تطويره في الدراسة أن الآثار السلبية للمساعدة الاستباقية يتم التوسط فيها من خلال فقدان تقدير الذات القائم على الكفاءة ويتم تعديلها بواسطة مستوى معرفة المستخدم بالذكاء الاصطناعي. يبرز هذا الفهم الدقيق لتفاعل المستخدم مع وكلاء الذكاء الاصطناعي أهمية تصميم أنظمة الذكاء الاصطناعي التي لا تساعد المستخدمين بفعالية فحسب، بل تأخذ أيضًا في الاعتبار الآثار النفسية لاستراتيجيات مساعدتهم.
القيود
تقدم الدراسة عدة قيود تبرز الفرص للبحث المستقبلي. تركز بشكل أساسي على وكلاء الذكاء الاصطناعي في تطوير البرمجيات، مما يشير إلى أن النتائج قد لا تكون قابلة للتعميم عبر مجالات أخرى مثل الرعاية الصحية أو المالية. يمكن أن تعزز التحقيقات المستقبلية موثوقية هذه النتائج من خلال استكشاف تأثير المساعدة الاستباقية مقابل التفاعلية من وكلاء الذكاء الاصطناعي في سياقات متنوعة، مع الأخذ في الاعتبار الاحتياجات النفسية للمستخدمين من الاستقلالية والترابط إلى جانب الكفاءة، كما هو موضح في نظرية تحديد الذات.
بالإضافة إلى ذلك، استخدمت الدراسة تجربة عبر الإنترنت تعتمد على مشاهد، والتي، على الرغم من تقديمها صلاحية داخلية عالية، تفتقر إلى التفاعل في العالم الحقيقي، مما قد يحد من الصلاحية الخارجية. تشير هذه القيود المنهجية إلى أن سلوك المستخدم في بيئات العمل الفعلية قد يختلف بشكل كبير عن نتائج الدراسة. يجب أن تهدف الدراسات المستقبلية إلى تكرار البحث في بيئات العالم الحقيقي على مدى فترات طويلة، مع دمج تفاعلات متعددة ومعدلات إضافية، مثل جودة المساعدة وتقدير الذات لدى المستخدمين. أخيرًا، قد لا تعكس مجموعة المشاركين، التي تتكون من أفراد مقيمين في الولايات المتحدة ولديهم خبرة في البرمجة، السكان الأوسع لمستخدمي الذكاء الاصطناعي. قد يوفر توسيع العينة لتشمل سياقات ثقافية متنوعة رؤى أعمق حول كيفية تأثير العوامل الثقافية على رضا المستخدمين عن المساعدة المقدمة من الذكاء الاصطناعي.
DOI: https://doi.org/10.1007/s12599-024-00918-y
Publication Date: 2025-01-03
Author(s): Christopher Diebel et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
The research paper investigates the impact of proactive versus reactive assistance from AI-based agents on users’ system satisfaction within the context of human-AI collaboration. Utilizing self-determination theory, a vignette-based online experiment demonstrated that proactive help from AI agents can lead to a greater loss of users’ competence-based self-esteem, thereby diminishing their satisfaction with the system. This negative effect is further moderated by the users’ knowledge of AI, where individuals with higher AI knowledge experience a more pronounced decline in self-esteem when receiving proactive assistance compared to those with lower knowledge.
The study highlights the transformative role of AI agents, which are increasingly capable of autonomously managing entire work processes and outperforming humans in specific tasks. The findings underscore the need for a deeper understanding of the dynamics between users and proactive AI agents, as well as the implications for managers and designers aiming to enhance collaboration. The authors call for further research to explore the opportunities and challenges presented by proactive AI agents, emphasizing the importance of comprehending their potential to optimize human-AI interactions.
Introduction
The introduction of the research paper discusses the significant advancements in artificial intelligence (AI) and the emergence of proactive AI-based agents that can autonomously initiate interactions and anticipate user needs. These agents, unlike reactive ones that respond only to user requests, have the potential to enhance human-AI collaboration by increasing efficiency. However, despite their capabilities, user skepticism towards AI remains prevalent, particularly in Germany, where over 50% of citizens express reluctance to engage with AI systems. This skepticism underscores the importance of user satisfaction with AI agents, as dissatisfaction can hinder consistent engagement.
The paper identifies a critical gap in understanding how different types of help initiation—proactive versus reactive—affect users’ system satisfaction, particularly in light of users’ AI knowledge. The authors conducted a vignette-based online experiment with 92 programming participants, revealing that proactive help can lead to a decline in users’ competence-based self-esteem, which in turn reduces system satisfaction. Furthermore, users with higher AI knowledge experienced a more pronounced loss of self-esteem. The study contributes to the field of information systems by emphasizing the need to consider the psychological impacts of AI interactions and suggests that interventions may be necessary to mitigate negative effects associated with proactive assistance.
Methods
The research methodology outlined in this study focuses on the impact of AI-based agents on software development, particularly in programming contexts. The authors conducted a vignette-based online experiment to assess user satisfaction in human-AI collaboration, comparing reactive and proactive assistance provided by AI agents like GitHub Copilot and ChatGPT. The experimental design utilized a 2×1 between-subjects framework, where participants were randomly assigned to experience either reactive help (initiated by the user) or proactive help (offered by the AI agent). This approach leverages the strengths of vignette studies, which offer high internal validity through controlled scenarios while maintaining external validity by simulating realistic interactions.
Participants assumed the role of a fictional software developer, Alex, tasked with writing code for a new feature. They were introduced to CoCreator™, an AI agent with coding proficiency equivalent to that of human developers. The study employed a mock-up of the Visual Studio Code integrated development environment to enhance realism, and participants viewed a video depicting the collaboration. The manipulation of help type was carefully designed to ensure that the timing of assistance did not disrupt the coding process. Following the interaction, participants completed a questionnaire to evaluate their perceptions of the AI’s help, including checks for the effectiveness of the manipulations and measures of user satisfaction. This methodology aims to provide insights into the evolving dynamics of human-AI collaboration in software development.
Results
In this section, the authors present the results of four ordinary least squares (OLS) regression analyses aimed at testing their hypotheses regarding the effects of Type of Help (proactive vs. reactive) on Loss of Competence-Based Self-Esteem and System Satisfaction. The analyses included various control variables such as age, gender, negative affectivity, personal innovativeness, programming frequencies, and product knowledge. The findings indicate that proactive help significantly reduces System Satisfaction (M = 3.14 vs. M = 4.23, $b = -1.33$, $p < 0.001$), supporting Hypothesis 1 (H1). Additionally, Loss of Competence-Based Self-Esteem was found to mediate the relationship between Type of Help and System Satisfaction, with significant effects observed in both the direct ($b = -0.28$, $p < 0.01$) and indirect effects ($\text{indirect effect} = -0.24$, $95\% \text{ CI} = [-0.65, -0.01]$), thereby providing support for Hypothesis 2 (H2). Furthermore, the authors explored the moderating role of AI Knowledge on the relationship between Type of Help and Loss of Competence-Based Self-Esteem. The results indicated a significant interaction effect ($b = 0.70$, $p < 0.05$), suggesting that higher AI Knowledge amplifies the negative impact of proactive help on System Satisfaction via Loss of Competence-Based Self-Esteem. Specifically, the moderated mediation effect was significant ($\text{index of moderated mediation} = -0.20$, $95\% \text{ CI} = [-0.47, -0.01]$), indicating that the detrimental effect of proactive help on satisfaction increases with higher AI Knowledge levels. Additional robustness checks confirmed the validity of the research model, and similar patterns were observed when analyzing Intention to Use as an alternative dependent variable, further reinforcing the reliability of the findings.
Discussion
The discussion section of the research paper highlights the evolving role of AI-based agents in human-computer interactions, particularly their transition from simple-reflex agents to more autonomous learning agents capable of providing both reactive and proactive help. Reactive help is defined as assistance provided upon user request, while proactive help anticipates user needs without explicit prompts. The literature indicates that while users generally favor reactive help, proactive assistance can enhance task performance but may also undermine users’ competence and self-esteem, leading to lower satisfaction with the AI system. This paradox is particularly pronounced when users possess high AI knowledge, as they may perceive proactive help as a challenge to their abilities.
The paper employs Self-Determination Theory to explore how proactive help from AI agents affects users’ system satisfaction through its impact on competence-based self-esteem. It posits that proactive help can lead to feelings of incompetence, thereby diminishing user satisfaction. The research model developed in the study proposes that the negative effects of proactive help are mediated by a loss of competence-based self-esteem and moderated by the user’s level of AI knowledge. This nuanced understanding of user interaction with AI agents underscores the importance of designing AI systems that not only assist users effectively but also consider the psychological implications of their help strategies.
Limitations
The study presents several limitations that highlight opportunities for future research. Primarily, it focuses on AI-based agents in software development, suggesting that findings may not be generalizable across other domains such as healthcare or finance. Future investigations could enhance the robustness of these results by exploring the impact of proactive versus reactive assistance from AI agents in varied contexts, particularly considering users’ psychological needs for autonomy and relatedness alongside competence, as outlined by self-determination theory.
Additionally, the research employed a vignette-based online experiment, which, while offering high internal validity, lacks real-world interaction, potentially limiting external validity. This methodological constraint suggests that user behavior in actual work environments may differ significantly from the study’s findings. Future studies should aim to replicate the research in real-world settings over extended periods, incorporating multiple interactions and additional moderators, such as the quality of assistance and users’ self-esteem. Lastly, the participant pool, consisting of U.S.-based individuals with programming experience, may not reflect the broader population of AI users. Expanding the sample to include diverse cultural contexts could provide deeper insights into how cultural factors influence user satisfaction with AI assistance.