DOI: https://doi.org/10.1108/josm-05-2025-0262
تاريخ النشر: 2026-04-13
المؤلف: Khanh Bao Quang Le وآخرون
الموضوع الرئيسي: البيانات الضخمة وذكاء الأعمال
نظرة عامة
تستكشف هذه الورقة البحثية ظاهرة الرضا عن الذكاء الاصطناعي، والتي تُعرف بأنها إهمال الموظفين المتعمد للتحقق من مخرجات الذكاء الاصطناعي على الرغم من وجود أخطاء منهجية. تحدد الدراسة نقص المساءلة في المراقبة كالدافع الرئيسي لهذا الرضا، مما يؤدي إلى نتائج سلبية تتعلق بالعمل مثل زيادة أخطاء العمولة وانخفاض الرغبة في تقييم مخرجات الذكاء الاصطناعي بشكل نقدي. باستخدام نظرية الطوارئ، تستند الأبحاث إلى ست دراسات تجريبية تشمل 1,370 مشاركًا، مع تركيز خاص على موظفي الخدمة عبر مختلف الصناعات.
تؤكد النتائج على أهمية تنفيذ أطر المساءلة النظامية داخل المنظمات لضمان أن يشارك الموظفون بنشاط في الإشراف على مخرجات الذكاء الاصطناعي. من خلال تحديد كل من الآليات السببية والعوامل السياقية التي تؤثر على الرضا عن الذكاء الاصطناعي، تسهم هذه الأبحاث في تقديم رؤى قيمة حول ديناميات التعاون بين الموظف والذكاء الاصطناعي في تقديم الخدمات. كما تقدم إطارًا نظريًا، وأدلة تجريبية، وتوصيات عملية تهدف إلى تعزيز فعالية دمج الذكاء الاصطناعي في بيئات العمل، مما يثري كل من الخطاب الأكاديمي والممارسات الإدارية.
مقدمة
في مقدمة هذه الورقة البحثية، يبرز المؤلفون الاعتماد المتزايد على الذكاء الاصطناعي (AI) في قطاعات الخدمة للمهام المعقدة مثل دعم العملاء واتخاذ القرارات. لقد انتقل الذكاء الاصطناعي من كونه أداة هامشية إلى مشارك مركزي في خلق القيمة، مما يعزز الكفاءة والإنتاجية بشكل كبير. على سبيل المثال، أظهرت دراسة أجرتها مجموعة بوسطن الاستشارية أن المستشارين الذين يستخدمون الذكاء الاصطناعي حققوا تحسينات ملحوظة في معدلات إكمال المهام، وسرعة التنفيذ، وجودة المخرجات. ومع ذلك، فإن دمج الذكاء الاصطناعي، وخاصة الذكاء الاصطناعي التوليدي (GenAI)، يقدم مخاطر مثل “الرضا عن الذكاء الاصطناعي”، والذي يُعرف بأنه ميل الموظفين لإهمال التحقق من محتوى الذكاء الاصطناعي، حتى عند وجود أخطاء. يمكن أن يؤدي هذا الرضا إلى قرارات خدمة خاطئة تؤثر سلبًا على نتائج العملاء.
تهدف الأبحاث إلى استكشاف دوافع ونتائج الرضا عن الذكاء الاصطناعي، بالإضافة إلى العوامل السياقية التي تؤثر على ظهوره. تطرح أسئلة بحثية حاسمة تتعلق بالدوافع وراء الرضا عن الذكاء الاصطناعي بين موظفي الخدمة وتأثيره على جودة القرار في العمليات المدعومة بالذكاء الاصطناعي. يجادل المؤلفون بأن فهم هذه الظاهرة أمر ضروري لدمج فعال للذكاء الاصطناعي في منظمات الخدمة، مؤكدين على الحاجة إلى أطر المساءلة التي تشجع اليقظة بين الموظفين عند التفاعل مع وكلاء الذكاء الاصطناعي. تسهم الدراسة في الأدبيات المتعلقة بالتعاون بين الموظف والذكاء الاصطناعي من خلال معالجة الفجوات المتعلقة بالتحيزات البشرية في تفاعلات الذكاء الاصطناعي واقتراح استراتيجيات قابلة للتنفيذ للتخفيف من المخاطر المرتبطة بالرضا عن الذكاء الاصطناعي في تقديم الخدمات.
النتائج
تكشف نتائج الدراسة، التي تم تحليلها باستخدام ماكرو PROCESS في R، عن نتائج مهمة تتعلق بالرضا عن الذكاء الاصطناعي والمساءلة في المراقبة عبر دراسات متعددة. في الدراسة 1A، أكدت تحليل الانحدار أن انخفاض المساءلة في المراقبة أدى إلى الرضا عن الذكاء الاصطناعي (β = 0.30، SE = 0.08، p < 0.01)، مما يدعم الفرضية 1A. أشار الانحدار اللوجستي إلى أنه بينما لم يكن المشاركون راضين عن المخرجات الصحيحة من الناحية الواقعية، زاد الرضا بشكل كبير من احتمال التأكيدات الخاطئة للمخرجات غير الصحيحة (المخرج 3: β = 0.56، SE = 0.13، p < 0.01؛ المخرج 4: β = 0.47، SE = 0.21، p < 0.01). دعمت تحليلات الوساطة أيضًا الفرضية 1B، مما يظهر أن الرضا عن الذكاء الاصطناعي وسّع تأثيرات انخفاض المساءلة في المراقبة على المخرجات غير الصحيحة. تكررت الدراسات اللاحقة (1B، 2، 3، 4، و5) باستمرار هذه النتائج، مؤكدة العلاقة بين انخفاض المساءلة في المراقبة والرضا عن الذكاء الاصطناعي. حددت الدراسة 3 تأثير تفاعل ثلاثي يشمل تعقيد المهمة والعبء، مما يشير إلى أن الطلبات الأعلى على المهام تزيد من الرضا (β = 0.12، SE = 0.06، p < 0.05). وجدت الدراسة 4 أن الاعتماد المتبادل بين المهام زاد من التأثير السلبي للرضا على الرغبة في الإشراف (β = -0.26، SE = 0.09، p < 0.01). أخيرًا، كشفت الدراسة 5 أن موقع المساءلة عن الأداء اعتدل العلاقة بين الرضا عن الذكاء الاصطناعي وميول أخطاء العمولة، مع أقوى التأثيرات التي لوحظت تحت المساءلة الموجهة نحو العملية (β = -0.53، SE = 0.21، p < 0.05). بشكل جماعي، تؤكد هذه النتائج على الدور الحاسم للمساءلة في المراقبة ومتطلبات المهام السياقية في تشكيل نتائج تفاعل الذكاء الاصطناعي.
المناقشة
توضح قسم المناقشة في الورقة البحثية فرضية مركزية مفادها أن نقص المساءلة المدركة في مراقبة مخرجات الذكاء الاصطناعي يسهم بشكل كبير في الرضا عن الذكاء الاصطناعي. يتأثر هذا الرضا أيضًا بمختلف الظروف على مستويات المهمة والفريق والمنظمة. يجادل المؤلفون بأن انخفاض المساءلة يقلل من الحاجة المدركة للتقييم النقدي لمخرجات الذكاء الاصطناعي، مما يؤدي إلى قرارات تأكيد خاطئة حيث يتم قبول محتوى الذكاء الاصطناعي الخاطئ كصحيح. هذه الظاهرة مقلقة بشكل خاص في سياقات الخدمة، حيث تعتبر آليات المساءلة – مثل أدوار الإشراف وأطر الحوكمة – ضرورية لاعتماد الذكاء الاصطناعي بشكل مسؤول. تفترض الورقة أن الرضا يمكن أن يقلل من الرغبة في الإشراف على مخرجات الذكاء الاصطناعي ويزيد من احتمال حدوث أخطاء العمولة، خاصة عندما يدرك المستخدمون أنظمة الذكاء الاصطناعي على أنها قادرة أو موثوقة للغاية.
يقترح المؤلفون عدة فرضيات لاستكشاف هذه الديناميات بشكل أكبر. على سبيل المثال، يقترحون أن تعقيد المهمة العالي والعبء يمكن أن يزيد من تأثيرات انخفاض المساءلة في المراقبة على الرضا عن الذكاء الاصطناعي، حيث قد يقوم الأفراد بنقل الأعباء المعرفية إلى أنظمة الذكاء الاصطناعي. بالإضافة إلى ذلك، يتم تسليط الضوء على الاعتماد المتبادل بين المهام كعامل يمكن أن يقلل من المساءلة الشخصية، مما يؤدي إلى تقليل التدقيق في مخرجات الذكاء الاصطناعي. تميز الورقة أيضًا بين المساءلة المتعلقة بالنتائج والمسؤولية المتعلقة بالعملية، مؤكدة أن الأولى يمكن أن تخفف من الآثار السلبية للرضا عن الذكاء الاصطناعي على دقة اتخاذ القرار. يتكون البرنامج التجريبي من ست دراسات تجريبية مصممة لاختبار هذه الفرضيات عبر سياقات مختلفة تتعلق بالخدمة، مما يظهر في النهاية التأثير القوي لانخفاض المساءلة في المراقبة على الرضا عن الذكاء الاصطناعي ونتائجه السلبية.
القيود
تسلط القيود في البحث الحالي الضوء على عدة مجالات للتحسين والاستكشاف المستقبلي. بشكل أساسي، قد لا يعكس اعتماد الدراسة على تجارب قائمة على السيناريو مع المشاركين عبر الإنترنت بدلاً من الموظفين الفعليين في منظمات الخدمة التعقيدات السلوكية المهنية في البيئات الواقعية بشكل كامل. بينما يسمح التصميم المنضبط بفحص جديد لكيفية مساهمة نقص المساءلة في المراقبة في الرضا عن الذكاء الاصطناعي، قد تكون الصلاحية البيئية للنتائج محدودة بسبب السيناريوهات المبسطة المستخدمة. يجب أن تهدف الأبحاث المستقبلية إلى استكشاف هذه الديناميات في بيئات أكثر طبيعية، مثل من خلال تجارب ميدانية أو شبه تجريبية مع الشركات الشريكة، وتحليل البيانات التشغيلية للتحقق من النتائج.
علاوة على ذلك، تعترف الدراسة بأن عوامل مثل تصميم النظام والمعايير الذاتية، التي يمكن أن تؤثر على الثقة في مخرجات الذكاء الاصطناعي، لم تؤخذ بعين الاعتبار بشكل كافٍ. يمكن أن تستفيد التحقيقات المستقبلية من دراسة آليات موجهة نحو المستخدم مثل ضبط الثقة لفهم أفضل لكيفية معالجة الموظفين لمخرجات الذكاء الاصطناعي وظهور الرضا. بالإضافة إلى ذلك، يمكن أن تكشف الدراسات المقارنة بين إعدادات التعاون بين الإنسان والذكاء الاصطناعي والتعاون بين البشر عن رؤى مهمة حول آثار مراقبة الذكاء الاصطناعي والمساءلة. تقترح الأبحاث أيضًا عدة مسارات للاستفسار المستقبلي، بما في ذلك تطوير أطر لاعتماد الذكاء الاصطناعي بشكل مسؤول، واستكشاف السياقات الاستهلاكية المتعلقة بالرضا عن الذكاء الاصطناعي، وفحص استراتيجيات صنع السياسات لتعزيز الوعي والمساءلة في استخدام الذكاء الاصطناعي. سيساهم معالجة هذه المجالات في فهم أكثر دقة للرضا عن الذكاء الاصطناعي وتعزيز التفاعلات المسؤولة مع تقنيات الذكاء الاصطناعي عبر مجالات مختلفة.
DOI: https://doi.org/10.1108/josm-05-2025-0262
Publication Date: 2026-04-13
Author(s): Khanh Bao Quang Le et al.
Primary Topic: Big Data and Business Intelligence
Overview
This research paper investigates the phenomenon of AI complacency, defined as employees’ intentional neglect to validate AI-generated outputs despite the presence of systematic errors. The study identifies a lack of monitoring accountability as the primary driver of this complacency, leading to negative work-related outcomes such as increased commission errors and a reduced willingness to critically evaluate AI outputs. Utilizing contingency theory, the research is based on six experimental studies involving 1,370 participants, including a specific focus on service employees across various industries.
The findings underscore the importance of implementing systemic accountability frameworks within organizations to ensure that employees actively engage with and oversee AI-generated outputs. By identifying both the causal mechanisms and situational factors that influence AI complacency, this research contributes valuable insights into the dynamics of Employee-AI collaboration in service provision. It offers a theoretical framework, empirical evidence, and practical recommendations aimed at enhancing the effectiveness of AI integration in workplace settings, thereby enriching both academic discourse and managerial practices.
Introduction
In the introduction of this research paper, the authors highlight the increasing reliance on artificial intelligence (AI) in service sectors for complex tasks such as customer support and decision-making. AI has transitioned from being a peripheral tool to a central participant in value creation, significantly enhancing efficiency and productivity. For instance, a study by the Boston Consulting Group indicated that consultants utilizing AI achieved notable improvements in task completion rates, execution speed, and output quality. However, the integration of AI, particularly Generative AI (GenAI), introduces risks such as “AI complacency,” defined as the tendency of employees to neglect validating AI-generated content, even when inaccuracies are present. This complacency can lead to erroneous service decisions that adversely affect customer outcomes.
The research aims to explore the drivers and consequences of AI complacency, as well as the contextual factors that influence its emergence. It poses critical research questions regarding the motivations behind AI complacency among service employees and its impact on decision quality in AI-enabled processes. The authors argue that understanding this phenomenon is essential for effective AI integration in service organizations, emphasizing the need for accountability frameworks that encourage vigilance among employees when interacting with AI agents. The study contributes to the literature on Employee-AI collaboration by addressing gaps related to human biases in AI interactions and proposing actionable strategies for mitigating the risks associated with AI complacency in service delivery.
Results
The results of the study, analyzed using the PROCESS macro in R, reveal significant findings regarding AI complacency and monitoring accountability across multiple studies. In Study 1A, a regression analysis confirmed that low monitoring accountability led to AI complacency (β = 0.30, SE = 0.08, p < 0.01), supporting Hypothesis 1A. Logistic regression indicated that while participants were not complacent with factually correct outputs, complacency significantly increased the likelihood of false confirmations for incorrect outputs (output 3: β = 0.56, SE = 0.13, p < 0.01; output 4: β = 0.47, SE = 0.21, p < 0.01). Mediation analyses further supported Hypothesis 1B, demonstrating that AI complacency mediated the effects of low monitoring accountability on incorrect outputs. Subsequent studies (1B, 2, 3, 4, and 5) consistently replicated these findings, confirming the relationship between low monitoring accountability and AI complacency. Study 3 identified a three-way interaction effect involving task complexity and load, indicating that higher task demands exacerbate complacency (β = 0.12, SE = 0.06, p < 0.05). Study 4 found that task interdependence intensified the negative impact of complacency on oversight willingness (β = -0.26, SE = 0.09, p < 0.01). Finally, Study 5 revealed that the locus of performance accountability moderated the relationship between AI complacency and commission error propensity, with the strongest effects observed under process-oriented accountability (β = -0.53, SE = 0.21, p < 0.05). Collectively, these results underscore the critical role of monitoring accountability and contextual task demands in shaping AI interaction outcomes.
Discussion
The discussion section of the research paper articulates a central hypothesis that a perceived lack of accountability in monitoring AI-generated outputs significantly contributes to AI complacency. This complacency is further influenced by various contingencies at the task, team, and organizational levels. The authors argue that low accountability diminishes the perceived necessity for critical evaluation of AI outputs, leading to false confirmation decisions where erroneous AI-generated content is accepted as valid. This phenomenon is particularly concerning in service contexts, where accountability mechanisms—such as oversight roles and governance frameworks—are essential for responsible AI adoption. The paper posits that complacency can reduce the willingness to oversee AI outputs and increase the likelihood of commission errors, particularly when users perceive AI systems as highly capable or reliable.
The authors propose several hypotheses to explore these dynamics further. For instance, they suggest that high task complexity and load can exacerbate the effects of low monitoring accountability on AI complacency, as individuals may offload cognitive burdens onto AI systems. Additionally, task interdependence is highlighted as a factor that can diminish personal accountability, leading to reduced scrutiny of AI outputs. The paper also distinguishes between outcome-focused and process-focused performance accountability, asserting that the former can mitigate the adverse effects of AI complacency on decision-making accuracy. The empirical program comprises six experimental studies designed to test these hypotheses across various service-related contexts, ultimately demonstrating the robust impact of low monitoring accountability on AI complacency and its downstream consequences.
Limitations
The limitations of the current research highlight several areas for improvement and future exploration. Primarily, the study’s reliance on scenario-based experiments with online participants rather than actual employees in service organizations may not fully capture the complexities of professional behavior in real-world settings. While the controlled design allows for a novel examination of how insufficient monitoring accountability contributes to AI complacency, the ecological validity of the findings may be limited due to the simplified task scenarios employed. Future research should aim to investigate these dynamics in more naturalistic environments, such as through field or quasi-experiments with partner firms, and analyze operational data to validate the results.
Moreover, the study acknowledges that factors such as system design and subjective norms, which can influence trust in AI-generated outputs, were not adequately considered. Future investigations could benefit from examining user-oriented mechanisms like confidence calibration to better understand how employees process AI outputs and the emergence of complacency. Additionally, comparative studies between human-to-AI and human-to-human collaboration settings could reveal important insights into the implications of AI monitoring and accountability. The research also proposes several avenues for future inquiry, including the development of frameworks for responsible AI adoption, the exploration of consumer contexts regarding AI complacency, and the examination of policy-making strategies to enhance awareness and accountability in AI usage. Addressing these areas will contribute to a more nuanced understanding of AI complacency and promote responsible interactions with AI technologies across various domains.