DOI: https://doi.org/10.59275/j.melba.2026-87b1
تاريخ النشر: 2026-03-13
المؤلف: Emely Rosbach وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي في الرعاية الصحية والتعليم
نظرة عامة
تبحث هذه الدراسة في تأثير دمج الذكاء الاصطناعي (AI) في أنظمة دعم القرار السريري (CDSS) على دقة التشخيص والتحيزات المعرفية بين خبراء علم الأمراض المدربين. تم تقييم نسب خلايا الورم من خلال تجربة عبر الإنترنت شملت 28 مشاركًا، حيث تم التقييم بشكل مستقل ومع مساعدة الذكاء الاصطناعي، بما في ذلك الظروف تحت ضغط الوقت. تشير النتائج إلى أنه بينما يعزز الذكاء الاصطناعي عمومًا الأداء التشخيصي، فإنه يقدم أيضًا تحيزًا ملحوظًا نحو الأتمتة، حيث ألغت حوالي 7% من القرارات المدعومة بالذكاء الاصطناعي التقييمات الدقيقة السابقة لصالح توصيات غير صحيحة من الذكاء الاصطناعي. على الرغم من أن ضغط الوقت لم يزد بشكل كبير من تكرار تحيز الأتمتة، إلا أنه زاد من شدته، مما أدى إلى تراجع الأداء المرتبط بزيادة الاعتماد على الذكاء الاصطناعي تحت الحمل المعرفي.
كشفت التحليلات الإضافية باستخدام نموذج التأثيرات المختلطة الخطية عن معامل إيجابي ذو دلالة إحصائية لنصائح الذكاء الاصطناعي، مما يشير إلى تأثير تثبيت معتدل على قرارات المستخدم، والذي تفاقم تحت ضغط الوقت. بالإضافة إلى ذلك، وُجد أن عوامل مثل الخبرة المهنية والفعالية الذاتية تقلل من الاعتماد على الذكاء الاصطناعي، بينما ارتبطت زيادة الثقة أثناء اتخاذ القرار المدعوم بالذكاء الاصطناعي بزيادة الاعتماد على الأتمتة. تسلط هذه النتائج الضوء على الطبيعة المزدوجة لدمج الذكاء الاصطناعي في سير العمل السريري، حيث تقدم فوائد في الأداء بينما تطرح أيضًا مخاطر الأخطاء المدفوعة بالتحيزات المعرفية. تؤكد الدراسة على الحاجة إلى مزيد من البحث عبر سياقات سريرية متنوعة لتأسيس تعاون آمن وفعال بين البشر والذكاء الاصطناعي في اتخاذ القرارات الطبية.
مقدمة
تسلط مقدمة ورقة البحث الضوء على التحديات الفريدة التي تواجه اتخاذ القرار في الرعاية الصحية، لا سيما في البيئات عالية المخاطر حيث تتأثر نتائج المرضى مباشرة بالقرارات المتخذة تحت ضغط الوقت ومع معلومات غير مكتملة. غالبًا ما يعتمد الممارسون على الحدس الذي تم تطويره من خلال الخبرة، كما اقترح إطار اتخاذ القرار الطبيعي، الذي يساعد في التعرف السريع على الأنماط. ومع ذلك، يمكن أن يؤدي هذا الاعتماد على الحدس إلى تحيزات معرفية وأخطاء تشخيصية، خاصة في مجالات مثل علم الأمراض التي تعتمد بشكل كبير على تفسير البيانات المرئية المعقدة. تشير الدراسات إلى أن التحيزات المعرفية تساهم بشكل كبير في الأخطاء الطبية، حيث تشير بعض الأبحاث إلى أنها تمثل ما يصل إلى 92% من الأخطاء المبلغ عنها ذاتيًا في طب الطوارئ.
تؤكد الورقة على الحاجة إلى بحث تجريبي حول التفاعل بين اتخاذ القرار البشري وأنظمة دعم القرار المعتمدة على الذكاء الاصطناعي (DSSs) في الرعاية الصحية، لا سيما في علم الأمراض. بينما يتمتع دمج الذكاء الاصطناعي بإمكانية تعزيز اتخاذ القرار، فإنه يقدم أيضًا تحيزات فريدة، مثل الاعتماد على الأتمتة والتحيزات التثبيتي، والتي لم يتم التحقيق فيها بدقة في هذا المجال المتخصص. يجادل المؤلفون بأن الأدبيات الحالية محدودة وغالبًا ما تفتقر إلى الاتساق المنهجي، مما يجعل من الصعب تعميم النتائج. لذلك، تهدف هذه الدراسة إلى سد الفجوة من خلال استكشاف كيفية ظهور التحيزات المعرفية في سياق التعاون بين البشر والذكاء الاصطناعي ضمن علم الأمراض، مع الأخذ في الاعتبار العوامل البيئية والفردية المحددة التي تؤثر على اتخاذ القرار في هذا المجال.
الطرق
في هذه الدراسة، يبحث المؤلفون في تحيز الأتمتة وتأثير التثبيت في التعاون بين البشر والذكاء الاصطناعي ضمن علم الأمراض الحسابي، مع التركيز على كيفية تأثير ضغط الوقت، والخبرة المهنية، وثقة القرار على هذه التحيزات. تستخدم الدراسة تصميمًا تجريبيًا 2 × 2، مع متغيرين مستقلين: إدراج الذكاء الاصطناعي (نعم/لا) ووجود ضغط الوقت (TP) (نعم/لا). المتغيرات التابعة الرئيسية هي تحيز الأتمتة وتحليل التثبيت، إلى جانب مقاييس إضافية مثل الاعتماد على نصائح الذكاء الاصطناعي، والخبرة المهنية، وأداء المهام، وثقة القرار.
لتحديد تحيز الأتمتة، تتبع المنهجية Goddard et al. (2012)، حيث تقيس معدل قبول الاستشارات السلبية. تم تحديد الحالات التي تم فيها تعديل تقدير TCP الصحيح في البداية (Est B) إلى تقييم غير صحيح (Est AI) بعد التعرض لتوقعات خاطئة من الذكاء الاصطناعي (Pred AI). تم تحديد الصحة باستخدام عتبة 25% للتسلسل الجيني المباشر (Smits et al., 2014). قامت التحليلات بتصفية البيانات لتشمل فقط الإدخالات التي يتماشى فيها التقدير المستقل مع الحقيقة الأرضية (GT) عند هذه العتبة، بينما كانت كل من توقعات الذكاء الاصطناعي وتقييم المشارك المدعوم بالذكاء الاصطناعي غير صحيحة. تم حساب أداء المشاركين، المحدد كمتوسط الانحراف المطلق لتقديرات TCP من GT، لتقييم تأثير دمج الذكاء الاصطناعي على الدقة، لا سيما في الاستشارات السلبية. تم تصنيف التحليلات بشكل أكبر حسب وجود أو عدم وجود قيود زمنية لتقييم تأثير ضغط الوقت على تحيز الأتمتة.
النتائج
في قسم النتائج، أجرى المؤلفون اختبارات شابيرو-ويلك لتقييم طبيعة الاختلافات الزوجية بين العينات المستخدمة في اختبارات t، مما يؤكد صحة الاختبارات المعلمية. علاوة على ذلك، تم تقييم قوة تحليلات ANOVA المتكررة وتحليلات النموذج المختلط الخطي من خلال الفحص البصري لطبيعة المتبقيات. شملت التحليلات الرسوم البيانية، والمخططات النقطية، ومخططات QQ، وكلها تشير إلى أن البيانات تقترب من توزيع طبيعي، مما يدعم ملاءمة الطرق الإحصائية المستخدمة.
المناقشة
يتناول قسم المناقشة في ورقة البحث مفهوم تحيز الأتمتة، الذي عُرف في البداية من قبل Mosier وSkitka (2018) على أنه الميل للاعتماد بشكل مفرط على الإشارات الآلية، مما يؤدي إلى أخطاء في الحكم. يظهر هذا التحيز كأخطاء إغفال، حيث يتم تجاهل القضايا، أو أخطاء ارتكاب، حيث يتم قبول مخرجات النظام غير الصحيحة دون تدقيق. يقترح Goddard et al. (2012) قياس تحيز الأتمتة من خلال معدل أخطاء الارتكاب، لا سيما في سياقات الرعاية الصحية، حيث تشير الدراسات إلى أن أنظمة دعم القرار السريري الخاطئة (CDSSs) يمكن أن تزيد من الأحكام السريرية غير الصحيحة بنسبة 26% (Lyell وCoiera، 2017). تؤثر عوامل متعددة، بما في ذلك عدم الخبرة في المهام، والحمل المعرفي، وثقة الفرد، على تحيز الأتمتة، على الرغم من أن الأدبيات لا تزال غير حاسمة بشأن آثارها المتسقة عبر سياقات مختلفة.
يستكشف القسم أيضًا تأثير التثبيت، وهو تحيز معرفي حيث تؤثر المعلومات الأولية بشكل غير متناسب على اتخاذ القرار. هذا التأثير ذو صلة خاصة في تفاعل الإنسان مع الكمبيوتر (HCI)، حيث قد يعتمد المستخدمون بشكل مفرط على النصائح الآلية على الرغم من امتلاكهم الخبرة لاتخاذ تقييمات مستقلة. توضح الورقة طرقًا لقياس تأثير التثبيت، مثل مقياس وزن النصيحة (WoA)، الذي يقيس درجة التعديل استجابةً للإدخال الخارجي. تشير النتائج التجريبية إلى أن الأفراد عادةً ما يعدلون أحكامهم جزئيًا فقط نحو النصيحة الخارجية، مع متوسط WoA يبلغ حوالي 0.54 تم ملاحظته في تقييمات مخاطر السرطان المدعومة بالذكاء الاصطناعي (Pálfi et al., 2022). تؤكد المناقشة على الحاجة إلى مزيد من التحقيق التجريبي في تحيز الأتمتة وتأثيرات التثبيت في الرعاية الصحية، لا سيما في سيناريوهات اتخاذ القرار المعقدة مثل تقدير نسبة خلايا الورم، حيث تكون التقييمات الدقيقة حاسمة لنتائج المرضى.
القيود
تعترف الدراسة بعدة قيود قد تؤثر على إمكانية تعميم وموثوقية نتائجها. أولاً، قد يؤدي حجم العينة الصغيرة (n = 28) بسبب توفر الخبراء الطبيين المحدود إلى تباين في النتائج، على الرغم من استخدام تصميم ضمن الموضوعات لتعزيز القوة الإحصائية. يحد التوظيف من شبكة مهنية محددة من التمثيل. بالإضافة إلى ذلك، قد تؤثر خيارات التصميم في واجهة المستخدم، مثل استبعاد المعلومات الخلفية السريرية ووجهات النظر البديلة للشرائح، على واقعية المهمة، مما قد يغير سلوك المشاركين وتجلي تحيزات الأتمتة والتثبيت. قد يكون إدراج تقنية الذكاء الاصطناعي القابلة للتفسير (xAI) قد عزز الثقة بين المشاركين، مما يؤثر على اعتمادهم على توقعات الذكاء الاصطناعي.
علاوة على ذلك، تشير نتائج الدراسة إلى أن تحيزات الأتمتة والتثبيت يمكن أن تنشأ عبر سيناريوهات أداء البشر والذكاء الاصطناعي المختلفة، على الرغم من أن حجمها يعتمد على الدقة النسبية لكل من الطبيب ونظام الذكاء الاصطناعي. قد لا تلتقط الإعدادات التجريبية، التي تحاكي ضغط الوقت من خلال مؤقت منتهي، تعقيدات الضغوط السريرية في العالم الحقيقي، والتي تتأثر بعوامل سياقية متعددة. على الرغم من هذه القيود، تعتبر هذه الدراسة استكشافًا أساسيًا للتحيزات المعرفية في اتخاذ القرار الطبي المدعوم بالذكاء الاصطناعي، مما يقترح طرقًا للبحث المستقبلي للتحقيق في هذه التحيزات في بيئات سريرية أكثر تنوعًا وعالية المخاطر، فضلاً عن الفعالية المحتملة لاستراتيجيات التخفيف.
DOI: https://doi.org/10.59275/j.melba.2026-87b1
Publication Date: 2026-03-13
Author(s): Emely Rosbach et al.
Primary Topic: Artificial Intelligence in Healthcare and Education
Overview
This research investigates the impact of artificial intelligence (AI) integration in clinical decision support systems (CDSS) on diagnostic accuracy and cognitive biases among trained pathology experts. A web-based experiment involving 28 participants assessed tumor cell percentages both independently and with AI assistance, including conditions under time constraints. The results indicate that while AI generally enhances diagnostic performance, it also introduces a notable automation bias, with approximately 7% of AI-assisted decisions overturning previously accurate assessments in favor of incorrect AI recommendations. Although time pressure did not significantly increase the frequency of automation bias, it intensified its severity, leading to performance declines associated with greater reliance on AI under cognitive load.
Further analysis using a linear mixed-effects model revealed a statistically significant positive coefficient for AI advice, indicating a moderate anchoring effect on user decisions, which was exacerbated under time constraints. Additionally, factors such as professional experience and self-efficacy were found to reduce reliance on AI, while increased confidence during AI-assisted decision-making correlated with heightened automation reliance. These findings highlight the dual nature of AI integration in clinical workflows, offering performance benefits while also posing risks of cognitive bias-driven errors. The study emphasizes the need for further research across diverse clinical contexts to establish safe and effective human-AI collaboration in medical decision-making.
Introduction
The introduction of the research paper highlights the unique challenges faced in healthcare decision-making, particularly in high-stakes environments where patient outcomes are directly impacted by the decisions made under time pressure and with incomplete information. Practitioners often rely on intuition developed through experience, as suggested by the Naturalistic Decision Making framework, which aids in rapid pattern recognition. However, this reliance on intuition can lead to cognitive biases and diagnostic errors, especially in fields like pathology that depend heavily on the interpretation of complex visual data. Studies indicate that cognitive biases contribute significantly to medical errors, with some research suggesting they account for up to 92% of self-reported mistakes in emergency medicine.
The paper emphasizes the need for empirical research on the interaction between human decision-making and AI-based decision support systems (DSSs) in healthcare, particularly in pathology. While the integration of AI has the potential to enhance decision-making, it also introduces unique biases, such as automation reliance and anchoring biases, which have not been thoroughly investigated in this specialized domain. The authors argue that existing literature is limited and often lacks methodological consistency, making it difficult to generalize findings. Therefore, this research aims to fill the gap by exploring how cognitive biases manifest in the context of human-AI collaboration within pathology, considering the specific environmental and individual factors that influence decision-making in this field.
Methods
In this study, the authors investigate automation bias and the anchoring effect in human-AI collaboration within computational pathology, focusing on how time pressure, professional experience, and decision confidence influence these biases. The research employs a 2 × 2 factorial, within-subjects design, with two independent variables: the inclusion of AI (yes/no) and the presence of time pressure (TP) (yes/no). The primary dependent variables are automation bias and anchoring bias, alongside additional measures such as reliance on AI advice, professional experience, task performance, and decision confidence.
To quantify automation bias, the methodology follows Goddard et al. (2012), measuring the acceptance rate of negative consultations. Instances where an initially correct TCP estimate (Est B) was altered to an incorrect assessment (Est AI) after exposure to erroneous AI predictions (Pred AI) were identified. Correctness was determined using a 25% threshold for direct DNA sequencing (Smits et al., 2014). The analysis filtered data to include only entries where the independent estimate aligned with the ground truth (GT) at this threshold, while both the AI prediction and the participant’s AI-assisted assessment were incorrect. Participant performance, defined as the mean absolute deviation of TCP estimates from the GT, was calculated to evaluate the effect of AI integration on accuracy, particularly in negative consultations. The analyses were further stratified by the presence or absence of time constraints to assess the impact of time pressure on automation bias.
Results
In the Results section, the authors conducted Shapiro-Wilk tests to assess the normality of pairwise differences between samples utilized in t-tests, confirming the validity of parametric testing. Furthermore, the robustness of the repeated measures ANOVA and linear mixed-effects model analyses was evaluated by visually inspecting the normality of residuals. The analysis included histograms, scatter plots, and QQ plots, all of which suggested that the data approximates a normal distribution, thereby supporting the appropriateness of the statistical methods employed.
Discussion
The discussion section of the research paper delves into the concept of automation bias, initially defined by Mosier and Skitka (2018) as the tendency to rely excessively on automated cues, leading to errors in judgment. This bias manifests as omission errors, where issues are overlooked, or commission errors, where incorrect system outputs are accepted without scrutiny. Goddard et al. (2012) suggest measuring automation bias through the rate of commission errors, particularly in healthcare contexts, where studies indicate that erroneous Clinical Decision Support Systems (CDSSs) can increase incorrect clinical judgments by 26% (Lyell and Coiera, 2017). Various factors, including task inexperience, cognitive load, and individual confidence, influence automation bias, although the literature remains inconclusive regarding their consistent effects across different contexts.
The section also explores the anchoring effect, a cognitive bias where initial information disproportionately influences decision-making. This effect is particularly relevant in Human-Computer Interaction (HCI), where users may unduly rely on automated advice despite possessing the expertise to make independent assessments. The paper outlines methods for quantifying the anchoring effect, such as the weight of advice (WoA) metric, which measures the degree of adjustment in response to external input. Empirical findings suggest that individuals typically adjust their judgments only partially toward external advice, with a mean WoA of approximately 0.54 observed in AI-assisted cancer risk assessments (Pálfi et al., 2022). The discussion emphasizes the need for further empirical investigation into automation bias and anchoring effects in healthcare, particularly in complex decision-making scenarios like tumor cell percentage estimation, where accurate assessments are critical for patient outcomes.
Limitations
The study acknowledges several limitations that may affect the generalizability and validity of its findings. Firstly, the small sample size (n = 28) due to limited availability of medical experts may lead to variability in results, despite employing a within-subject design to enhance statistical power. The recruitment from a specific professional network further constrains representativeness. Additionally, design choices in the user interface, such as the exclusion of clinical background information and alternative slide views, may have impacted task realism, potentially altering participant behavior and the manifestation of automation and anchoring biases. The inclusion of an explainable AI (xAI) technique may have fostered trust among participants, influencing their reliance on AI predictions.
Moreover, the study’s findings indicate that automation and anchoring biases can arise across various human-AI performance scenarios, although their magnitude is contingent on the relative accuracy of both the clinician and the AI system. The experimental setup, which simulated time pressure through an expiring timer, may not fully capture the complexities of real-world clinical stressors, which are influenced by multiple contextual factors. Despite these limitations, the research serves as a foundational exploration of cognitive biases in AI-assisted medical decision-making, suggesting avenues for future research to investigate these biases in more diverse and high-stakes clinical environments, as well as the potential effectiveness of mitigation strategies.