DOI: https://doi.org/10.3389/fcomp.2025.1464348
تاريخ النشر: 2025-02-07
المؤلف: Jonatan Reyes وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تستكشف الدراسة دور تصور عدم اليقين في تعزيز اتخاذ القرار والثقة في أنظمة الذكاء الاصطناعي. تبرز التحديات المرتبطة بتنبؤات الذكاء الاصطناعي وأهمية تمثيل عدم اليقين من خلال الإشارات المرئية. تم إجراء دراسة مستخدمين باستخدام سيناريوهات ألعاب كلاسيكية ثابتة لمحاكاة التعاون بين الإنسان والذكاء الاصطناعي، وقياس تأثيرات تصور عدم اليقين المستمر مقابل الثنائي على قرارات المشاركين، وثقتهم في الذكاء الاصطناعي، وثقتهم في خياراتهم.
تشير النتائج إلى أن تصور عدم اليقين يعزز بشكل كبير الثقة في الذكاء الاصطناعي، خاصة بين المشاركين الذين كانت لديهم مواقف سلبية في البداية تجاه الذكاء الاصطناعي. ظهر حجم تصور عدم اليقين كعامل حاسم يؤثر على الثقة وثقة اتخاذ القرار. بالإضافة إلى ذلك، وُجدت علاقة قوية بين تجربة المشاركين في الألعاب وتغيرات اتخاذ القرار لديهم عندما تم تصور عدم اليقين، جنبًا إلى جنب مع ارتباط ملحوظ بين الثقة في الذكاء الاصطناعي والمواقف الفردية. تؤكد هذه النتائج على إمكانية تصور عدم اليقين لتعزيز ثقة المستخدمين وإبلاغ تصميم أنظمة دعم القرار الفعالة بين الإنسان والذكاء الاصطناعي.
مقدمة
تسلط مقدمة هذه الورقة البحثية الضوء على التأثير المتزايد للذكاء الاصطناعي (AI) في مختلف القطاعات، من الترفيه إلى المجالات الحيوية مثل الرعاية الصحية والعدالة الجنائية. تنتقد النهج السائد “المركز على التكنولوجيا” في تطوير الذكاء الاصطناعي، الذي يعطي الأولوية للخوارزميات على احتياجات المستخدم، وتؤكد على أهمية اعتماد منهجيات “مركزية المستخدم” و”تصميم موجه نحو الإنسان”. تركز هذه المناهج على قابلية الاستخدام والتواصل الفعال لتنبؤات الذكاء الاصطناعي، خاصة فيما يتعلق بعدم اليقين الكامن في مخرجات الذكاء الاصطناعي.
تحدد الورقة فجوة في البحث تتعلق بكيفية تصور عدم اليقين في الذكاء الاصطناعي وتأثيره على اتخاذ القرار من قبل المستخدمين. تشير إلى أن المستخدمين غالبًا ما يعتمدون على الذكاء الاصطناعي دون فهم كامل لمستويات الثقة في تنبؤاته، مما قد يؤدي إلى اتخاذ قرارات سيئة وإحساس زائف بالأمان. لمعالجة ذلك، أجرى المؤلفون دراسة استكشافية باستخدام استبيانات عبر الإنترنت وسيناريوهات ألعاب لتقييم كيفية تأثير تصورات مختلفة لعدم اليقين في الذكاء الاصطناعي على الثقة والثقة واتخاذ القرار. تهدف الدراسة إلى تقديم رؤى تجريبية حول تأثير تصور عدم اليقين على العوامل البشرية وتقييم تفضيلات المستخدمين لمختلف التمثيلات المرئية، مما يعزز الشفافية في مخرجات الذكاء الاصطناعي. تشمل مساهمات هذا البحث تقييمات تجريبية للعلاقة بين تصور عدم اليقين في الذكاء الاصطناعي وثقة المستخدم واتخاذ القرار، بالإضافة إلى رؤى حول فائدة تقنيات التصوير البسيطة في تعزيز التفاعل بين الإنسان والذكاء الاصطناعي.
الطرق
في هذه الدراسة، التي تمت الموافقة عليها من قبل اللجان الأخلاقية المعنية، كان هدف الباحثين هو التحقيق في تأثير تصور عدم اليقين في الذكاء الاصطناعي على الأفراد بمواقف مختلفة تجاه الذكاء الاصطناعي. لتسهيل ذلك، تم تطوير استبيان عبر الإنترنت وتوزيعه عبر Amazon Mechanical Turk (MTurk)، مع ضمان إبلاغ المشاركين عن هدف الدراسة وموافقتهم على المشاركة من خلال النقر على زر محدد. تم جمع البيانات من 14 فبراير 2023 إلى 10 يوليو 2023.
تشمل المفاهيم الرئيسية المحددة للدراسة “تغيير القرار”، الذي يقيس ما إذا كان المشاركون يغيرون استجاباتهم عند تعرضهم لمؤثرات بصرية مختلفة، مثل تصورات عدم اليقين؛ و”الثقة”، التي تتعلق بالموثوقية المدركة لحلول الذكاء الاصطناعي، بما في ذلك التنبؤات والتوصيات المقدمة من أنظمة الذكاء الاصطناعي؛ و”الثقة”، التي تعكس اليقين المدرك الذي يمتلكه الأفراد في قراراتهم. هذه التعريفات حاسمة لتحليل البيانات وفهم العلاقة بين تصور عدم اليقين في الذكاء الاصطناعي ومواقف المشاركين.
النتائج
في هذه الدراسة، تم جمع البيانات من 277 مشاركًا من دول مختلفة، وتم إجراء تحليل نهائي على 147 استجابة صالحة بعد استبعاد تلك التي فشلت في اختبارات التحقق أو لم تستوف الحد الأدنى من وقت الإكمال. أظهر التحليل الديموغرافي أن 71% من المشاركين كانوا يحملون موقفًا إيجابيًا تجاه الذكاء الاصطناعي، بينما كان 29% لديهم موقف سلبي. من الجدير بالذكر أن 33% من المشاركين قاموا بتعديل قراراتهم بعد مواجهة عدم اليقين في تنبؤات الذكاء الاصطناعي، مع نسبة أعلى (78%) من أولئك الذين لديهم موقف إيجابي تجاه الذكاء الاصطناعي يغيرون استجاباتهم مقارنة بـ 21% من أولئك الذين لديهم موقف سلبي.
أشارت التحليلات الإحصائية باستخدام اختبارات كاي-تربيع إلى عدم وجود ارتباطات ذات دلالة بين مواقف المشاركين تجاه الذكاء الاصطناعي وتغيرات قراراتهم (χ²(1) = 2.441، p = 0.118). علاوة على ذلك، تم تقييم تأثير طرق التصور المختلفة على تغيير القرار، مما كشف أن تشبع اللون أدى إلى أعلى معدل لتغيير القرار (56%)، بينما أسفرت الحجم والشفافية عن معدلات أقل (24% و11%، على التوالي). ومع ذلك، أظهرت اختبارات كاي-تربيع عدم وجود علاقات ذات دلالة بين أنواع تمثيلات عدم اليقين وتغيرات القرار عبر مواقف مختلفة تجاه الذكاء الاصطناعي، مما يشير إلى أن الطرق المرئية المستخدمة لم تؤثر بشكل كبير على سلوك اتخاذ القرار في هذا السياق.
المناقشة
تسلط قسم المناقشة في الورقة الضوء على تقاطع الذكاء الاصطناعي، والإدراك البشري، واتخاذ القرار، مع التركيز بشكل خاص على تصور عدم اليقين في مخرجات الذكاء الاصطناعي. يستعرض الأدبيات الموجودة التي تفحص كيف تؤثر عوامل مختلفة – مثل المخاطر، والقلق، والعدالة، والثقة – على التفاعلات البشرية مع أنظمة دعم القرار المعتمدة على الذكاء الاصطناعي. يؤكد المؤلفون على أهمية تقنيات التصوير البياني الفعالة، مشيرين إلى عمل ماكينلاي (1986) حول استغلال القدرات الإدراكية البشرية. يصنفون طرق تصور عدم اليقين إلى ثلاثة نهج رئيسية: موجهة نحو اللون، قائمة على التركيز، ورسم الخرائط الهندسية، ويجادلون بأن استخدام الحجم، وتشبع اللون، والشفافية يمكن أن يعزز فهم المستخدمين لعدم اليقين في الذكاء الاصطناعي، مما يحسن ثقة اتخاذ القرار.
تناقش القسم أيضًا أهمية الثقة في أنظمة الذكاء الاصطناعي، مشيرًا إلى أن الثقة ضرورية لاعتماد الذكاء الاصطناعي في سياقات اتخاذ القرار. يتم الاستشهاد بدراسات مختلفة تستكشف كيفية قياس الثقة وتأثيرها، خاصة من خلال التمثيلات المرئية لعدم اليقين. يحدد المؤلفون الفجوات في البحث الحالي، خاصة نقص التركيز على كيفية تأثير تصور عدم اليقين على الثقة واتخاذ القرار. يقترحون أسئلة بحث تهدف إلى فهم تأثير تصور عدم اليقين على الثقة واتخاذ القرار بين الأفراد ذوي المواقف المختلفة تجاه الذكاء الاصطناعي. تستخدم الدراسة استبيانًا عبر الإنترنت يتضمن ألعاب كلاسيكية لتقييم كيفية تفاعل المشاركين مع تنبؤات الذكاء الاصطناعي تحت مستويات مختلفة من تصور عدم اليقين، بهدف توضيح العلاقة بين عدم اليقين في الذكاء الاصطناعي، والثقة، وعمليات اتخاذ القرار.
القيود
تنبع قيود هذه الدراسة بشكل أساسي من استخدام سيناريوهات الألعاب الثابتة، التي لم يتم إنشاؤها بواسطة الذكاء الاصطناعي، مما يعيق معايرة تقديرات عدم اليقين. يحد هذا الاختيار التصميمي، بينما يكشف عن اختلافات دقيقة في إدراك المستخدمين لعدم اليقين في الذكاء الاصطناعي وتأثيره على اتخاذ القرار، من قابلية تطبيق النتائج بشكل أوسع. بالإضافة إلى ذلك، لم يتم التحكم بشكل كامل في العوامل المربكة المحتملة مثل التعرض السابق للذكاء الاصطناعي وتحمل المخاطر الفردي، مما قد يؤثر على استجابات المشاركين. يجب أن تهدف الأبحاث المستقبلية إلى دمج مقاييس مباشرة لتحمل المخاطر وأخذ المزيد من الاعتبار لمدى معرفة المشاركين بالذكاء الاصطناعي.
علاوة على ذلك، يقدم الطابع عبر الإنترنت للدراسة تباينًا في تجارب المشاركين بسبب عوامل بيئية، مثل جودة العرض والإضاءة المحيطة، والتي قد تؤثر على تفاعلهم مع تصورات عدم اليقين. يثير استخدام MTurk لتجنيد المشاركين مخاوف بشأن موثوقية البيانات، على الرغم من تنفيذ نقاط تحقق للتحقق من صحة هذه القضايا. على الرغم من هذه القيود، تم اعتبار حجم العينة كافيًا لالتقاط رؤى ذات مغزى، مع ملاحظة حجم تأثير متوسط في الثقة تجاه الذكاء الاصطناعي. ومع ذلك، تسلط الدراسة الضوء على الحاجة إلى مزيد من الاستكشاف في تعقيدات الثقة في الذكاء الاصطناعي وإمكانية الاعتماد المفرط على توصيات الذكاء الاصطناعي.
DOI: https://doi.org/10.3389/fcomp.2025.1464348
Publication Date: 2025-02-07
Author(s): Jonatan Reyes et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
The study investigates the role of uncertainty visualization in enhancing decision-making and trust in AI systems. It highlights the challenges associated with AI predictions and the importance of representing uncertainty through visual cues. A user study was conducted using static classic gaming scenarios to simulate human-AI collaboration, measuring the effects of continuous versus binary uncertainty visualization on participants’ decisions, trust in AI, and confidence in their choices.
Results indicate that visualizing uncertainty significantly boosts trust in AI, particularly among participants with initially negative attitudes towards AI. The size of the uncertainty visualization emerged as a critical factor influencing trust and decision-making confidence. Additionally, a strong correlation was found between participants’ gaming experience and their decision-making changes when uncertainty was visualized, alongside a notable link between trust in AI and individual attitudes. These findings underscore the potential of uncertainty visualization to enhance user confidence and inform the design of effective human-AI decision-support systems.
Introduction
The introduction of this research paper highlights the growing influence of artificial intelligence (AI) in various sectors, from entertainment to critical fields like healthcare and criminal justice. It critiques the prevailing “technology-centered approach” in AI development, which prioritizes algorithms over user needs, and emphasizes the importance of adopting “user-centered” and “human-centered design” methodologies. These approaches focus on usability and the effective communication of AI predictions, particularly regarding the uncertainty inherent in AI outputs.
The paper identifies a gap in research concerning how AI uncertainty is visualized and its impact on user decision-making. It notes that users often rely on AI without fully understanding the confidence levels of its predictions, which can lead to poor decision-making and a false sense of security. To address this, the authors conducted an exploratory study using online surveys and gaming scenarios to assess how different visualizations of AI uncertainty influence trust, confidence, and decision-making. The study aims to provide empirical insights into the effects of uncertainty visualization on human factors and to evaluate user preferences for various visual representations, thereby promoting transparency in AI outputs. The contributions of this research include empirical evaluations of the relationship between AI uncertainty visualization and user trust and decision-making, as well as insights into the utility of simple visual techniques in enhancing human-AI interaction.
Methods
In this study, approved by the relevant ethical committees, the researchers aimed to investigate the impact of visualizing AI uncertainty on individuals with varying attitudes toward AI. To facilitate this, an online survey was developed and distributed via Amazon Mechanical Turk (MTurk), ensuring participants were informed about the study’s purpose and consented to participate by clicking a designated button. Data collection occurred from February 14, 2023, to July 10, 2023.
Key concepts defined for the study include “decision change,” which measures whether participants alter their responses when exposed to different visual stimuli, such as uncertainty visualizations; “trust,” which pertains to the perceived reliability of AI solutions, encompassing predictions and recommendations made by AI systems; and “confidence,” which reflects the perceived certainty individuals have in their decisions. These definitions are critical for analyzing the data and understanding the relationship between AI uncertainty visualization and participant attitudes.
Results
In this study, data were collected from 277 participants across various countries, with a final analysis conducted on 147 valid responses after excluding those that failed validation checks or did not meet the minimum completion time. The demographic analysis revealed that 71% of participants held a positive attitude toward AI, while 29% had a negative attitude. Notably, 33% of participants adjusted their decisions after encountering uncertainty in AI predictions, with a higher proportion (78%) of those with a positive attitude toward AI changing their responses compared to 21% of those with a negative attitude.
Statistical analysis using chi-square tests indicated no significant associations between participants’ attitudes toward AI and their decision changes (χ²(1) = 2.441, p = 0.118). Furthermore, the impact of different visualization methods on decision change was assessed, revealing that color saturation led to the highest decision change rate (56%), while size and transparency resulted in lower rates (24% and 11%, respectively). However, chi-square tests showed no significant relationships between the types of uncertainty representations and decision changes across different attitudes toward AI, suggesting that the visual methods employed did not significantly influence decision-making behavior in this context.
Discussion
The discussion section of the paper highlights the intersection of AI, human perception, and decision-making, particularly focusing on the visualization of uncertainty in AI outputs. It reviews existing literature that examines how various factors—such as risk, anxiety, fairness, and trust—affect human interactions with AI-based decision support systems. The authors emphasize the importance of effective data visualization techniques, referencing Mackinlay’s (1986) work on leveraging human perceptual capabilities. They categorize methods of visualizing uncertainty into three main approaches: color-oriented, focus-based, and geometric mapping, and argue that using size, color saturation, and transparency can enhance users’ understanding of AI uncertainty, thereby improving decision-making confidence.
The section also discusses the significance of trust in AI systems, noting that trust is crucial for the adoption of AI in decision-making contexts. Various studies are cited that explore how trust can be measured and influenced, particularly through visual representations of uncertainty. The authors identify gaps in the current research, particularly the lack of focus on how uncertainty visualization affects trust and decision-making. They propose research questions aimed at understanding the impact of uncertainty visualization on trust and decision-making among individuals with differing attitudes toward AI. The study employs an online survey involving classic games to assess how participants interact with AI predictions under varying levels of uncertainty visualization, aiming to elucidate the relationship between AI uncertainty, trust, and decision-making processes.
Limitations
The limitations of this study primarily stem from the use of static gaming scenarios, which were not generated by AI, thus hindering the calibration of uncertainty estimates. This design choice, while revealing subtle differences in user perceptions of AI’s uncertainty and its impact on decision-making, limits the broader applicability of the findings. Additionally, potential confounders such as prior exposure to AI and individual risk tolerance were not fully controlled, which may have influenced participants’ responses. Future research should aim to incorporate direct measures of risk tolerance and more rigorously account for participants’ familiarity with AI.
Moreover, the online nature of the study introduces variability in participants’ experiences due to environmental factors, such as display quality and ambient lighting, which could affect their interaction with uncertainty visualizations. The use of MTurk for participant recruitment raises concerns regarding data reliability, although validation checkpoints were implemented to mitigate these issues. Despite these limitations, the sample size was deemed adequate for capturing meaningful insights, with a medium effect size observed in trust towards AI. Nonetheless, the study highlights the need for further exploration into the complexities of trust in AI and the potential for over-reliance on AI recommendations.