DOI: https://doi.org/10.1016/j.infoandorg.2024.100502
تاريخ النشر: 2024-01-30
المؤلف: Panos Constantinides وآخرون
الموضوع الرئيسي: التفاعل بين الإنسان والآلات والسلامة
نظرة عامة
في هذا القسم، يستكشف المؤلفون التفاعل بين التعلم البشري من عدم اليقين واستخدام أنظمة الذكاء الاصطناعي في المهام عالية المخاطر، مع التركيز بشكل خاص على أنظمة القيادة الذاتية من تسلا (ADS). يبرزون الطبيعة الحرجة للمهام مثل التشخيص الطبي والقيادة، حيث يمكن أن تكون الأخطاء لها عواقب وخيمة. من خلال تحليل تجريبي يتضمن تقارير تحقيق الحوادث واختبارات المحاكاة، يستكشف المؤلفون كيف تؤثر مستويات مختلفة من تحمل عدم اليقين على التفاعلات البشرية مع ADS في الوقت الحقيقي وعلى مر الزمن.
المساهمة الأساسية في الورقة هي نموذج نظري يوضح ديناميات أداء المهام المشتركة بين البشر والذكاء الاصطناعي. يحدد المؤلفون أوضاع استخدام مختلفة للذكاء الاصطناعي – الأتمتة غير المتحكم بها، الأتمتة المحدودة، الأتمتة الموسعة، والأتمتة المتحكم بها – ويظهرون كيف تتأثر هذه الأوضاع بالتعلم البشري من عدم اليقين. يجادلون بأن الأفراد يتنقلون بين هذه الأوضاع من خلال تعديل تحملهم لعدم اليقين، مما له آثار كبيرة على تصميم أنظمة الذكاء الاصطناعي، والسياسات المتعلقة بالتفويض في المهام المشتركة، واستخدام البيانات لتعزيز التعلم من عدم اليقين.
مقدمة
في مقدمة هذه الورقة البحثية، يبرز المؤلفون القدرات المتطورة لأنظمة الذكاء الاصطناعي، التي تؤدي الآن وظائف معرفية ترتبط تقليديًا بالذكاء البشري، مثل التفكير، والتعلم، واتخاذ القرار. على الرغم من الأداء المتقدم للذكاء الاصطناعي، خاصة في المهام عالية المخاطر، غالبًا ما يظهر البشر “نفورًا من الخوارزميات”، مفضلين الحكم البشري على الذكاء الاصطناعي في السيناريوهات غير المؤكدة. يكون هذا النفور أكثر وضوحًا في المهام التي يُنظر إليها على أنها تحمل عواقب خطيرة، حيث يمكن أن تؤدي الأخطاء إلى عواقب كبيرة. يشير المؤلفون إلى أنه بينما استكشفت الدراسات السابقة تصورات البشر حول أداء الذكاء الاصطناعي، لم يتم فحص كيف يؤثر التعلم من عدم اليقين على أداء المهام المشتركة بين البشر والذكاء الاصطناعي بشكل كافٍ.
لمعالجة هذه الفجوة، يقترح المؤلفون نموذجًا نظريًا يستكشف كيف يتعلم البشر التعاون مع أنظمة الذكاء الاصطناعي في بيئات عالية عدم اليقين، من خلال عدسة أنظمة القيادة الذاتية من تسلا (ADS). يعرفون التعلم بأنه تغيير في اتخاذ القرار بناءً على الخبرة، مع التأكيد على دور تحمل الفرد لعدم اليقين في تشكيل ديناميات التعلم. يعتمد التحليل التجريبي على تقارير تحقيق الحوادث، واختبارات المحاكاة الرسمية، والتسجيلات غير الرسمية لأنظمة ADS من تسلا أثناء العمل. تشير النتائج إلى أن مستويات تحمل عدم اليقين المتفاوتة لدى البشر تؤثر بشكل كبير على قدرتهم على التعلم من أخطائهم وأخطاء الذكاء الاصطناعي، مما يؤثر على تفاعلهم مع أوضاع استخدام الذكاء الاصطناعي المختلفة. تختتم الورقة بتداعيات على تصميم أنظمة الذكاء الاصطناعي، والسياسات المتعلقة بتفويض المهام، والاستراتيجيات لتعزيز التعلم من عدم اليقين في التفاعلات بين البشر والذكاء الاصطناعي.
الطرق
في هذه الدراسة، نستخدم نهج بحث نوعي يركز على الظواهر، كما هو موضح من قبل Gkeredakis & Constantinides (2019) وMonteiro et al. (2022)، للتحقيق في أنظمة القيادة الذاتية من تسلا (ADS). باستخدام بيانات ثانوية، يركز تحليلنا على فهم الآليات التي يتعلم من خلالها البشر التنقل في عدم اليقين والتأثيرات اللاحقة لهذا التعلم على أدائهم التعاوني مع أنظمة الذكاء الاصطناعي. يهدف هذا الاستكشاف إلى توضيح التفاعل بين الإدراك البشري والذكاء الاصطناعي في سياق القيادة الذاتية، مما يوفر رؤى حول ديناميات المهام المشتركة.
المناقشة
تستكشف قسم المناقشة في الورقة البحثية كيف يتعلم البشر من عدم اليقين أثناء أداء المهام بالتعاون مع أنظمة الذكاء الاصطناعي، خاصة في البيئات عالية المخاطر مثل اتخاذ القرارات الطبية والعدالة الجنائية. تميز الدراسة بين نوعين من عدم اليقين: “المعروف غير المعروف”، الذي يمكن التخفيف منه من خلال معلومات إضافية، و”غير المعروف غير المعروف”، الذي لا يمكن التنبؤ به ويتجاوز السيطرة الفردية. يؤكد المؤلفون أنه في البيئات الديناميكية، مثل القيادة، يمكن أن يؤدي التفاعل بين الأفعال البشرية واستجابات الذكاء الاصطناعي إلى أخطاء متراكمة، مما يبرز أهمية فهم كيف يتكيف البشر استراتيجيات اتخاذ القرار الخاصة بهم في مواجهة عدم اليقين.
تستكشف الدراسة أيضًا كيف يشارك الأفراد في الاستكشاف مقابل الاستغلال عند مواجهة عدم اليقين، مما يشير إلى أنه يجب على البشر موازنة السعي للحصول على معلومات جديدة مقابل استخدام المعرفة الموجودة لتحسين أداء المهام. تتأثر هذه العملية التعليمية بتحمل الفرد لعدم اليقين، مما يؤثر على كيفية تفاعل السائقين مع أنظمة القيادة الذاتية من تسلا (ADS). تستخدم الدراسة مصادر بيانات متنوعة، بما في ذلك تقارير الحوادث واختبارات المحاكاة، لتحليل كيفية تعلم السائقين من تجاربهم مع ADS على مر الزمن. تكشف النتائج أن السائقين الذين لديهم تحمل منخفض لعدم اليقين يميلون إلى التدخل بشكل متكرر للتخفيف من المخاطر المدركة، بينما أولئك الذين لديهم تحمل أعلى هم أكثر عرضة لاستكشاف قدرات الذكاء الاصطناعي، مما يؤدي إلى أداء مشترك أكثر فعالية في مهام القيادة. بشكل عام، تؤكد الدراسة على العلاقة الديناميكية بين التعلم البشري وأداء الذكاء الاصطناعي، مما يشير إلى أن التعاون الفعال يمكن أن يعزز كل من السلامة والكفاءة في سيناريوهات القيادة الذاتية.
DOI: https://doi.org/10.1016/j.infoandorg.2024.100502
Publication Date: 2024-01-30
Author(s): Panos Constantinides et al.
Primary Topic: Human-Automation Interaction and Safety
Overview
In this section, the authors investigate the interplay between human learning from uncertainty and the use of AI systems in high-stakes tasks, specifically focusing on Tesla’s autonomous driving systems (ADS). They highlight the critical nature of tasks such as medical diagnosis and driving, where errors can have severe consequences. Through an empirical analysis that includes crash investigation reports and simulation tests, the authors explore how varying levels of uncertainty tolerance affect human interactions with ADS in real-time and over time.
The core contribution of the paper is a theoretical model that elucidates the dynamics of human-AI joint task performance. The authors identify different modes of AI use—uncontrolled automation, limited automation, expanded automation, and controlled automation—and demonstrate how these modes are influenced by human learning from uncertainty. They argue that individuals navigate between these modes by adjusting their tolerance for uncertainty, which has significant implications for the design of AI systems, policy regarding delegation in joint tasks, and the utilization of data to enhance learning from uncertainty.
Introduction
In the introduction of this research paper, the authors highlight the evolving capabilities of AI systems, which now perform cognitive functions traditionally associated with human intelligence, such as reasoning, learning, and decision-making. Despite the advanced performance of AI, particularly in high-stakes tasks, humans often exhibit “algorithm aversion,” preferring human judgment over AI in uncertain scenarios. This aversion is particularly pronounced in tasks perceived as having serious consequences, where errors can lead to significant repercussions. The authors note that while previous studies have explored human perceptions of AI performance, they have not adequately examined how learning from uncertainty influences human-AI joint task performance.
To address this gap, the authors propose a theoretical model that investigates how humans learn to collaborate with AI systems in high-uncertainty environments, specifically through the lens of Tesla’s autonomous driving systems (ADS). They define learning as a change in decision-making based on experience, emphasizing the role of individual uncertainty tolerance in shaping learning dynamics. The empirical analysis draws on crash investigation reports, formal simulation tests, and informal recordings of Tesla’s ADS in action. The findings suggest that humans’ varying levels of uncertainty tolerance significantly impact their ability to learn from both their own and AI’s errors, thereby influencing their engagement with different modes of AI use. The paper concludes with implications for AI system design, policy on task delegation, and strategies to enhance learning from uncertainty in human-AI interactions.
Methods
In this study, we employ a phenomenon-focused qualitative research approach, as outlined by Gkeredakis & Constantinides (2019) and Monteiro et al. (2022), to investigate Tesla’s autonomous driving systems (ADS). Utilizing secondary data, our analysis centers on understanding the mechanisms through which humans learn to navigate uncertainty and the subsequent effects of this learning on their collaborative performance with AI systems. This exploration aims to elucidate the interplay between human cognition and AI in the context of autonomous driving, providing insights into joint task dynamics.
Discussion
The discussion section of the research paper explores how humans learn from uncertainty while performing tasks in collaboration with AI systems, particularly in high-stakes environments such as medical and criminal justice decision-making. The study distinguishes between two types of uncertainty: “known unknowns,” which can be mitigated through additional information, and “unknown unknowns,” which are unpredictable and beyond individual control. The authors emphasize that in dynamic settings, such as driving, the interplay between human actions and AI responses can lead to compounded errors, highlighting the importance of understanding how humans adapt their decision-making strategies in the face of uncertainty.
The research further investigates how individuals engage in exploration versus exploitation when faced with uncertainty, suggesting that humans must balance the pursuit of new information against the use of existing knowledge to optimize task performance. This learning process is influenced by individual tolerance for uncertainty, which affects how drivers interact with Tesla’s autonomous driving systems (ADS). The study utilizes various data sources, including crash reports and simulation tests, to analyze how drivers learn from their experiences with ADS over time. The findings reveal that drivers with low uncertainty tolerance tend to intervene frequently to mitigate perceived risks, while those with higher tolerance are more likely to explore the capabilities of the AI, leading to a more effective joint performance in driving tasks. Overall, the research underscores the dynamic relationship between human learning and AI performance, suggesting that effective collaboration can enhance both safety and efficiency in autonomous driving scenarios.