الذكاء الاصطناعي لفهم المعاني: تقديم أجندة بحث وتصميم لشبكات الإنسان والذكاء الاصطناعي Sensemaking AI: Introducing a research and design agenda for human–AI networks

شارك:
المجلة: EPJ Data Science، المجلد: 15، العدد: 1
DOI: https://doi.org/10.1140/epjds/s13688-026-00634-5
تاريخ النشر: 2026-03-19
المؤلف: Tina Comes
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي

نظرة عامة

تتناول الورقة النموذج الناشئ للذكاء الاصطناعي لفهم المعنى، والذي يهدف إلى معالجة القيود التي تواجه الأطر الحالية للذكاء الاصطناعي المتمحور حول الإنسان (HCAI) التي تركز بشكل أساسي على التفاعلات الفردية بين البشر وأنظمة الذكاء الاصطناعي. بينما يؤكد HCAI على مبادئ مثل القابلية للتفسير، والعدالة، والشفافية، فإنه غالبًا ما يتجاهل تعقيدات اتخاذ القرار الجماعي والديناميات الاجتماعية المتأصلة في البيئات المترابطة اليوم. يجادل المؤلفون بأنه مع تحسين أنظمة الذكاء الاصطناعي للأهداف القابلة للقياس، فإنها تخاطر بتقليل الذكاء الجماعي والقدرات التكيفية للمجتمعات.

لمواجهة ذلك، تقترح الورقة ثلاثة مجالات بحث مترابطة للذكاء الاصطناعي لفهم المعنى: (1) **الأتمتة المدركة لفهم المعنى**، التي تسعى للحفاظ على المرونة التفسيرية في مواجهة التأثيرات الخوارزمية؛ (2) **الوكالة الجماعية للتحكم الشبكي**، مع التأكيد على الحاجة إلى إشراف بشري في الأنظمة المعقدة حيث يعمل الذكاء الاصطناعي كطرف مشارك؛ و(3) **فهم المعنى المدرك للقيم**، الذي يميز بين مبادئ العملية التي تدعم المناقشة الديمقراطية ومبادئ المحتوى التي قد تقيدها. يدعو المؤلفون إلى تحول في منهجيات البحث والتصميم للتركيز على ديناميات الشبكات المتطورة بين البشر والذكاء الاصطناعي، مع دمج الرؤى من علم التعقيد والتأكيد على أهمية الحفاظ على المدخلات المتنوعة والسماح بالمناقشة البشرية عند الضرورة. تهدف هذه المقاربة إلى تعزيز القدرات التفسيرية والأخلاقية الضرورية لفهم المعنى الفعال في الأنظمة الاجتماعية التقنية.

مقدمة

تناقش مقدمة هذه الورقة البحثية التعقيد المتزايد لعمليات اتخاذ القرار المجتمعي المتأثرة بالتقنيات الرقمية والذكاء الاصطناعي (AI). غالبًا ما يُنظر إلى الذكاء الاصطناعي كحل لإدارة هذا التعقيد من خلال معالجة مجموعات بيانات كبيرة وتخفيف التحيزات المعرفية، وبالتالي تقديم رؤى موضوعية قائمة على البيانات. ومع ذلك، تؤكد الورقة أن الذكاء الاصطناعي لا يقوم فقط بتحسين الأنظمة، بل يشكل أيضًا السياقات المعلوماتية والاجتماعية التي يعمل فيها البشر. تتطلب هذه الدور المزدوج للذكاء الاصطناعي نهجًا متمحورًا حول الإنسان، كما تدعو إليه الأطر مثل الذكاء الاصطناعي المتمحور حول الإنسان (HCAI) وسلوك الآلة، التي تهدف إلى تعزيز وكالة الإنسان بدلاً من استبدالها.

على الرغم من وعد HCAI، تنتقد الورقة اعتمادها على سيناريوهات مثالية تفشل في أخذ التحديات الواقعية مثل ضغط الوقت، والمآزق الأخلاقية، والطبيعة المترابطة للمشكلات المعقدة في الاعتبار. يمكن أن تعيق هذه العوامل فهم المعنى الفعال، وهو أمر حاسم لتفسير المواقف الغامضة والتكيف مع الظروف المتطورة. لمعالجة هذه الفجوة، تقدم الورقة مفهوم الذكاء الاصطناعي لفهم المعنى، الذي يدعم بشكل نشط التفاعلات بين البشر والذكاء الاصطناعي في البيئات الديناميكية. تقدم مراجعة شاملة لـ 101 مقالة من أدبيات HCAI لتقييم مدى معالجة الأبحاث الحالية لتعقيدات ديناميات البشر والذكاء الاصطناعي. تختتم الورقة باقتراح مبادئ تصميم للذكاء الاصطناعي لفهم المعنى التي تعزز المرونة التفسيرية، والوكالة الجماعية، والتفاعلات المدركة للقيم، بهدف تعزيز الحوار عبر مختلف التخصصات العلمية حول الطبيعة الاجتماعية لفهم البشر.

الطرق

في هذا القسم، يحدد المؤلف النهج المنهجي المستخدم للتحقيق في التفاعل بين تحسين البيانات وصنع المعنى البشري في سياق أدبيات الذكاء الاصطناعي المتمحور حول الإنسان (HCAI). يعد HCAI محوريًا لفهم الديناميات بين وكالة الإنسان وأنظمة الذكاء الاصطناعي، خاصة في سيناريوهات اتخاذ القرار المعقدة التي تتضمن اعتبارات معرفية واجتماعية وأخلاقية. لاستكشاف هذا المجال الناشئ بشكل منهجي، أجرى المؤلف مراجعة شاملة، وهي طريقة مصممة لرسم نطاق الأدبيات وتحديد الفجوات في البحث بين التخصصات، كما أشار Munn وآخرون (2018) وSadek وآخرون (2024).

تم تنفيذ المراجعة الشاملة باستخدام منصة Rayyan (https://www.rayyan.ai/) والتزمت ببروتوكول PRISMA الموسع للمراجعات الشاملة، كما أوضح Tricco وآخرون (2018). يتم تلخيص عملية الفحص والتحليل بصريًا في الشكل 3، مما يوفر نظرة عامة واضحة عن المنهجية المستخدمة في هذا البحث. تهدف هذه المقاربة المنظمة إلى توضيح كيفية معالجة الأدبيات الحالية لتعقيدات دمج وكالة الإنسان مع تقنيات الذكاء الاصطناعي في سياقات غير مؤكدة ومتطورة.

النتائج

تكشف نتائج المراجعة الشاملة عن رؤى مهمة حول التفاعل بين أبحاث الذكاء الاصطناعي المتمحور حول الإنسان (HCAI) والتوترات الكامنة بين التحسين، ووكالة الإنسان، وفهم المعنى في البيئات المعقدة. من خلال تحليل شامل لعوامل مختلفة، بما في ذلك المناهج المنهجية، ومجالات التطبيق، وأنواع أنظمة الذكاء الاصطناعي، والأدوار المخصصة لكل من البشر والذكاء الاصطناعي، توضح النتائج تطور مجال HCAI.

علاوة على ذلك، يبرز فحص مبادئ تصميم HCAI المجالات الحرجة التي قد تفتقر إليها الأبحاث الحالية، مما يشير إلى أن المزيد من الاستكشاف ضروري لمعالجة هذه الفجوات. لا يسلط هذا التحليل الضوء فقط على تعقيد دمج وكالة الإنسان ضمن أنظمة الذكاء الاصطناعي، بل يؤكد أيضًا على الحاجة إلى نهج متوازن يعزز التعاون الفعال بين البشر والذكاء الاصطناعي في عمليات اتخاذ القرار.

المناقشة

تتناول قسم المناقشة في الورقة التأثير التحويلي للذكاء الاصطناعي (AI) على فهم البشر وصنع القرار، خاصة في سياق المشكلات المعقدة و”المشكلات الشريرة” مثل تغير المناخ وعدم الاستقرار الجيوسياسي. يؤكد على أن الأساليب التقليدية للتحسين غير كافية لمعالجة هذه القضايا متعددة الأبعاد، حيث غالبًا ما تتجاهل الطبيعة الدقيقة والتكرارية لفهم البشر، والتي تتضمن بناء المعنى من البيانات الفوضوية من خلال التفاعل الاجتماعي والتغذية الراجعة. يجادل المؤلفون بأنه مع تصفية أنظمة الذكاء الاصطناعي وترتيب المعلومات بشكل متزايد، تصبح جزءًا لا يتجزأ من هذه الديناميات لفهم المعنى، مما يشكل الأطر المعرفية والاجتماعية التي يتم من خلالها اتخاذ القرارات. يثير هذا أسئلة حاسمة حول تصميم أنظمة الذكاء الاصطناعي، ليس فقط من حيث دعم قرارات البشر ولكن أيضًا في فهم كيفية تأثير الذكاء الاصطناعي على عمليات الفهم الجماعي والعمل.

علاوة على ذلك، يبرز القسم التحول نحو الذكاء الاصطناعي المتمحور حول الإنسان (HCAI)، الذي يهدف إلى تعزيز قدرات الإنسان بدلاً من استبدالها. ينتقد التركيز السائد على تخصيص المهام بين البشر والآلات، داعيًا إلى فهم أوسع للتحكم يشمل الحفاظ على وكالة الإنسان في مواجهة تأثير الذكاء الاصطناعي على معالجة المعلومات واتخاذ القرار. يقترح المؤلفون الحاجة إلى البحث للانتقال من تحسين التفاعلات الفردية بين البشر والذكاء الاصطناعي إلى تعزيز فهم المعنى الجماعي في الشبكات اللامركزية. يقترحون أن أدبيات HCAI الحالية غالبًا ما تعطي الأولوية لمبادئ قابلة للقياس مثل القابلية للتفسير والعدالة على حساب القيم الأعمق، مما قد يؤدي إلى مفارقة تحسين حيث قد تعيق التفاعلات الفردية المحسنة القدرة على معالجة التحديات الجماعية الناشئة. يدعو المؤلفون إلى إعادة توجيه نحو “الذكاء الاصطناعي لفهم المعنى”، الذي يدعم التفاعلات الديناميكية والحساسة للسياق التي تسهل بناء المعنى الجماعي واتخاذ القرار التكيفي في الأنظمة الاجتماعية التقنية المعقدة.

Journal: EPJ Data Science, Volume: 15, Issue: 1
DOI: https://doi.org/10.1140/epjds/s13688-026-00634-5
Publication Date: 2026-03-19
Author(s): Tina Comes
Primary Topic: Ethics and Social Impacts of AI

Overview

The paper discusses the emerging paradigm of Sensemaking AI, which aims to address the limitations of current Human-Centred AI (HCAI) frameworks that primarily focus on individual interactions between humans and AI systems. While HCAI emphasizes principles such as explainability, fairness, and transparency, it often overlooks the complexities of collective decision-making and the social dynamics inherent in today’s interconnected environments. The authors argue that as AI systems optimize for measurable objectives, they risk diminishing the collective intelligence and adaptive capacities of societies.

To counter this, the paper proposes three interconnected research areas for Sensemaking AI: (1) **Sensemaking-aware automation**, which seeks to maintain interpretive flexibility in the face of algorithmic influence; (2) **Collective agency for networked control**, emphasizing the need for human oversight in complex systems where AI acts as a participant; and (3) **Value-aware sensemaking**, which distinguishes between process principles that support democratic deliberation and content principles that may constrain it. The authors advocate for a shift in research and design methodologies to focus on the dynamics of evolving human-AI networks, integrating insights from complexity science and emphasizing the importance of preserving diverse inputs and allowing for human deliberation when necessary. This approach aims to enhance the interpretive and ethical capacities essential for effective sensemaking in socio-technical systems.

Introduction

The introduction of this research paper discusses the increasing complexity of societal decision-making processes influenced by digital technologies and artificial intelligence (AI). AI is often viewed as a solution to manage this complexity by processing large datasets and mitigating cognitive biases, thereby providing objective, data-driven insights. However, the paper emphasizes that AI not only optimizes systems but also shapes the informational and social contexts in which humans operate. This dual role of AI necessitates a human-centered approach, as advocated by frameworks such as Human-Centered AI (HCAI) and Machine Behaviour, which aim to enhance human agency rather than replace it.

Despite the promise of HCAI, the paper critiques its reliance on idealized scenarios that fail to account for the real-world challenges of time pressure, moral dilemmas, and the interconnected nature of complex problems. These factors can hinder effective sensemaking, which is crucial for interpreting ambiguous situations and adapting to evolving circumstances. To address this gap, the paper introduces the concept of Sensemaking AI, which actively supports human-AI interactions in dynamic environments. It presents a scoping review of 101 articles from the HCAI literature to assess how well current research addresses the complexities of human-AI dynamics. The paper concludes by proposing design principles for Sensemaking AI that promote interpretive flexibility, collective agency, and value-aware interactions, aiming to foster a dialogue across various scientific disciplines about the social nature of human sensemaking.

Methods

In this section, the author outlines the methodological approach employed to investigate the interplay between data-driven optimization and human meaning-making within the context of Human-Centered AI (HCAI) literature. HCAI is pivotal for understanding the dynamics between human agency and AI systems, particularly in complex decision-making scenarios that involve cognitive, social, and ethical considerations. To systematically explore this emerging field, the author conducted a scoping review, which is a method designed to map the breadth of literature and identify gaps in interdisciplinary research, as noted by Munn et al. (2018) and Sadek et al. (2024).

The scoping review was executed using the Rayyan platform (https://www.rayyan.ai/) and adhered to the extended PRISMA protocol for scoping reviews, as outlined by Tricco et al. (2018). The process of screening and analysis is visually summarized in Figure 3, providing a clear overview of the methodology employed in this research. This structured approach aims to elucidate how existing literature addresses the complexities of integrating human agency with AI technologies in uncertain and evolving contexts.

Results

The results of the scoping review reveal significant insights into the interplay between human-centered AI (HCAI) research and the inherent tensions among optimization, human agency, and sensemaking within complex environments. Through a comprehensive analysis of various factors, including methodological approaches, application domains, types of AI systems, and the roles assigned to both humans and AI, the findings illustrate the evolution of the HCAI field.

Moreover, the examination of HCAI design principles highlights critical areas where existing research may be lacking, suggesting that further exploration is necessary to address these gaps. This analysis not only underscores the complexity of integrating human agency within AI systems but also emphasizes the need for a balanced approach that fosters effective collaboration between humans and AI in decision-making processes.

Discussion

The discussion section of the paper examines the transformative impact of artificial intelligence (AI) on human sensemaking and decision-making processes, particularly in the context of complex, “wicked problems” such as climate change and geopolitical instability. It emphasizes that traditional optimization approaches are inadequate for addressing these multifaceted issues, as they often overlook the nuanced, iterative nature of human sensemaking, which involves constructing meaning from chaotic data through social interaction and feedback. The authors argue that as AI systems increasingly filter and prioritize information, they become integral participants in these sensemaking dynamics, shaping the cognitive and social frameworks within which decisions are made. This raises critical questions about the design of AI systems, not just in terms of supporting human decisions but also in understanding how AI influences the processes of collective understanding and action.

Furthermore, the section highlights the shift towards human-centered AI (HCAI), which aims to enhance human capabilities rather than replace them. It critiques the prevailing focus on task allocation between humans and machines, advocating for a broader understanding of control that encompasses the preservation of human agency in the face of AI’s influence on information processing and decision-making. The authors propose a need for research to transition from optimizing individual human-AI interactions to fostering collective sensemaking in decentralized networks. They suggest that current HCAI literature often prioritizes measurable principles like explainability and fairness at the expense of deeper values, which can lead to an optimization paradox where improved individual interactions may hinder the ability to address emergent collective challenges. The authors call for a reorientation towards “Sensemaking AI,” which supports dynamic, context-sensitive interactions that facilitate collective meaning-making and adaptive decision-making in complex sociotechnical systems.