DOI: https://doi.org/10.1145/3757594
تاريخ النشر: 2025-10-16
المؤلف: Shuning Zhang وآخرون
الموضوع الرئيسي: تفاعل الإنسان مع التكنولوجيا المبتكرة
نظرة عامة
تقدم هذه القسم مراجعة شاملة تفحص بشكل منهجي الأدبيات المتعلقة بالتعاون بين الإنسان والذكاء الاصطناعي ضمن مجال تفاعل الإنسان مع الكمبيوتر (HCI)، مع التركيز على مفهوم الوكالة. قامت المراجعة بتحليل 134 ورقة من مؤتمرات HCI الرائدة، مقترحة إطارًا تحليليًا يدمج السياق، أنماط الوكالة، آليات التحكم، والتطبيقات العملية. تكشف النتائج عن مجموعة متنوعة من تكوينات الوكالة وتؤكد على أهمية آليات التحكم المحددة، مثل الشفافية وحلقات التغذية الراجعة، في التأثير على التعاون، تجربة المستخدم، والثقة.
اتبعت مراجعة الأدبيات إرشادات PRISMA-ScR، مع استراتيجية بحث منظمة تستهدف المصطلحات المتعلقة بالتعاون والوكالة. شمل البحث تنويعات من الكلمات الرئيسية مثل “التعاون”، “الكتابة المشتركة”، “الرسم المشترك”، و”التصميم المشترك”، والتي تم تحسينها لالتقاط الدراسات الأكثر صلة بأنشطة التعاون بين الإنسان والذكاء الاصطناعي. كما أخذت المراجعة في الاعتبار مصطلحات إضافية مثل “الرقص المشترك” و”الصنع المشترك”، لكن هذه لم تسفر عن أوراق ذات صلة إضافية. تم اختيار المؤتمرات بعناية لتشمل فقط أماكن HCI من الدرجة الأولى، مما يضمن استكشافًا شاملاً ومركزًا للموضوع. توفر نتائج هذه المراجعة رؤى قيمة وآثارًا للبحوث المستقبلية وتصميم الأنظمة التعاونية، لا سيما فيما يتعلق بالاعتبارات الأخلاقية والاجتماعية.
الطرق
توضح هذه القسم المنهجية المستخدمة في مراجعة شاملة تركز على التعاون بين الإنسان والذكاء الاصطناعي، مع فحص ديناميات التعاون من خلال مفهومي الوكالة البشرية والآلية. تهدف المراجعة إلى توضيح كيف تؤثر هذه الأشكال من الوكالة على عملية التعاون ونتائجها. تشمل المكونات الرئيسية للمنهجية تعريف النطاق والمصطلحات، إنشاء إطار بحثي، ونهج منهجي لاختيار الأدبيات وتحليلها.
اتبعت المراجعة إرشادات PRISMA-ScR واستهدفت مؤتمرات تفاعل الإنسان مع الكمبيوتر (HCI) من الدرجة الأولى، مستخدمة مكتبة ACM الرقمية كقاعدة بيانات رئيسية. أسفر البحث الأدبي، الذي شمل مصطلحات تتعلق بالتعاون والوكالة، عن 2,799 سجلًا. بعد تضييق التركيز على أماكن HCI ذات الصلة وإطار زمني مدته 20 عامًا، تبقى 728 سجلًا. أدت عملية الفحص الدقيقة إلى استبعاد 192 سجلًا بناءً على معايير محددة مسبقًا، مما أسفر عن 536 ورقة مؤهلة للمراجعة النصية الكاملة. تم تحسين تقييمات الأهلية الإضافية بناءً على الصلة بالتعاون، والمساهمات الملموسة في HCI، والتركيز على تفاعل الإنسان والذكاء الاصطناعي لتقليص الاختيار إلى 134 ورقة للتحليل التفصيلي.
المناقشة
تناقش قسم المناقشة في الورقة الديناميات المعقدة للوكالة في التعاون بين الإنسان والذكاء الاصطناعي، مع التأكيد على الحاجة إلى فهم أوضح لكيفية توزيع الوكالة بين الشركاء البشريين والآليين. تُعرف الوكالة بأنها القدرة على التصرف بشكل مقصود، بينما يشير التحكم إلى الآليات التي يتم من خلالها تنفيذ هذه النوايا. تنتقد الورقة الأطر المفاهيمية والدراسات التجريبية الحالية لافتقارها إلى رؤى تشغيلية مفصلة حول آليات التحكم، والتي تعتبر ضرورية للتصميم العملي في سياقات متنوعة. تسلط الضوء على أنه بينما قدمت الأبحاث السابقة رؤى قيمة حول أنماط التفاعل، فإنها غالبًا ما تفشل في دمج ديناميات الوكالة وآليات التحكم بشكل منهجي، مما يؤدي إلى فهم مجزأ للتعاون بين الإنسان والذكاء الاصطناعي.
يقترح المؤلفون إطارًا تحليليًا متعدد الأبعاد يدمج أنماط الوكالة، وآليات التحكم التشغيلية، والعوامل السياقية لمعالجة هذه الفجوات. يهدف هذا الإطار إلى تسهيل تحليل منظم لكيفية تجلي الوكالة في سياقات التعاون المختلفة، مما يوفر رؤى قابلة للتنفيذ لتصميم أنظمة الإنسان والذكاء الاصطناعي. من خلال التمييز بين الوكالة والتحكم، تسعى الورقة إلى توضيح أدوار كل من الشركاء البشريين والذكاء الاصطناعي في العمليات التعاونية، مما يوجه في النهاية جهود البحث والتصميم المستقبلية في مجال تفاعل الإنسان مع الكمبيوتر (HCI) والعمل التعاوني المدعوم بالكمبيوتر (CSCW). تؤكد المراجعة على أهمية دمج النتائج النظرية والتجريبية لتعزيز فهم الوكالة في شراكات الإنسان والذكاء الاصطناعي، مما يساهم في تطوير أنظمة تعاونية أكثر فعالية ومركزية حول المستخدم.
القيود
تسلط القيود المحددة في هذه المراجعة الضوء على عدة مجالات حاسمة للتطوير النظري الإضافي في سياق نظريات الوكالة كما تتعلق بالذكاء الاصطناعي وتعلم الآلة (ML). بينما توفر النتائج دعمًا تجريبيًا للأطر الحالية التي تصف الوكالة على أنها موزعة ومتفاوض عليها ديناميكيًا، فإنها تكشف أيضًا أن النظريات الحالية لا تُعَد نماذج بشكل كافٍ للانتقالات الديناميكية في الأدوار والتحكم التي تحدث في الممارسة. يشير هذا إلى أن تصنيف أنماط الوكالة ومسارات التفاعل قد لا يعكس تمامًا التفاوضات الدقيقة، لحظة بلحظة، التي تميز تفاعلات المستخدم والنظام. يمكن أن تستفيد الأبحاث المستقبلية من تطوير نماذج أكثر دقة، ربما من خلال الاستفادة من نظريات العمليات أو الأساليب الحسابية.
بالإضافة إلى ذلك، هناك فجوة كبيرة في التوفيق بين الطبيعة الحسابية للذكاء الاصطناعي مع تجارب المستخدمين الذاتية ونسب الوكالة. تؤثر هذه الفجوة على تفسيرات الثقة، والأخلاق، والملكية، حيث يمكن أن تؤثر تصورات المستخدمين حول نية الذكاء الاصطناعي على توافق المسؤولية وإدراك التحيز بطرق تعالجها الإطار الحالي جزئيًا فقط. أخيرًا، لا يزال تطبيق نظريات الوكالة العامة على التطبيقات التعاونية ذات الأهداف المفتوحة غير واضح، مما يشير إلى الحاجة إلى مزيد من التمييز بين الوكالة في السياقات الاستكشافية مقابل السياقات الموجهة نحو الأهداف. بشكل عام، تؤكد هذه القيود على ضرورة التقدم النظري المستمر لفهم نماذج الوكالة في تفاعلات الإنسان والذكاء الاصطناعي بشكل أفضل.
DOI: https://doi.org/10.1145/3757594
Publication Date: 2025-10-16
Author(s): Shuning Zhang et al.
Primary Topic: Innovative Human-Technology Interaction
Overview
This section presents a scoping review that systematically examines the literature on human-AI co-creation within the Human-Computer Interaction (HCI) field, focusing on the concept of agency. The review analyzed 134 papers from leading HCI conferences, proposing an analytical framework that integrates context, agency patterns, control mechanisms, and practical applications. The findings reveal a variety of agency configurations and emphasize the importance of specific control mechanisms, such as transparency and feedback loops, in influencing collaboration, user experience, and trust.
The literature review adhered to the PRISMA-ScR guidelines, with a structured search strategy targeting terms related to co-creation and agency. The search included variations of keywords like “co-creation,” “co-writing,” “co-drawing,” and “co-design,” which were optimized to capture the most relevant studies on human-AI collaborative activities. The review also considered additional terms like “co-dancing” and “co-making,” but these did not yield further relevant papers. The selection of conferences was carefully curated to include only top-tier HCI venues, ensuring a comprehensive and focused exploration of the topic. The outcomes of this review provide valuable insights and implications for future research and the design of co-creative systems, particularly concerning ethical and societal considerations.
Methods
This section outlines the methodology employed in a scoping review focused on human-AI co-creation, particularly examining the dynamics of collaboration through the concepts of human and machine agency. The review aims to clarify how these forms of agency impact the co-creative process and its outcomes. Key components of the methodology include the definition of scope and terms, the establishment of a research framework, and a systematic approach to literature selection and analysis.
The review adhered to the PRISMA-ScR guidelines and targeted top-tier Human-Computer Interaction (HCI) conferences, utilizing the ACM Digital Library as the primary database. The literature search, which included terms related to co-creation and agency, yielded 2,799 records. After narrowing the focus to relevant HCI venues and a 20-year timeframe, 728 records remained. A rigorous screening process led to the exclusion of 192 records based on predefined criteria, resulting in 536 papers eligible for full-text review. Further eligibility assessments based on relevance to co-creation, concrete HCI contributions, and the focus on human-AI interaction refined the selection to 134 papers for detailed analysis.
Discussion
The discussion section of the paper addresses the complex dynamics of agency in human-AI collaboration, emphasizing the need for a clearer understanding of how agency is distributed between human and machine partners. Agency is defined as the capacity to act intentionally, while control refers to the mechanisms through which these intentions are executed. The paper critiques existing conceptual frameworks and empirical studies for their lack of detailed operational insights into control mechanisms, which are essential for practical design in diverse contexts. It highlights that while previous research has provided valuable insights into interaction patterns, it often fails to systematically synthesize agency dynamics and control mechanisms, leading to a fragmented understanding of human-AI co-creation.
The authors propose a multi-dimensional analytical framework that integrates agency patterns, operational control mechanisms, and contextual factors to address these gaps. This framework aims to facilitate a structured analysis of how agency manifests in various co-creative contexts, offering actionable insights for the design of human-AI systems. By distinguishing between agency and control, the paper seeks to clarify the roles of both human and AI partners in collaborative processes, ultimately guiding future research and design efforts in the field of human-computer interaction (HCI) and computer-supported cooperative work (CSCW). The review underscores the importance of synthesizing theoretical and empirical findings to enhance the understanding of agency in human-AI partnerships, thereby informing the development of more effective and user-centered collaborative systems.
Limitations
The limitations identified in this review highlight several critical areas for further theoretical development in the context of agency theories as they relate to AI and machine learning (ML). While the findings provide empirical support for existing frameworks that conceptualize agency as distributed and dynamically negotiated, they also reveal that current theories inadequately model the dynamic transitions in roles and control that occur in practice. This suggests that the categorization of agency patterns and interaction pathways may not fully encapsulate the nuanced, moment-to-moment negotiations that characterize user-system interactions. Future research could benefit from developing more refined models, potentially leveraging process theories or computational approaches.
Additionally, a significant gap exists in reconciling the computational nature of AI with users’ subjective experiences and attributions of agency. This discrepancy affects interpretations of trust, ethics, and ownership, as users’ perceptions of AI’s intentionality can influence responsibility alignment and bias perception in ways that the current framework only partially addresses. Lastly, the applicability of general agency theories to co-creative applications with open-ended goals remains unclear, indicating a need for further distinction between agency in exploratory versus goal-directed contexts. Overall, these limitations underscore the necessity for ongoing theoretical advancements to better understand and model the complexities of agency in human-AI interactions.