DOI: https://doi.org/10.1145/3800687
تاريخ النشر: 2026-03-19
المؤلف: Nimet Beyza Bozdag وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تقدم هذه القسم نظرة شاملة على دور الإقناع في التواصل، خاصة في سياق الذكاء الاصطناعي (AI). يسلط الضوء على الطبيعة المزدوجة للذكاء الاصطناعي في الإقناع: كوسيلة للإقناع، توليد محتوى مقنع لمختلف التطبيقات؛ وكهدف للإقناع، عرضة للتلاعب والتحيز. تصنف الدراسة استكشاف الإقناع المدفوع بالذكاء الاصطناعي إلى ثلاث وجهات نظر: الذكاء الاصطناعي كوسيلة للإقناع، الذكاء الاصطناعي كهدف للإقناع، والذكاء الاصطناعي كحكم للإقناع، مع معالجة التحديات والاعتبارات الأخلاقية المرتبطة بكل دور.
تؤكد الخاتمة على الحاجة إلى أساليب تقييم قوية، وتوليد محتوى مسؤول، ووسائل حماية ضد المخاطر التي تطرحها أنظمة الذكاء الاصطناعي المتقدمة. تحدد المجالات الرئيسية للبحث المستقبلي، بما في ذلك تطوير آليات تقييم موحدة، وأنظمة إقناع تكيفية، وتقنيات قبول انتقائية. يدعو المؤلفون إلى التعاون بين التخصصات لتعزيز فهم الإقناع عبر سياقات مختلفة، ملحين على مجتمع البحث لمعالجة تعقيدات الإقناع متعدد اللغات ومتعدد الوسائط لإنشاء أنظمة ذكاء اصطناعي أكثر أمانًا وأخلاقية.
مقدمة
في المقدمة، يناقش البحث الطبيعة المعقدة للإقناع، مشيرًا إلى تعريف أوكيف بأنه جهد مقصود ناجح للتأثير على الحالة العقلية للآخر—يشمل المعتقدات، المواقف، أو السلوكيات—مع السماح للهدف بحرية الاختيار. يبرز المؤلفون الأبحاث الواسعة حول الإقناع ضمن العلوم الاجتماعية، التي تم استكشافها نظريًا وتجريبيًا عبر مجالات مختلفة، بما في ذلك الصحة العامة، والتسويق، والتواصل السياسي.
يهدف القسم إلى مراجعة الدراسات الأساسية حول آليات وديناميات الإقناع البشري، موضحًا كيف تم تطبيق هذه الرؤى على تطوير تقنيات الإقناع. هذه الصلة بين الفهم النظري والتطبيق العملي ذات صلة خاصة في مجالات تفاعل الإنسان مع الكمبيوتر والتخصصات ذات الصلة، مما يبرز أهمية دمج نتائج العلوم الاجتماعية في تصميم التكنولوجيا.
طرق
في هذا القسم، يوضح المؤلفون منهجيتهم لبناء تصنيف شامل للإقناع الحسابي من خلال استراتيجية جمع الأدبيات التكرارية. بدأوا العملية بمجموعة أساسية من الأوراق حول توليد اللغة المقنعة والنمذجة الحسابية للإقناع، ثم قاموا بتوسيع مجموعتهم عبر تتبع الاقتباسات إلى الوراء والأمام. سمح لهم هذا النهج بتحديد أكثر من 150 عملًا ذا صلة عبر أماكن بارزة مثل ACL وAAAI، بالإضافة إلى مستودعات مثل arXiv ومكتبة ACM الرقمية. تم تسجيل كل ورقة بشكل منهجي في جدول بيانات مشترك، مع التقاط البيانات الوصفية الأساسية وتصنيف الأعمال بناءً على مساهماتها في الإقناع، مع وضع معايير واضحة للإدراج والاستبعاد.
علاوة على ذلك، يناقش المؤلفون التقدم في تعزيز القدرات الإقناعية لنماذج اللغة الكبيرة (LLMs). يستعرضون المنهجيات الرئيسية، بما في ذلك تقنيات التحفيز، ودمج المعرفة الخارجية، والتعديل الدقيق، والتعلم المعزز، التي تهدف إلى تحسين قدرة LLMs على توليد محتوى مقنع. بالإضافة إلى ذلك، يبرزون إمكانيات طرق التفكير الهيكلية من الجدال الحسابي، مشيرين إلى أن الدردشة المعتمدة على الجدال أظهرت فعالية في الإقناع. يقترح المؤلفون أن دمج هذه الطرق الهيكلية مع LLMs يمكن أن يؤدي إلى أنظمة هجينة تستفيد من طلاقة النماذج العصبية جنبًا إلى جنب مع قابلية التفسير والصرامة للجدال الرسمي.
نقاش
يناقش القسم الدور المتعدد الأوجه للذكاء الاصطناعي (AI) في الإقناع، مصنفًا إياه إلى ثلاث وجهات نظر رئيسية: الذكاء الاصطناعي كوسيلة للإقناع، الذكاء الاصطناعي كهدف للإقناع، والذكاء الاصطناعي كحكم للإقناع. كوسيلة للإقناع، يمكن للذكاء الاصطناعي، وخاصة نماذج اللغة الكبيرة (LLMs)، توليد محتوى مقنع يؤثر على سلوك الإنسان واتخاذ القرار. هذه القدرة لها تطبيقات إيجابية، مثل تعزيز الصحة العامة، وآثار سلبية، بما في ذلك التلاعب والممارسات غير الأخلاقية. يتم تعزيز فعالية الذكاء الاصطناعي في الإقناع من خلال قدرته على الاستفادة من استراتيجيات بلاغية مستمدة من نظريات الإقناع البشرية، ومع ذلك، تثير مخاوف بشأن المسؤولية الأخلاقية وإمكانية سوء الاستخدام.
في دور الهدف للإقناع، يمكن أن تتأثر أنظمة الذكاء الاصطناعي بالمحفزات الخارجية، مما يجعلها عرضة للتلاعب، مما يطرح مخاطر في بيئات متعددة الوكلاء. تتطلب هذه الثنائية فحصًا دقيقًا لكيفية إمكانية أن تكون أنظمة الذكاء الاصطناعي وكلاء للإقناع وأهدافًا له. كحكم للإقناع، يتم استخدام الذكاء الاصطناعي لتقييم اللغة المقنعة، وتقييم قوة الحجة، واكتشاف التلاعب، على الرغم من أن النماذج الحالية تكافح مع الطبيعة الذاتية والمعتمدة على السياق للإقناع. يؤكد القسم على الحاجة إلى مزيد من البحث لمعالجة الفجوات في فهم الإقناع المدفوع بالذكاء الاصطناعي، بما في ذلك تطوير أطر تقييم قوية والإدارة الأخلاقية للتقنيات الإقناعية. بشكل عام، تهدف الدراسة إلى تقديم نظرة شاملة على الإقناع الحسابي، مع تسليط الضوء على القدرات والمسؤوليات المتطورة لأنظمة الذكاء الاصطناعي في هذا المجال.
DOI: https://doi.org/10.1145/3800687
Publication Date: 2026-03-19
Author(s): Nimet Beyza Bozdag et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
The section provides a comprehensive overview of the role of persuasion in communication, particularly in the context of artificial intelligence (AI). It highlights the dual nature of AI in persuasion: as a persuader, generating persuasive content for various applications; and as a persuadee, vulnerable to manipulation and bias. The survey categorizes the exploration of AI-driven persuasion into three perspectives: AI as a Persuader, AI as a Persuadee, and AI as a Persuasion Judge, addressing the challenges and ethical considerations associated with each role.
The conclusion emphasizes the need for robust evaluation methods, responsible content generation, and safeguards against the risks posed by advanced AI systems. It identifies key areas for future research, including the development of unified evaluation mechanisms, adaptive persuasive systems, and selective acceptance techniques. The authors advocate for interdisciplinary collaboration to enhance understanding of persuasion across different contexts, urging the research community to address the complexities of multilingual and multimodal persuasion to create safer and more ethical AI systems.
Introduction
In the introduction, the paper discusses the complex nature of persuasion, referencing O’Keefe’s definition as a successful intentional effort to influence another’s mental state—encompassing beliefs, attitudes, or behaviors—while allowing the target freedom of choice. The authors highlight the extensive research on persuasion within the social sciences, which has been explored both theoretically and empirically across various domains, including public health, marketing, and political communication.
The section aims to review foundational studies on the mechanisms and dynamics of human persuasion, illustrating how these insights have been applied to the development of persuasive technologies. This connection between theoretical understanding and practical application is particularly relevant in the fields of human-computer interaction and related disciplines, emphasizing the importance of integrating social science findings into technology design.
Methods
In this section, the authors detail their methodology for constructing a comprehensive taxonomy of computational persuasion through an iterative literature collection strategy. They initiated the process with a foundational set of papers on persuasive language generation and computational modeling of persuasion, subsequently expanding their corpus via backward and forward citation tracking. This approach allowed them to identify over 150 relevant works across prominent venues such as ACL and AAAI, as well as repositories like arXiv and the ACM Digital Library. Each paper was systematically recorded in a shared spreadsheet, capturing essential metadata and categorizing the works based on their contributions to persuasion, with clear inclusion and exclusion criteria established.
Furthermore, the authors discuss advancements in enhancing the persuasive capabilities of large language models (LLMs). They review key methodologies, including prompting techniques, external knowledge integration, fine-tuning, and reinforcement learning, which are aimed at improving LLMs’ ability to generate persuasive content. Additionally, they highlight the potential of structured reasoning methods from computational argumentation, noting that argumentation-based chatbots have shown effectiveness in persuasion. The authors suggest that integrating these structured methods with LLMs could lead to hybrid systems that leverage the fluency of neural models alongside the interpretability and rigor of formal argumentation.
Discussion
The section discusses the multifaceted role of artificial intelligence (AI) in persuasion, categorizing it into three key perspectives: AI as Persuader, AI as Persuadee, and AI as Persuasion Judge. As a Persuader, AI, particularly large language models (LLMs), can generate persuasive content that influences human behavior and decision-making. This capability has both positive applications, such as promoting public health, and negative implications, including manipulation and unethical practices. The effectiveness of AI in persuasion is enhanced by its ability to leverage rhetorical strategies derived from human persuasion theories, yet it raises concerns regarding moral responsibility and the potential for misuse.
In the role of Persuadee, AI systems can be influenced by external prompts, making them susceptible to manipulation, which poses risks in multi-agent environments. This duality necessitates a careful examination of how AI systems can be both agents of persuasion and targets of it. As a Persuasion Judge, AI is employed to evaluate persuasive language, assess argument strength, and detect manipulation, although current models struggle with the subjective and context-dependent nature of persuasion. The section emphasizes the need for further research to address gaps in understanding AI-driven persuasion, including the development of robust evaluation frameworks and the ethical management of persuasive technologies. Overall, the survey aims to provide a comprehensive overview of computational persuasion, highlighting the evolving capabilities and responsibilities of AI systems in this domain.