DOI: https://doi.org/10.1007/s11229-025-04963-2
تاريخ النشر: 2025-03-12
المؤلف: Siavosh Sahebi وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تتناول هذه الورقة آثار التواصل المدعوم بالذكاء الاصطناعي (AI-MC) على الثقة المعرفية ضمن التفاعلات عبر الإنترنت، وخاصة على منصات وسائل التواصل الاجتماعي. يجادل المؤلفون بأن دمج AI-MC قد يؤدي إلى تراجع في الثقة المعرفية، مما يقدم مخاوف وصفية ومعيارية. وصفياً، يلاحظون انخفاضاً عاماً في مستويات الثقة المرتبطة بـ AI-MC. معيارياً، يبرزون معضلة: بينما توجد سيناريوهات حيث يكون انخفاض الثقة في AI-MC مبرراً، هناك أيضاً حالات حيث يكون هذا الشك غير مبرر، مما قد يؤدي إلى ظلم معرفي. تعقد هذه المعضلة عملية اتخاذ القرار بشأن الثقة في AI-MC، حيث يجب على الأفراد التنقل بين مخاطر السذاجة المعرفية مقابل التمييز غير العادل.
في الختام، توضح الورقة التحديات التي يطرحها AI-MC في وسائل التواصل الاجتماعي كبيئة معرفية، حيث تزيد حالة عدم اليقين حول هويات وخبرات المتواصلين من تعقيد معضلة الثقة. يؤكد المؤلفون على الحاجة إلى مزيد من البحث التجريبي والاستفسار الفلسفي لفهم آثار أدوات الذكاء الاصطناعي على الثقة المعرفية بشكل أفضل وتطوير استراتيجيات لمعالجة التحديات المحددة. يقترحون أنه بينما قد تختلف المعضلة في سياقات مختلفة، فإنها تثير أسئلة فلسفية هامة ذات صلة بالإبستيمولوجيا الاجتماعية، خاصة مع استمرار تطور تقنيات الذكاء الاصطناعي واختراقها لشبكات التواصل المختلفة.
مقدمة
تتناول مقدمة هذه الورقة التكامل السريع لمنتجات الذكاء الاصطناعي التوليدي (Gen AI) في التواصل الاستهلاكي، مع تسليط الضوء على دورها في تعزيز الإنتاجية والإبداع عبر منصات مختلفة. يُطلق على هذه الظاهرة، التي أطلق عليها هانكوك وآخرون (2020) اسم التواصل المدعوم بالذكاء الاصطناعي (AI-MC)، مجموعة من التفاعلات حيث تقوم الوكلاء الحاسوبية بتعديل أو توليد الرسائل لتسهيل التواصل. يؤكد المؤلفون على الانتشار المتزايد لـ AI-MC في أشكال التواصل المتنوعة، من رسائل البريد الإلكتروني إلى منشورات وسائل التواصل الاجتماعي، وآثارها الناتجة على التواصل بين الأفراد.
تهدف الورقة إلى التحقيق في آثار AI-MC على الثقة المعرفية في الاتصالات عبر الإنترنت، وخاصة ضمن سياقات وسائل التواصل الاجتماعي. تُعرف الثقة المعرفية بأنها الاعتقاد بأن اتصالات الآخرين تنقل المعرفة (فريكر، 2021)، ويُزعم أنها معرضة للخطر بسبب AI-MC. يقدم المؤلفون معضلة: بينما توجد سيناريوهات حيث يكون انخفاض الثقة المعرفية في AI-MC مبرراً، هناك أيضاً حالات حيث قد يؤدي هذا الشك إلى ظلم معرفي. تعقد هذه الثنائية عملية اتخاذ القرار بشأن الثقة في AI-MC، مما يطرح تحديات كبيرة لوسائل التواصل الاجتماعي كبيئة معرفية. يتم توضيح هيكل الورقة، مما يشير إلى استكشاف شامل لتأثير AI-MC على الثقة المعرفية والعدالة، مع آثار على كل من متلقي المعلومات والمتواصلين.
نقاش
يسلط النقاش الضوء على التكامل السريع للذكاء الاصطناعي التوليدي (AI-MC) في أدوات التواصل اليومية من قبل الشركات الكبرى، مما يؤثر بشكل كبير على كيفية إنشاء الرسائل واستهلاكها. تتراوح تطبيقات AI-MC من تحرير النصوص والترجمة إلى توليد المحتوى، مما يؤثر على كل من المرسلين والمستلمين للتواصل. ومع ذلك، فإن الاعتماد المتزايد على أدوات الذكاء الاصطناعي يثير مخاوف بشأن الأصالة والثقة والمسؤولية والكفاءة المتصورة في الاتصالات بين الأفراد. تشير الأدلة التجريبية إلى أن استخدام الذكاء الاصطناعي في التواصل يقلل من هذه التصورات، مما قد يقوض العلاقات الاجتماعية والثقة المؤسسية، خاصة في بيئات مثل وسائل التواصل الاجتماعي حيث يكون من الصعب التمييز بين المحتوى البشري والمولد بواسطة الذكاء الاصطناعي.
تؤكد الورقة على أهمية الثقة المعرفية، التي تُعرف بأنها الثقة في المتواصلين لتقديم معلومات صحيحة، والتي تتعرض بشكل متزايد للخطر بسبب AI-MC. قد يشك المستخدمون في الاتصالات التي تُعتبر مدعومة بالذكاء الاصطناعي، مما يؤدي إلى ظلم معرفي حيث يتم الحكم على المتواصلين بشكل غير عادل بناءً على استخدامهم لأدوات الذكاء الاصطناعي. كما يشير النقاش إلى أن منصات وسائل التواصل الاجتماعي تتحول نحو نماذج تحقق من الحقائق مدفوعة من قبل المستخدمين، مما قد يزيد من المعلومات المضللة والتحيز. بشكل عام، تؤكد النتائج على الحاجة إلى فحص نقدي لآثار AI-MC على الثقة المعرفية، خاصة مع تزايد انتشار هذه التقنيات في تشكيل الخطاب العام واكتساب المعرفة.
DOI: https://doi.org/10.1007/s11229-025-04963-2
Publication Date: 2025-03-12
Author(s): Siavosh Sahebi et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
This paper examines the implications of Artificial Intelligence-Mediated Communication (AI-MC) on epistemic trust within online interactions, particularly on social media platforms. The authors argue that the integration of AI-MC may lead to a decline in epistemic trust, presenting both descriptive and normative concerns. Descriptively, they note a general reduction in trust levels associated with AI-MC. Normatively, they highlight a dilemma: while there are scenarios where reduced trust in AI-MC is warranted, there are also instances where such skepticism is unjustified, potentially leading to epistemic injustice. This dilemma complicates the decision-making process regarding trust in AI-MC, as individuals must navigate the risks of epistemic gullibility versus unjust discrimination.
In conclusion, the paper articulates the challenges posed by AI-MC in social media as an epistemic environment, where uncertainty about communicators’ identities and expertise exacerbates the dilemma of trust. The authors emphasize the need for further empirical research and philosophical inquiry to better understand the effects of AI tools on epistemic trust and to develop strategies for addressing the identified challenges. They suggest that while the dilemma may vary in different contexts, it raises significant philosophical questions relevant to social epistemology, particularly as AI technologies continue to evolve and permeate various communicative networks.
Introduction
The introduction of this paper addresses the rapid integration of Generative Artificial Intelligence (Gen AI) products into consumer communication, highlighting their role in enhancing productivity and creativity across various platforms. This phenomenon, termed Artificial Intelligence-Mediated Communication (AI-MC) by Hancock et al. (2020), encompasses a range of interactions where computational agents modify or generate messages to facilitate communication. The authors emphasize the growing prevalence of AI-MC in diverse communication forms, from emails to social media posts, and the consequential effects on interpersonal communication.
The paper aims to investigate the implications of AI-MC on epistemic trust in online communications, particularly within social media contexts. Epistemic trust, defined as the belief that others’ communications convey knowledge (Fricker, 2021), is argued to be at risk due to AI-MC. The authors present a dilemma: while there are scenarios where reduced epistemic trust in AI-MC is warranted, there are also cases where such skepticism may lead to epistemic injustice. This duality complicates the decision-making process regarding trust in AI-MC, posing significant challenges for social media as an epistemic environment. The structure of the paper is outlined, indicating a comprehensive exploration of AI-MC’s impact on epistemic trust and justice, with implications for both information receivers and communicators.
Discussion
The discussion highlights the rapid integration of generative AI (AI-MC) into everyday communication tools by major corporations, significantly impacting how messages are created and consumed. AI-MC applications range from text editing and translation to content generation, influencing both senders and receivers of communication. However, the increasing reliance on AI tools raises concerns about the authenticity, trust, responsibility, and competence perceived in interpersonal communications. Empirical evidence suggests that the use of AI in communication diminishes these perceptions, potentially undermining social relationships and institutional trust, particularly in environments like social media where distinguishing between human and AI-generated content is challenging.
The paper emphasizes the importance of epistemic trust, defined as the trust in communicators to provide truthful information, which is increasingly jeopardized by AI-MC. Users may distrust communications perceived as AI-mediated, leading to epistemic injustice where communicators are unfairly judged based on their use of AI tools. The discussion also notes that social media platforms are shifting towards user-driven fact-checking models, which may exacerbate misinformation and bias. Overall, the findings underscore the need for critical examination of AI-MC’s implications for epistemic trust, especially as these technologies become more prevalent in shaping public discourse and knowledge acquisition.