DOI: https://doi.org/10.3389/frai.2025.1569115
PMID: https://pubmed.ncbi.nlm.nih.gov/40821951
تاريخ النشر: 2025-07-31
المؤلف: Alexander Romanishyn وآخرون
الموضوع الرئيسي: المعلومات المضللة وتأثيراتها
نظرة عامة
لقد غير دمج الذكاء الاصطناعي (AI) في منصات الاتصال الرقمية بشكل ملحوظ ديناميات نشر المعلومات، لا سيما من خلال استخدام النماذج التوليدية وخوارزميات تحسين التفاعل التي تساهم في انتشار المعلومات المضللة. يشكل هذا الاتجاه تهديدات كبيرة للعمليات الديمقراطية من خلال تشويه المعلومات السياسية، وتقويض الثقة العامة في المؤسسات، وزيادة الاستقطاب، مما يعيق بشكل جماعي اتخاذ القرارات الديمقراطية الفعالة. إن الفجوة في الإشراف التنظيمي بين وسائل الإعلام التقليدية والمنصات الرقمية تزيد من تفاقم هذه التحديات. تهدف هذه المراجعة إلى توثيق دور الذكاء الاصطناعي في حملات المعلومات المضللة، وتقييم الأطر الحاكمة الحالية، واقتراح توصيات سياسية لتعزيز مرونة المؤسسات ضد هذه المخاطر.
تؤكد النتائج على الطبيعة المزدوجة للذكاء الاصطناعي كأداة للمعلومات المضللة ووسيلة محتملة للحماية ضدها. يجب أن تركز الأطر السياسية الفعالة على التنظيم القائم على النية، وتعزيز البحث والتطوير عبر القطاعات، وضمان الشفافية في تطبيقات الذكاء الاصطناعي. مع زيادة تعقيد بيئة المعلومات، تدعو المراجعة إلى استجابة متعددة الطبقات وقابلة للتكيف تستفيد من قدرات الذكاء الاصطناعي مع تعزيز المساءلة والذكاء الجماعي. في النهاية، يتطلب حماية الفضاء العام الرقمي نهجًا استراتيجيًا يوجه التكنولوجيا نحو المرونة بدلاً من الحظر الكامل.
مقدمة
تقدم مقدمة هذه الورقة البحثية الديناميات المعقدة لانتشار المعلومات المضللة داخل النظم البيئية الرقمية، مع التأكيد على تفاعل نفسية المستخدم وتصميم الخوارزميات وهياكل الإعلام. تكشف النتائج الرئيسية من الدراسات التجريبية أن المعلومات المضللة تنتشر بشكل أسرع وأوسع من المعلومات الواقعية، مدفوعة بشكل أساسي بالسلوك البشري بدلاً من الحسابات الآلية. على سبيل المثال، أظهر فوسوغي وآخرون (2018) أن الأخبار الكاذبة تتسارع على تويتر بشكل يفوق الأخبار الحقيقية بسبب جاذبيتها الجديدة والعاطفية. سلطت الأبحاث اللاحقة التي أجراها شاو وآخرون (2018) الضوء على دور الروبوتات الاجتماعية في تضخيم المعلومات المضللة، خاصة خلال اللحظات الحرجة، بينما حدد غيس وآخرون (2019) نقاط الضعف الديموغرافية، مشيرين إلى أن كبار السن يشاركون بشكل غير متناسب الأخبار المزيفة على منصات مثل فيسبوك.
تناقش المقدمة أيضًا القضايا النظامية في الاتصال العلمي التي تساهم في المعلومات المضللة، كما ناقشها باركر وآخرون (2021). إنهم يدعون إلى تحسين معايير البحث والوصول العام إلى المعلومات الموثوقة للتخفيف من أزمات المعلومات المضللة. بالإضافة إلى ذلك، وجد بينيكوك وآخرون (2021) أن دفع السلوكيات البسيطة يمكن أن يقلل بشكل كبير من مشاركة المحتوى المضلل، مما يشير إلى أن منصات التواصل الاجتماعي يمكن أن تنفذ تدخلات منخفضة التكلفة لتعزيز الدقة. إن ظهور تقنيات الذكاء الاصطناعي المتقدمة يعقد بشكل أكبر مشهد المعلومات المضللة، مع نماذج توليدية قادرة على إنتاج روايات كاذبة لا يمكن تمييزها. وهذا يتطلب تدابير مضادة قوية وتدخلات سياسية لحماية نزاهة المعلومات. بشكل عام، تؤكد المقدمة على الحاجة الملحة لاستراتيجيات متعددة الأوجه لمعالجة الطبيعة النظامية للمعلومات المضللة وطرائقها المتطورة.
مناقشة
تسلط قسم المناقشة في الورقة البحثية الضوء على المخاطر المتزايدة للمعلومات المضللة المدفوعة بالذكاء الاصطناعي، في سياق النمو السريع لاستخدام الإنترنت ووسائل التواصل الاجتماعي على مستوى العالم. اعتبارًا من أبريل 2025، كان حوالي 68.7% من سكان العالم مستخدمين نشطين للإنترنت، مع تفاعل يومي كبير على منصات التواصل الاجتماعي. لقد أنشأ هذا التشبع الرقمي بيئة ملائمة لانتشار المعلومات المضللة، لا سيما من خلال تقنيات الذكاء الاصطناعي التوليدية التي تسهل إنتاج المحتوى بتكلفة منخفضة. تكشف التحليلات عن اتجاهات مقلقة عبر فئات مختلفة من المعلومات المضللة، بما في ذلك زيادة خمسة أضعاف في محتوى التزييف العميق وزيادة عشرة أضعاف في مواقع الأخبار المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي، مما يبرز الطبيعة النظامية لهذه التهديدات والحاجة الملحة لتدابير مضادة فعالة.
تشير النتائج الرئيسية إلى أن التزييف العميق ينتقل من تطبيقات متخصصة إلى أدوات رئيسية للاحتيال والتلاعب السياسي، حيث تشمل أكثر من 6% من حوادث الاحتيال الآن التزييف العميق. تؤكد الورقة على ضرورة تعزيز أدوات الكشف والأطر التنظيمية، مثل فرض علامات مائية على وسائل الإعلام التي تم إنشاؤها بواسطة الذكاء الاصطناعي. بالإضافة إلى ذلك، فإن ارتفاع الهويات الاصطناعية والتفاعلات المدفوعة بالروبوتات—التي يُقدّر أنها تمثل 25% من نشاط وسائل التواصل الاجتماعي—يعقد بشكل أكبر مشهد المعلومات المضللة. تدعو الورقة إلى تشديد إجراءات التحقق من الهوية الرقمية وشفافية التدابير، جنبًا إلى جنب مع استراتيجيات استباقية للكشف عن المعلومات المضللة والتدخل في الوقت الحقيقي. بشكل عام، تؤكد المقارنة مع البيانات العالمية أن هذه الاتجاهات ليست معزولة ولكنها جزء من ظاهرة أوسع وأسرع، مما يتطلب آليات حوكمة منسقة وقابلة للتكيف لمكافحة المعلومات المضللة المدفوعة بالذكاء الاصطناعي بشكل فعال.
القيود
تعتبر قيود الأطر التنظيمية الحالية للذكاء الاصطناعي كبيرة، خاصة في معالجة تعقيدات المعلومات المضللة. غالبًا ما تتخلف اللوائح الحالية عن التقدم السريع في تكنولوجيا الذكاء الاصطناعي، وتعاني من تفتت الاختصاصات، وتكافح للتكيف مع الطبيعة الديناميكية لتكتيكات المعلومات المضللة. تسلط هذه التحديات الضوء على الحاجة إلى نهج أكثر شمولاً وتطلعا نحو المستقبل في حوكمة الذكاء الاصطناعي، والذي يتضمن توصيات سياسية قوية تهدف إلى تعزيز الشفافية، وتعزيز التعاون الدولي، وتحقيق التوازن بين الابتكار والتنظيم.
لمعالجة هذه القيود، تقترح الورقة إطار حوكمة مرحلي يصنف التدخلات السياسية بناءً على الإطار الزمني المتوقع لتنفيذها وتأثيرها النظامي. تشمل التوصيات الرئيسية تعزيز التعاون الدولي من خلال هيئة حوكمة عالمية للذكاء الاصطناعي، وإنشاء أطر تنظيمية متدرجة للشركات، وتسهيل الشراكات المرنة لمكافحة الجهات الفاعلة الخبيثة. بالإضافة إلى ذلك، يؤكد الإطار على أهمية تطوير آليات تنظيمية قابلة للتكيف، وتعزيز الثقافة الرقمية، وإجراء تدقيقات للتحيز لضمان أنظمة ذكاء اصطناعي عادلة. من خلال تنفيذ هذه الاستراتيجيات، يهدف الهيكل المقترح للحوكمة إلى التخفيف من المخاطر المرتبطة بالمعلومات المضللة المدفوعة بالذكاء الاصطناعي وتعزيز استجابة عالمية أكثر مرونة.
DOI: https://doi.org/10.3389/frai.2025.1569115
PMID: https://pubmed.ncbi.nlm.nih.gov/40821951
Publication Date: 2025-07-31
Author(s): Alexander Romanishyn et al.
Primary Topic: Misinformation and Its Impacts
Overview
The integration of artificial intelligence (AI) into digital communication platforms has notably altered the dynamics of information dissemination, particularly through the use of generative models and engagement-optimization algorithms that contribute to the spread of disinformation. This trend poses significant threats to democratic processes by distorting political information, undermining public trust in institutions, and increasing polarization, which collectively hinder effective democratic decision-making. The disparity in regulatory oversight between traditional media and digital platforms further exacerbates these challenges. This review aims to document the role of AI in disinformation campaigns, evaluate existing governance frameworks, and propose policy recommendations to enhance institutional resilience against such risks.
The findings emphasize the dual nature of AI as both a tool for disinformation and a potential safeguard against it. Effective policy frameworks should focus on intent-based regulation, promote cross-sector research and development, and ensure transparency in AI applications. As the complexity of the information environment increases, the review advocates for a layered and adaptive response that harnesses AI’s capabilities while fostering accountability and collective intelligence. Ultimately, safeguarding the digital public sphere requires a strategic approach that channels technology towards resilience rather than outright bans.
Introduction
The introduction of this research paper outlines the complex dynamics of disinformation proliferation within digital ecosystems, emphasizing the interplay of user psychology, algorithmic design, and media structures. Key findings from empirical studies reveal that disinformation spreads more rapidly and broadly than factual information, primarily driven by human behavior rather than automated accounts. For instance, Vosoughi et al. (2018) demonstrated that false news cascades on Twitter outpaced true news due to their novelty and emotional appeal. Subsequent research by Shao et al. (2018) highlighted the role of social bots in amplifying misinformation, particularly during critical moments, while Guess et al. (2019) identified demographic vulnerabilities, noting that older adults disproportionately share fake news on platforms like Facebook.
The introduction also addresses systemic issues in scientific communication that contribute to misinformation, as discussed by Parker et al. (2021). They advocate for improved research standards and public accessibility to credible information to mitigate misinformation crises. Additionally, Pennycook et al. (2021) found that simple behavioral nudges can significantly reduce the sharing of misleading content, suggesting that social media platforms could implement low-cost interventions to promote accuracy. The emergence of advanced AI technologies further complicates the misinformation landscape, with generative models capable of producing indistinguishable false narratives. This necessitates robust countermeasures and policy interventions to safeguard information integrity. Overall, the introduction underscores the urgent need for multifaceted strategies to address the systemic nature of disinformation and its evolving modalities.
Discussion
The discussion section of the research paper highlights the escalating risk of AI-driven disinformation, contextualized within the rapid growth of global internet and social media usage. As of April 2025, approximately 68.7% of the global population were active internet users, with significant daily engagement on social media platforms. This digital saturation has created an environment conducive to the proliferation of disinformation, particularly through generative AI technologies that facilitate low-cost content production. The analysis reveals alarming trends across various categories of disinformation, including a fivefold increase in deepfake content and a tenfold rise in AI-generated fake news sites, underscoring the systemic nature of these threats and the urgent need for effective countermeasures.
Key findings indicate that deepfakes are transitioning from niche applications to mainstream tools for scams and political manipulation, with over 6% of fraud incidents now involving deepfakes. The paper emphasizes the necessity for enhanced detection tools and regulatory frameworks, such as mandating provenance watermarks for AI-generated media. Additionally, the rise of synthetic identities and bot-driven interactions—estimated to account for 25% of social media activity—further complicates the disinformation landscape. The paper advocates for stricter digital identity verification and transparency measures, alongside proactive strategies for real-time disinformation detection and intervention. Overall, the benchmarking against global data confirms that these trends are not isolated but part of a broader, accelerating phenomenon, necessitating coordinated and adaptive governance mechanisms to combat AI-enabled disinformation effectively.
Limitations
The limitations of current AI regulatory frameworks are significant, particularly in addressing the complexities of disinformation. Existing regulations often lag behind the rapid advancements in AI technology, suffer from jurisdictional fragmentation, and struggle to adapt to the dynamic nature of disinformation tactics. These challenges highlight the need for a more comprehensive and forward-thinking approach to AI governance, which includes robust policy recommendations aimed at enhancing transparency, fostering international cooperation, and balancing innovation with regulation.
To address these limitations, the paper proposes a phased governance framework that categorizes policy interventions based on their expected timeframe for implementation and systemic impact. Key recommendations include promoting international collaboration through a global AI governance body, establishing tiered regulatory frameworks for businesses, and facilitating agile partnerships to combat malicious actors. Additionally, the framework emphasizes the importance of developing adaptive regulatory mechanisms, enhancing digital literacy, and conducting bias audits to ensure equitable AI systems. By implementing these strategies, the proposed governance architecture aims to mitigate the risks associated with AI-driven disinformation and foster a more resilient global response.