DOI: https://doi.org/10.1057/s41304-024-00482-9
تاريخ النشر: 2024-04-25
المؤلف: Mateusz Łabuz وآخرون
الموضوع الرئيسي: المعلومات المضللة وتأثيراتها
نظرة عامة
تتناول ورقة البحث آثار التزييف العميق على العمليات الانتخابية في 11 دولة خلال عام 2023، خاصة في ضوء الانتخابات المقبلة في عام 2024. تبرز المخاوف بشأن الانهيار المحتمل للثقة في الأنظمة الديمقراطية بسبب انتشار التزييف العميق، الذي يُعترف به كشكل كبير من أشكال التلاعب الإعلامي. يجادل المؤلفون بأن السرد المبالغ فيه حول “نهاية المعلومات” قد يعيق النقاش البناء ويقترحون مصطلح “تلوث نظام المعلومات العامة” لتجسيد الظاهرة بشكل أفضل. تشير تحليلاتهم إلى أنه بينما زاد عدد التزييفات العميقة المتعلقة بالانتخابات، فإن تأثيرها الفعلي على نتائج الانتخابات كان ضئيلاً حتى الآن، مع وجود حالات قليلة في تركيا وسلوفاكيا تشير إلى أي تأثير ملحوظ.
تشير النتائج إلى أن التهديد الذي يشكله التزييف العميق لا يكمن في جودته ولكن في تأثيره التراكمي على الثقة العامة والإدراك. تؤكد الدراسة على أهمية فهم التفاعلات البشرية مع التزييف العميق والعواقب النفسية لعدم اليقين بشأن مصداقية المعلومات. تدعو إلى تحول في البحث والنقاش العام نحو معالجة هذه التفاعلات وتعزيز الثقافة الإعلامية، بدلاً من الاستمرار في السرد المبالغ فيه الذي قد يؤدي إلى نبوءة تحقق ذاتها. في النهاية، ستكون مرونة الأنظمة الديمقراطية حاسمة في التخفيف من المخاطر المرتبطة بالتزييف العميق، حيث قد تقوض نزاهة الانتخابات والثقة الأساسية في المؤسسات الديمقراطية.
مقدمة
تتناول مقدمة ورقة البحث آثار الذكاء الاصطناعي التوليدي في السياقات السياسية، خاصة قدرته على التلاعب بالعمليات الديمقراطية مثل الانتخابات. يبرز المؤلفون المخاوف المتزايدة المحيطة بتقنيات الذكاء الاصطناعي، وخاصة التزييف العميق – المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي والذي يحاكي الأفراد أو الأحداث الحقيقية، والذي يمكن استخدامه لأغراض مفيدة وضارة على حد سواء. بينما لا يعتبر التزييف العميق سلبياً بطبيعته، فإن إساءته تشكل تهديدات كبيرة، بما في ذلك تشويه سمعة الخصوم السياسيين، ونشر المعلومات المضللة، وتفاقم الصراعات الاجتماعية وعدم المساواة.
تؤكد الورقة على الزيادة المقلقة في جودة وإمكانية الوصول إلى تكنولوجيا التزييف العميق، مما يمكّن من إنشاء محتوى مضلل على نطاق واسع بتكاليف منخفضة. يثير هذا التحول في التكنولوجيا أسئلة حاسمة حول تأثيرها على نزاهة الانتخابات. تهدف الدراسة إلى تحليل حالات استخدام التزييف العميق في الانتخابات التي تم الإبلاغ عنها في عام 2023، مع التركيز على ثلاثة أسئلة رئيسية: طرق تطبيق التزييف العميق، وتأثيرها على نتائج الانتخابات، وصحة سرد “نهاية المعلومات” فيما يتعلق بتأثيراتها على العمليات الديمقراطية. هذه الاستفسارات ذات صلة خاصة في ضوء الانتخابات العالمية المقبلة في عام 2024، التي تُعتبر لحظة حاسمة للديمقراطية.
الطرق
تهدف الدراسة إلى تقييم مدى تجسيد المخاوف الديستوبية بشأن “نهاية المعلومات” المدفوعة بالتزييف العميق في سياق الانتخابات. يقتصر البحث على أحد عشر دولة (الولايات المتحدة، تركيا، الأرجنتين، بولندا، المملكة المتحدة، فرنسا، الهند، بلغاريا، تايوان، إندونيسيا، وسلوفاكيا) التي إما أجرت انتخابات في عام 2023 أو تشارك في حملات انتخابية مستمرة. تم اختيار هذا العدد بناءً على التواريخ الرئيسية للانتخابات لعامي 2023 و2024، مع الحصول على البيانات من جمعية هيئات الانتخابات العالمية (2023). تم تحديد ما مجموعه 85 انتخابات ذات صلة، وتم إجراء بحث منهجي عن حالات التزييف العميق المتعلقة بهذه الانتخابات باستخدام أدوات البحث في جوجل، مع التركيز على العبارات العامة وتلك الخاصة بكل دولة.
شملت المنهجية التعرف اليدوي على التقارير، بشكل أساسي باللغة الإنجليزية، مدعومة بوسائل الإعلام المحلية حيثما كان ذلك ممكنًا. بينما نجحت الدراسة في تحديد العديد من التزييفات العميقة، فإنها تعترف بوجود قيود كبيرة، بما في ذلك احتمال إغفال الحالات المبلغ عنها باللغات المحلية والاعتماد على التقارير الإعلامية التي قد لا تلتقط جميع حالات التزييف العميق، خاصة تلك المتداولة في دوائر مغلقة. تبرز الأبحاث أن التزييف العميق قد تم استخدامه سياسيًا في دول مختلفة، على الرغم من أن ليس جميع الحالات تتعلق مباشرة بالعمليات الانتخابية. تؤكد الدراسة على زيادة احتمال استخدام التزييف العميق مع اقتراب الانتخابات وتلاحظ غياب إطار منهجي قوي لقياس تأثيرها على نتائج الانتخابات، مع التركيز بدلاً من ذلك على تحديد الارتباطات بين التزييف العميق والديناميات الانتخابية.
المناقشة
تسلط المناقشة المحيطة بـ “نهاية المعلومات” المحتملة المدفوعة بالتزييف العميق الضوء على القلق المتزايد بين العلماء والمعلقين الإعلاميين بشأن تآكل الثقة العامة في المعلومات ووسائل الإعلام. منذ عام 2018، ظهرت مصطلحات مثل “الاحتياطي المعرفي” و”وباء المعلومات” لوصف تراجع مصداقية التسجيلات البصرية، التي كانت تعتبر موثوقة في السابق. قد يسهم السرد الكارثي المحيط بالتزييف العميق، بينما يجذب الانتباه، بشكل غير مقصود في خلق مناخ من عدم الثقة والشك، مما يؤدي إلى نبوءة تحقق ذاتها حيث يتم التشكيك بشكل متزايد في المعلومات الحقيقية. تشير الدراسات الحديثة إلى أن البلاغة المبالغة قد تفاقم القضايا التي تسعى إلى معالجتها، مما يشير إلى ضرورة التحول في النقاش نحو فهم أكثر دقة للتزييف العميق للتخفيف من تأثيره على الثقة العامة.
تكشف دراسة التزييف العميق في سياقات انتخابية مختلفة عن مشهد معقد حيث غالبًا ما يتم المبالغة في تأثيرها. في الولايات المتحدة، على سبيل المثال، بينما تم استخدام التزييف العميق لتشويه سمعة الخصوم السياسيين، يبدو أن تأثيرها الفعلي على نتائج الانتخابات محدود. تُلاحظ أنماط مماثلة في دول أخرى، مثل تركيا والأرجنتين، حيث تم استخدام التزييف العميق لأغراض المعلومات المضللة والترويج السياسي، ومع ذلك لم يغير أي منها نتائج الانتخابات بشكل حاسم. يشكل انتشار التزييف العميق، الذي يُعتبر “تلوثًا لبيئة المعلومات”، تحديًا كبيرًا، حيث قد يؤدي إلى تدهور تدريجي للثقة في وسائل الإعلام ومصادر المعلومات. في النهاية، بينما يوجد احتمال لـ “نهاية المعلومات”، تشير الأدلة الحالية إلى أن الظاهرة أكثر تعقيدًا، مما يتطلب نهجًا متوازنًا لفهم ومعالجة آثار التزييف العميق في العمليات الديمقراطية.
DOI: https://doi.org/10.1057/s41304-024-00482-9
Publication Date: 2024-04-25
Author(s): Mateusz Łabuz et al.
Primary Topic: Misinformation and Its Impacts
Overview
The research paper examines the implications of deep fakes on electoral processes in 11 countries during 2023, particularly in light of the upcoming elections in 2024. It highlights concerns about the potential erosion of trust in democratic systems due to the proliferation of deep fakes, which are recognized as a significant form of media manipulation. The authors argue that the alarmist narrative of an “information apocalypse” may hinder constructive discourse and propose the term “pollution of the public information ecosystem” to better encapsulate the phenomenon. Their analysis indicates that while the number of deep fakes related to elections has increased, their actual impact on election outcomes has been minimal thus far, with only a few instances in Turkey and Slovakia suggesting any notable influence.
The findings suggest that the threat posed by deep fakes lies not in their quality but in their cumulative effect on public trust and perception. The study emphasizes the importance of understanding human interactions with deep fakes and the psychological consequences of uncertainty regarding information authenticity. It calls for a shift in research and public discourse towards addressing these interactions and fostering media literacy, rather than perpetuating alarmist narratives that could lead to a self-fulfilling prophecy. Ultimately, the resilience of democratic systems will be crucial in mitigating the risks associated with deep fakes, as they may undermine the integrity of elections and the foundational trust in democratic institutions.
Introduction
The introduction of the research paper addresses the implications of generative artificial intelligence (AI) in political contexts, particularly its potential to manipulate democratic processes such as elections. The authors highlight the growing concerns surrounding AI technologies, especially deep fakes—AI-generated content that mimics real individuals or events, which can be used for both beneficial and harmful purposes. While deep fakes are not inherently negative, their misuse poses significant threats, including the discrediting of political opponents, the spread of disinformation, and the exacerbation of social conflicts and inequalities.
The paper emphasizes the alarming increase in the quality and accessibility of deep fake technology, enabling widespread creation of misleading content at low costs. This democratization of technology raises critical questions about its impact on electoral integrity. The study aims to analyze instances of deep fake usage in elections reported in 2023, focusing on three key questions: the methods of deep fake application, their influence on election outcomes, and the validity of the “information apocalypse” narrative concerning their effects on democratic processes. These inquiries are particularly pertinent in light of the upcoming global elections in 2024, which are framed as a pivotal moment for democracy.
Methods
The study aims to assess the extent to which dystopian concerns regarding an “information apocalypse” fueled by deep fakes have manifested in the context of elections. The research is confined to eleven countries (USA, Turkiye, Argentina, Poland, UK, France, India, Bulgaria, Taiwan, Indonesia, and Slovakia) that either held elections in 2023 or are engaged in ongoing electoral campaigns. This selection is based on the major election calendars for 2023 and 2024, with data sourced from The Association of World Election Bodies (2023). A total of 85 relevant elections were identified, and a systematic search for deep fake instances related to these elections was conducted using Google search tools, focusing on both generic and country-specific phrases.
The methodology involved manual identification of reports, primarily in English, supplemented by local media where feasible. While the study successfully located many deep fakes, it acknowledges significant limitations, including the potential omission of cases reported in local languages and the reliance on media reports that may not capture all instances of deep fakes, particularly those circulated in closed circles. The research highlights that deep fakes have been utilized politically in various countries, although not all cases directly relate to election processes. The study emphasizes the increasing likelihood of deep fake usage as elections approach and notes the absence of a robust methodological framework to measure their impact on election outcomes, focusing instead on identifying correlations between deep fakes and electoral dynamics.
Discussion
The discussion surrounding the potential “information apocalypse” fueled by deep fakes highlights a growing concern among scholars and media commentators regarding the erosion of public trust in information and media. Since 2018, terms such as “epistemic backstop” and “infodemic” have emerged to describe the diminishing credibility of visual recordings, which were once considered reliable. The apocalyptic narrative surrounding deep fakes, while capturing attention, may inadvertently contribute to a climate of distrust and skepticism, leading to a self-fulfilling prophecy where genuine information is increasingly questioned. Recent studies indicate that alarmist rhetoric may exacerbate the very issues it seeks to address, suggesting that a shift in discourse towards a more nuanced understanding of deep fakes is necessary to mitigate their impact on public trust.
The examination of deep fakes in various electoral contexts reveals a complex landscape where their influence is often overstated. In the United States, for example, while deep fakes have been used to discredit political opponents, their actual impact on election outcomes appears limited. Similar patterns are observed in other countries, such as Turkey and Argentina, where deep fakes have been employed for both disinformation and political promotion, yet none have decisively altered electoral results. The proliferation of deep fakes, characterized as “pollution of the information environment,” poses a significant challenge, as it may lead to a gradual degradation of trust in media and information sources. Ultimately, while the potential for an “information apocalypse” exists, current evidence suggests that the phenomenon is more nuanced, necessitating a balanced approach to understanding and addressing the implications of deep fakes in democratic processes.