DOI: https://doi.org/10.1007/s00146-024-02087-8
تاريخ النشر: 2024-10-10
المؤلف: Paolo Bory وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تنتقد المقالة الخطاب السائد حول الذكاء الاصطناعي (AI) من خلال التمييز بين “روايات الذكاء الاصطناعي القوي”، التي تتصور تقنيات المستقبل التي تحاكي أو تتجاوز الذكاء البشري، و”روايات الذكاء الاصطناعي الضعيف”، التي تركز على الوظائف الحالية والآثار المترتبة على تقنيات الذكاء الاصطناعي الموجودة. من خلال تحليل أمثلة من الخطاب حول نماذج اللغة الكبيرة والسياسة العامة، يجادل المؤلفون من أجل فهم أكثر دقة لخيالات الذكاء الاصطناعي التي تعترف بالتفاعل بين هذين النوعين من الروايات. يقترحون إطارًا تحليليًا يبرز أهمية روايات الذكاء الاصطناعي الضعيف، داعين إلى تطبيعها في النقاشات العامة لتعكس بشكل أفضل واقع تقنيات الذكاء الاصطناعي الحالية وتأثيراتها الاجتماعية.
يبرز المؤلفون ضرورة أدوات تحليلية يمكن أن تتنقل بين تعقيدات روايات الذكاء الاصطناعي، نظرًا للتنوع الواسع للتقنيات التي تشملها علامة الذكاء الاصطناعي. يؤكدون أنه بينما يكون التمييز بين روايات الذكاء الاصطناعي القوي والضعيف مفيدًا، إلا أنه ليس صارمًا؛ يمكن أن تنتقل الروايات بسلاسة بين الفئات. تسمح هذه المرونة بفهم أعمق لخيالات الذكاء الاصطناعي وآثارها، خاصة في ضوء الأهمية المتزايدة للذكاء الاصطناعي التوليدي في الخطاب العام. من خلال التركيز على روايات الذكاء الاصطناعي الضعيف، تدعو المقالة إلى فحص نقدي لكيفية تشكيل هذه الروايات للآراء العامة، ونقاشات السياسة، وإدارة تقنيات الذكاء الاصطناعي، مما يحث في النهاية على تمثيل متوازن لكل من الذكاء الاصطناعي القوي والضعيف في المناقشات حول مستقبل التكنولوجيا.
مقدمة
تسلط مقدمة الورقة الضوء على الخطاب المتزايد حول تمثيل وإدارة التقنيات الرقمية، وخاصة الذكاء الاصطناعي (AI)، في العلوم الإنسانية والاجتماعية. تشير إلى أعمال موسكو (2005) وستريتر (2011)، التي توضح الضجة المصاحبة لظهور التقنيات الرقمية وتأثيرها على النقاشات العامة وصنع السياسات (كراوفورد 2021). مع بروز تقنيات الذكاء الاصطناعي في أواخر العقد الثاني من القرن الحادي والعشرين وأوائل العقد الثالث، أصبحت القدرة على تقييم الروايات المتنافسة حول الذكاء الاصطناعي بشكل نقدي أمرًا حاسمًا، حيث تؤثر هذه الروايات بشكل كبير على الإدراك العام والإدارة (كاف وآخرون 2020؛ ناتالي 2021).
تقترح الورقة إطارًا نظريًا يميز بين روايات “الضعيف” و”القوي” للذكاء الاصطناعي. يشير “الذكاء الاصطناعي القوي” إلى الأنظمة الافتراضية القادرة على تكرار جميع الوظائف الفكرية البشرية، وغالبًا ما يتم تصويرها في الخيال العلمي، بينما يشمل “الذكاء الاصطناعي الضعيف” الخوارزميات الحالية الخاصة بالمجالات التي تؤدي مهامًا مرتبطة عادةً بالذكاء البشري (غونكل 2012). يجادل المؤلفون بأن فهم هذه التمييزات أمر ضروري لتحليل خيالات الذكاء الاصطناعي، حيث غالبًا ما تهيمن روايات الذكاء الاصطناعي القوي على الخطاب العام، مما يطغى على روايات الذكاء الاصطناعي الضعيف الأكثر عملية وملاءمة التي تنشأ من التفاعلات الفعلية مع تقنيات الذكاء الاصطناعي. تتكون الورقة من خمسة أقسام، بما في ذلك مراجعة للخيالات التكنولوجية، واستكشاف للانقسام التاريخي بين خطاب الذكاء الاصطناعي والأنظمة الفعلية، ومناقشة لحالتين دراسيتين توضحان التطبيق العملي للإطار التحليلي المقترح. يدعو المؤلفون إلى زيادة الوعي بروايات الذكاء الاصطناعي الضعيف بين الأكاديميين ووسائل الإعلام والمستخدمين وصانعي السياسات لتعزيز مناقشات أكثر إبلاغًا حول آثار الذكاء الاصطناعي.
مناقشة
في مناقشة الخيالات الاجتماعية والتقنية المحيطة بالذكاء الاصطناعي (AI)، تبرز الورقة الاستخدام المتطور لمصطلح “خيال” ضمن الخطاب الأكاديمي، خاصة في دراسات الإعلام ودراسات العلوم والتكنولوجيا (STS). ينتقد المؤلفون التركيز السائد على روايات “الذكاء الاصطناعي القوي” – رؤى الذكاء الاصطناعي التي تحاكي أو تتجاوز الذكاء البشري – بينما يجادلون من أجل فهم أكثر دقة يشمل “الذكاء الاصطناعي الضعيف”، الذي يشير إلى الأنظمة المصممة لمهام محددة. هذا التمييز ضروري لتحليل الروايات المتنوعة التي تشكل الإدراك العام والسياسة بشأن تقنيات الذكاء الاصطناعي. يؤكد المؤلفون أنه بينما تهيمن روايات الذكاء الاصطناعي القوي على النقاشات الأكاديمية والعامة، فإن أنظمة الذكاء الاصطناعي الضعيف، مثل نماذج اللغة الكبيرة (LLMs)، تمارس تأثيرًا كبيرًا في المجتمع المعاصر، مما يتحدى الثنائية البسيطة بين الذكاء الاصطناعي القوي والضعيف.
تستكشف الورقة أيضًا آثار هذه الروايات من خلال حالة LaMDA من جوجل، حيث أثارت الادعاءات بالوعي نقاشًا واسع النطاق حول إمكانية الذكاء الاصطناعي القوي. توضح هذه الحادثة كيف يمكن أن تنتقل المعتقدات الخاصة إلى الخطاب العام، مما يعقد الحدود بين روايات الذكاء الاصطناعي القوي والضعيف. يجادل المؤلفون بأن الخلط بين هذه الروايات يمكن أن يؤدي إلى توقعات غير واقعية ويشغل الانتباه عن القضايا الأخلاقية والاجتماعية الملحة التي تطرحها تقنيات الذكاء الاصطناعي الضعيف الموجودة. يدعون إلى إطار تحليلي أوضح يميز بين روايات الذكاء الاصطناعي القوي والضعيف لفهم أفضل لآثار الذكاء الاصطناعي في المجتمع، خاصة مع استمرار تطور النقاشات حول الذكاء الاصطناعي في ظل التقدم التكنولوجي السريع.
DOI: https://doi.org/10.1007/s00146-024-02087-8
Publication Date: 2024-10-10
Author(s): Paolo Bory et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
The article critiques the prevailing discourse surrounding artificial intelligence (AI) by distinguishing between “strong AI narratives,” which envision future technologies that closely mimic or exceed human intelligence, and “weak AI narratives,” which focus on the current functionalities and implications of existing AI technologies. By analyzing examples from the discourse on Large Language Models and public policy, the authors argue for a more nuanced understanding of AI imaginaries that acknowledges the interplay between these two narrative types. They propose an analytical framework that emphasizes the importance of weak AI narratives, advocating for their normalization in public debates to better reflect the realities of current AI technologies and their societal impacts.
The authors highlight the necessity of analytical tools that can navigate the complexities of AI narratives, given the diverse range of technologies encompassed by the AI label. They assert that while the distinction between strong and weak AI narratives is useful, it is not rigid; narratives can fluidly transition between categories. This flexibility allows for a deeper understanding of AI imaginaries and their implications, particularly in light of the increasing relevance of generative AI in public discourse. By centering weak AI narratives, the article calls for a critical examination of how these narratives shape public perceptions, policy debates, and the governance of AI technologies, ultimately urging a balanced representation of both strong and weak AI in discussions about the future of technology.
Introduction
The introduction of the paper highlights the growing discourse surrounding the representation and governance of digital technologies, particularly artificial intelligence (AI), in the humanities and social sciences. It references the works of Mosco (2005) and Streeter (2011), which illustrate the hype accompanying the rise of digital technologies and its impact on public debates and policymaking (Crawford 2021). As AI technologies gained prominence in the late 2010s and early 2020s, the ability to critically assess competing narratives about AI became crucial, as these narratives significantly influence public perception and governance (Cave et al. 2020; Natale 2021).
The paper proposes a theoretical framework that distinguishes between “weak” and “strong” AI narratives. “Strong AI” refers to hypothetical systems capable of replicating all human intellectual functions, often depicted in science fiction, while “weak AI” encompasses current domain-specific algorithms that perform tasks typically associated with human intelligence (Gunkel 2012). The authors argue that understanding these distinctions is essential for analyzing AI imaginaries, as strong AI narratives often dominate public discourse, overshadowing the more pragmatic and relevant weak AI narratives that emerge from actual interactions with AI technologies. The paper is structured into five sections, including a review of technological imaginaries, an exploration of the historical divide between AI discourse and actual systems, and a discussion of two case studies that illustrate the practical application of the proposed analytical framework. The authors advocate for increased awareness of weak AI narratives among academics, media, users, and policymakers to foster more informed discussions about AI’s implications.
Discussion
In the discussion of socio-technical imaginaries surrounding artificial intelligence (AI), the paper highlights the evolving use of the term “imaginary” within academic discourse, particularly in media studies and Science and Technology Studies (STS). The authors critique the predominant focus on “strong AI” narratives—visions of AI that emulate or surpass human intelligence—while arguing for a more nuanced understanding that includes “weak AI,” which refers to systems designed for specific tasks. This distinction is essential for analyzing the diverse narratives that shape public perception and policy regarding AI technologies. The authors emphasize that while strong AI narratives dominate both academic and public discussions, weak AI systems, such as Large Language Models (LLMs), wield significant influence in contemporary society, challenging the simplistic dichotomy between strong and weak AI.
The paper further explores the implications of these narratives through the case of Google’s LaMDA, where claims of sentience sparked widespread debate about the potential for strong AI. This incident illustrates how private beliefs can transition into public discourse, complicating the boundaries between strong and weak AI narratives. The authors argue that the conflation of these narratives can lead to unrealistic expectations and distract from pressing ethical and social issues posed by existing weak AI technologies. They advocate for a clearer analytical framework that distinguishes between strong and weak AI narratives to better understand the implications of AI in society, particularly as discussions around AI continue to evolve amidst rapid technological advancements.