DOI: https://doi.org/10.1007/s00146-026-02932-y
تاريخ النشر: 2026-04-06
المؤلف: Caoilte Ó Ciardha وآخرون
الموضوع الرئيسي: الجنس، النسوية، ووسائل الإعلام
نظرة عامة
إن ظهور أدوات الذكاء الاصطناعي التوليدي القادرة على إنشاء مواد اعتداء جنسي على الأطفال الاصطناعية (AI CSAM) يطرح تحديات كبيرة لحماية الأطفال وإنفاذ القانون. بينما يجادل البعض بأن AI CSAM أقل ضررًا من مواد الاعتداء الجنسي التقليدية على الأطفال (CSAM) بسبب غياب الضحية المباشرة، فإن هذا المنظور يغفل المخاطر المختلفة المرتبطة بإنتاجها واستهلاكها. يمكن أن يؤدي AI CSAM إلى إنشاء مواد تتعلق بالأطفال الذين لم يتعرضوا للاعتداء، وإعادة ضحايا الاعتداء، وتسهيل التلاعب والإكراه، وتطبيع استغلال الأطفال. علاوة على ذلك، قد يقلل من الحواجز أمام الاعتداء، ويجعل المستخدمين غير حساسين تجاه المحتوى المتطرف، ويقوض العوامل الوقائية للأفراد ذوي الاهتمامات الجنسية بالأطفال.
تؤكد الورقة أن تصور AI CSAM على أنه أقل ضررًا ينشأ من سوء فهم كيفية ظهور الضرر والعمليات المعنية في إنشائه. لا يتم إنشاء AI CSAM في عزلة؛ بل يعتمد على مجموعات بيانات تشمل CSAM الموجود وصور أطفال حقيقيين، مما يؤدي إلى استمرار دورات الاستغلال. يجادل المؤلفون ضد الإطار النسبي للضرر، الذي يقلل من أهمية AI CSAM من خلال مقارنته بالاعتداء المباشر. بدلاً من ذلك، يؤكدون أن الضرر موجود على أبعاد متعددة، وأن الفشل في التعرف على هذه التعقيدات يمكن أن يؤدي إلى عدم اتخاذ إجراءات تنظيمية. توفر التركيبة المقدمة في الورقة موردًا لأصحاب المصلحة في إنفاذ القانون والسياسة وحماية الأطفال، داعيةً إلى توضيح واضح للأضرار المرتبطة بـ AI CSAM لتحفيز الاستجابات اللازمة ومواجهة السرد الذي يقلل من تأثيره.
مقدمة
تتناول مقدمة هذه الورقة البحثية الارتفاع المقلق لمواد الاعتداء الجنسي على الأطفال الناتجة عن الذكاء الاصطناعي (AI CSAM)، والذي تم تسهيله من خلال التقدم في تقنيات الذكاء الاصطناعي التي تنتج صورًا وفيديوهات اصطناعية أكثر واقعية. لقد تصاعد انتشار AI CSAM منذ ظهور نماذج الانتشار مفتوحة المصدر في 2021-2022، مما سمح لكل من الأفراد ذوي المهارات التقنية وغير المهرة بإساءة استخدام هذه الأدوات. تشير التقارير إلى زيادة كبيرة في المحتوى الصريح الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، حيث حددت مؤسسة مراقبة الإنترنت (IWF) أكثر من 20,000 صورة صريحة مشبوهة تم إنشاؤها بواسطة الذكاء الاصطناعي في شهر واحد، وقد اعتُبر جزء كبير منها غير قانوني بموجب القانون البريطاني. علاوة على ذلك، لاحظت IWF زيادة بنسبة 380% في تقارير AI CSAM القابلة للتنفيذ في عام 2024 مقارنة بالعام السابق، مما يبرز الحاجة الملحة لاستراتيجيات فعالة للكشف والتنفيذ.
تستكشف الورقة أيضًا الآثار الاجتماعية والنفسية لـ AI CSAM، مع التركيز على تصور الذكاء الاصطناعي التوليدي كتكنولوجيا غير شفافة تعقد المناقشات حول عواقبها الأخلاقية. يجادل المؤلفون ضد فكرة أن AI CSAM يمكن أن يكون بديلاً غير ضار لـ CSAM التقليدي، مشيرين إلى الأدلة الناشئة حول استخداماته الاستغلالية، بما في ذلك إنشاء صور صريحة للقاصرين ودوره في الابتزاز الجنسي المالي. لمعالجة هذه المخاوف، تحدد الورقة سبعة أضرار ملموسة مرتبطة بـ AI CSAM، تهدف إلى تقديم فهم شامل للتكنولوجيا، وأطرها النفسية، والمخاطر المحتملة التي تشكلها. تم اختيار نهج مراجعة السرد ليشمل مجموعة واسعة من المصادر، مما يعكس المشهد المتنوع للمعلومات المحيطة بهذه الظاهرة الناشئة.
مناقشة
تناقش هذه القسم ظهور وتأثيرات مواد الاعتداء الجنسي على الأطفال الناتجة عن الذكاء الاصطناعي (AI CSAM)، والتي تشمل أي تصوير بصري صريح جنسي لطفل تم إنشاؤه أو تغييره باستخدام تقنيات الذكاء الاصطناعي مثل نماذج الانتشار والشبكات التنافسية التوليدية (GANs). على عكس مواد الاعتداء الجنسي التقليدية على الأطفال (CSAM)، التي يتم إنتاجها من خلال استغلال الأطفال الحقيقيين، يتم إنشاء AI CSAM بشكل اصطناعي ولكن يمكن أن يؤدي إلى ضحية حقيقية من القاصرين، خاصة من خلال استخدام CSAM الموجود في مجموعات بيانات التدريب أو التلاعب بصور الأطفال القابلين للتعريف. تميز الورقة بين AI CSAM الاصطناعي بالكامل وCSAM المعالج بواسطة الذكاء الاصطناعي، مع التأكيد على إمكانية الضرر من كلا الشكلين. تبرز المناقشة دور تقنيات مثل GANs ونماذج الانتشار في إنشاء الصور الواقعية، مع الإشارة أيضًا إلى المخاطر المرتبطة بإساءة استخدامها، بما في ذلك إنشاء محتوى صريح يمكن أن يسهل التلاعب والإكراه والابتزاز الجنسي.
تستخدم الأطر النظرية مثل نموذج التحفيز-التسهيل لسيطو (MFM) ونظرية الفضاء غير القانوني (LST) لوضع المخاطر المرتبطة بـ AI CSAM في سياقها. يقترح MFM أن AI CSAM يمكن أن يعمل كعامل تسهيل وعامل سياقي في مسارات الاعتداء الجنسي، بينما تبرز LST كيف أن ضعف الحوكمة في البيئات الرقمية يزيد من احتمال السلوك الضار. تختتم القسم بتحديد الأضرار المعروفة والمحتملة لـ AI CSAM، بما في ذلك تآكل المثبطات بين الأفراد ذوي الاهتمام الجنسي بالأطفال، وتطبيع استغلال الأطفال جنسيًا، والآثار النفسية على الضحايا. إن توفر AI CSAM لا يشكل فقط تهديدات مباشرة للأطفال، بل يعقد أيضًا جهود إنفاذ القانون ويساهم في ثقافة أوسع من الاستغلال، مما يثير مخاوف كبيرة بشأن مستقبل حماية الأطفال في العصر الرقمي.
DOI: https://doi.org/10.1007/s00146-026-02932-y
Publication Date: 2026-04-06
Author(s): Caoilte Ó Ciardha et al.
Primary Topic: Gender, Feminism, and Media
Overview
The emergence of generative artificial intelligence (AI) tools capable of creating synthetic child sexual abuse material (AI CSAM) poses significant challenges for child protection and law enforcement. While some argue that AI CSAM is less harmful than traditional child sexual abuse material (CSAM) due to the absence of direct victimization, this perspective overlooks the various risks associated with its production and consumption. AI CSAM can lead to the creation of material involving children who have not been abused, revictimize survivors, facilitate grooming and coercion, and normalize child exploitation. Furthermore, it may lower barriers to offending, desensitize users to extreme content, and undermine protective factors for individuals with sexual interests in children.
The paper emphasizes that the perception of AI CSAM as less harmful stems from a misunderstanding of how harm manifests and the processes involved in its creation. AI CSAM is not generated in isolation; it relies on datasets that include existing CSAM and images of real children, thus perpetuating cycles of exploitation. The authors argue against the relative framing of harm, which diminishes the significance of AI CSAM by comparing it to direct abuse. Instead, they assert that harm exists on multiple dimensions, and the failure to recognize this complexity can lead to regulatory inaction. The synthesis provided in the paper serves as a resource for stakeholders in law enforcement, policy, and child protection, advocating for a clear articulation of the harms associated with AI CSAM to prompt necessary responses and counter the narratives that trivialize its impact.
Introduction
The introduction of this research paper addresses the alarming rise of generative artificial intelligence child sexual abuse material (AI CSAM), which has been facilitated by advancements in AI technologies that produce increasingly realistic synthetic images and videos. The proliferation of AI CSAM has escalated since the advent of open-source diffusion models in 2021-2022, allowing both technically skilled and unskilled individuals to misuse these tools. Reports indicate a significant increase in AI-generated explicit content, with the Internet Watch Foundation (IWF) identifying over 20,000 suspected AI-generated explicit images in a single month, a substantial portion of which were deemed illegal under UK law. Furthermore, the IWF noted a 380% increase in actionable AI CSAM reports in 2024 compared to the previous year, highlighting the urgent need for effective detection and enforcement strategies.
The paper also explores the societal and psychological implications of AI CSAM, emphasizing the perception of generative AI as an opaque technology that complicates discussions around its ethical ramifications. The authors argue against the notion that AI CSAM could serve as a harmless substitute for traditional CSAM, citing emerging evidence of its exploitative uses, including the creation of explicit images of minors and its role in financial sexual extortion. To address these concerns, the paper outlines seven tangible harms associated with AI CSAM, aiming to provide a comprehensive understanding of the technology, its psychological frameworks, and the potential risks it poses. The narrative review approach is chosen to encompass a wide range of sources, reflecting the diverse landscape of information surrounding this emerging phenomenon.
Discussion
The section discusses the emergence and implications of AI-generated Child Sexual Abuse Material (AI CSAM), which includes any sexually explicit visual depiction of a child created or altered using AI technologies such as diffusion models and Generative Adversarial Networks (GANs). Unlike traditional Child Sexual Abuse Material (CSAM), which is produced through the exploitation of real children, AI CSAM is synthetically generated but can still lead to the victimization of real minors, particularly through the use of existing CSAM in training datasets or the manipulation of images of identifiable children. The paper distinguishes between wholly synthetic AI CSAM and AI-manipulated CSAM, emphasizing the potential for harm through both forms. The discussion highlights the role of technologies like GANs and diffusion models in generating realistic imagery, while also noting the risks associated with their misuse, including the creation of explicit content that can facilitate grooming, coercion, and sexual extortion.
Theoretical frameworks such as Seto’s Motivation-Facilitation Model (MFM) and Lawless Space Theory (LST) are employed to contextualize the risks associated with AI CSAM. The MFM suggests that AI CSAM can act as both a facilitator and a situational factor in pathways to sexual offending, while LST highlights how weak governance in digital environments increases the likelihood of harmful behavior. The section concludes by outlining the known and potential harms of AI CSAM, including the erosion of inhibitions among individuals with a sexual interest in children, the normalization of child sexual exploitation, and the psychological impacts on victims. The availability of AI CSAM not only poses direct threats to children but also complicates law enforcement efforts and contributes to a broader culture of exploitation, raising significant concerns about the future of child protection in the digital age.