DOI: https://doi.org/10.54501/jots.v3i2.251
تاريخ النشر: 2026-03-23
المؤلف: Fatmaelzahraa Eltaher وآخرون
الموضوع الرئيسي: كشف خطاب الكراهية والتنمر الإلكتروني
نظرة عامة
تدرس هذه الدراسة فعالية سياسات تعديل المحتوى على منصات مشاركة الفيديو – تحديدًا تيك توك ويوتيوب وإنستغرام – في حماية القُصّر من مقاطع الفيديو الضارة. من خلال إنشاء حسابات مستخدمين محاكاة لعمر 13 و18 عامًا وتحليل 3000 فيديو موصى به عبر وضعين للتفاعل (التمرير السلبي والبحث القائم على التمرير)، تكشف الأبحاث أن المستخدمين الأصغر سنًا يواجهون محتوى ضارًا بشكل أكثر تكرارًا وسرعة. على سبيل المثال، تم تصنيف 15% من مقاطع الفيديو الموصى بها للأطفال بعمر 13 عامًا أثناء التمرير السلبي على أنها ضارة، مقارنة بـ 8.17% للبالغين، مع حدوث التعرض في متوسط 3:06 دقائق. تسلط النتائج الضوء على الفجوات الكبيرة في تصفية الخوارزميات وتعديل المحتوى، خاصة فيما يتعلق بمقاطع الفيديو الضارة ذات الشدة المنخفضة، والتي قد تُعزز المواد الضارة للجماهير الأصغر سنًا.
تخلص الدراسة إلى أن ممارسات التعديل الحالية غير كافية، مما يستدعي تصفية خاصة بالعمر وتطبيق أكثر صرامة لإرشادات المجتمع لحماية القُصّر. تؤكد على الحاجة إلى إشراف تنظيمي أقوى وتحول في أولويات المنصات من مقاييس التفاعل إلى معايير تعديل صارمة للقُصّر. تشمل اتجاهات البحث المستقبلية توسيع نطاق الدراسة، وتقييم فعالية تحسينات التعديل بمرور الوقت، واستكشاف التدخلات التعليمية لمساعدة القُصّر على التعرف على المخاطر عبر الإنترنت. بالإضافة إلى ذلك، يمكن أن يُعزز إشراك المستخدمين الشباب في تصنيف المحتوى دقة تقييمات الضرر، بينما يبقى التحقيق في تأثير المحتوى الضار ذو الشدة المنخفضة على التبلد منطقة حيوية لمزيد من الاستكشاف. بشكل عام، تؤكد الدراسة على ضرورة إنشاء بيئة رقمية أكثر أمانًا للأطفال والمراهقين.
مقدمة
تسلط مقدمة هذه الورقة البحثية الضوء على التأثير التحويلي لوسائل التواصل الاجتماعي على التواصل ومشاركة المحتوى، مشيرة إلى أنه من المتوقع أن يتفاعل أكثر من 5 مليارات مستخدم مع هذه المنصات بحلول عام 2028. تؤكد على انتشار وسائل التواصل الاجتماعي بين الفئات العمرية الأصغر، مع معدلات مشاركة كبيرة بين المراهقين والأطفال في كل من إنجلترا والولايات المتحدة. أدى ارتفاع محتوى الفيديو القصير، خاصة من خلال منصات مثل تيك توك، وإنستغرام ريلز، ويوتيوب شورتس، إلى تحويل تفاعل المستخدمين نحو تنسيقات أكثر جاذبية بصريًا وسهولة في الاستهلاك، مما يثير القلق بشأن تعرض القُصّر لمحتوى ضار.
تناقش الورقة التحديات المتعلقة بتعديل المحتوى على وسائل التواصل الاجتماعي، خاصة الاعتماد على الخوارزميات لتوصيات المحتوى الشخصية، والتي يمكن أن تعزز بشكل غير مقصود المواد الضارة. على الرغم من تنفيذ استراتيجيات تعديل متنوعة – بما في ذلك التطوعية والتجارية والمستندة إلى الذكاء الاصطناعي – تشير الأدلة إلى أن الأطفال يواجهون محتوى غير مناسب بشكل متكرر. تهدف الدراسة إلى تقييم فعالية كيفية تعديل منصات مشاركة الفيديو الكبرى للمحتوى الضار للمستخدمين من أعمار مختلفة بشكل تجريبي. من خلال تصميم تجريبي محكم، تكشف الأبحاث أن الحسابات التي تحاكي الأطفال بعمر 13 عامًا تتعرض لمحتوى ضار بشكل أكثر تكرارًا وسرعة من الحسابات البالغة، مما يشير إلى أن آليات التعديل الحالية غير كافية لحماية المستخدمين الأصغر سنًا. تؤكد النتائج على ضرورة تحسين الحماية الخاصة بالعمر ضمن أنظمة توصية الفيديو لتعزيز سلامة القُصّر عبر الإنترنت.
طرق البحث
تدرس الدراسة فعالية أنظمة تعديل المحتوى على منصات مشاركة الفيديو على وسائل التواصل الاجتماعي في حماية القُصّر من المحتوى الضار. تهدف الأبحاث إلى مقارنة فعالية التعديل للقُصّر والبالغين، وتحليل السرعة التي يظهر بها المحتوى الضار بناءً على أنماط تفاعل المستخدم (التمرير السلبي مقابل البحث الصريح)، وتقييم التوافق بين إرشادات المجتمع والممارسات الفعلية للتنفيذ. تم استخدام منهجية تصنيف متعددة المستويات، حيث شارك أربعة باحثين في وضع علامات على مقاطع الفيديو تحت ظروف موحدة، مما يضمن موثوقية بين المعلقين من خلال عملية مراجعة هرمية. تم تصنيف مقاطع الفيديو على أنها غير ضارة أو ضارة، مع تصنيف الأخيرة بشكل إضافي حسب الشدة (منخفض، متوسط، عالي) بناءً على الوضوح والنوايا. تعترف الدراسة أيضًا بالطبيعة الذاتية لتقييم الضرر، المتأثرة بالعوامل الثقافية والفردية، وتؤكد على أهمية وجود إطار موحد لتصنيف المحتوى للتخفيف من الذاتية.
كانت الاعتبارات الأخلاقية ذات أهمية قصوى، خاصة فيما يتعلق بإنشاء ملفات تعريف مزيفة للقُصّر لجمع البيانات. بينما تثير هذه الطريقة مخاوف بشأن الخداع والانتهاكات المحتملة لشروط المنصة، يجادل الباحثون بأن الضرر الطفيف للمنصة يتضاءل أمام الفوائد الكبيرة لفهم خوارزميات توصية المحتوى وتعزيز حماية القُصّر عبر الإنترنت. تشير الدراسة أيضًا إلى استبعاد المحتوى غير الإنجليزي للحفاظ على الاتساق في التقييم، على الرغم من خطر حذف مواد ضارة محتملة بلغات أخرى. من المهم أن نلاحظ أن البحث لم يواجه أي مواد اعتداء جنسي على الأطفال (CSAM)، وأي محتوى من هذا القبيل كان سيتم الإبلاغ عنه واستبعاده من مجموعة البيانات.
النتائج
تشير نتائج الدراسة إلى أن العمر، ووضع التفاعل، وسياسات المنصة تؤثر بشكل كبير على تعرض المستخدمين للمحتوى الضار على وسائل التواصل الاجتماعي. تكشف تحليل شامل لنقاط البيانات المختلفة – بما في ذلك معدلات التعرض العامة، وتصنيفات شدة مقاطع الفيديو الضارة، والوقت المستغرق لمواجهة أول فيديو ضار – عن اختلافات ملحوظة في أنماط التعرض بين المستخدمين بعمر 13 عامًا و18 عامًا. بشكل محدد، تسلط النتائج الضوء على أن المستخدمين الأصغر سنًا أكثر عرضة للمحتوى الضار، مما يستدعي تنفيذ استراتيجيات تعديل خاصة بالعمر للتخفيف من هذه المخاطر.
توضح البيانات أيضًا أن سلوك المستخدم، مثل التمرير السلبي مقابل البحث النشط، يؤثر أيضًا على مستويات التعرض. على سبيل المثال، اختلفت نسبة مقاطع الفيديو الضارة التي تم مواجهتها عبر منصات مثل تيك توك ويوتيوب وإنستغرام، مع ملاحظات مميزة لكلا الفئتين العمرية. تؤكد هذه النتائج على أهمية تخصيص نهج تعديل المحتوى لأخذ مستويات المخاطر المختلفة المرتبطة بالفئات العمرية المختلفة وأنماط التفاعل في الاعتبار.
المناقشة
تسلط قسم المناقشة في الورقة البحثية الضوء على النتائج المهمة المتعلقة بحدود تعديل المحتوى على منصات وسائل التواصل الاجتماعي، خاصة فيما يتعلق بحماية القُصّر من المحتوى الضار. تشير الدراسات التجريبية إلى أن ممارسات التعديل الحالية غير كافية، كما يتضح من الحجم الكبير لمقاطع الفيديو الضارة التي تمت إزالتها من منصات مثل تيك توك ويوتيوب. على سبيل المثال، أزال تيك توك أكثر من 153 مليون فيديو بسبب انتهاكات السياسة في فترة زمنية قصيرة، ومع ذلك لا يزال الأطفال يواجهون مواد ضارة من خلال التعرض السلبي والمشاركة النشطة. تظهر الأبحاث أن الخوارزميات على هذه المنصات يمكن أن تعزز المحتوى الضار، مع الكشف عن معدلات مثيرة للقلق من التعرض لمحتوى ضار يتعلق بالتحيز ضد النساء والصحة النفسية بين الحسابات المحاكية للقُصّر. تؤكد النتائج على الحاجة الملحة لاستراتيجيات تعديل أكثر فعالية تدمج التكنولوجيا مع المساءلة للتخفيف من المخاطر عبر الإنترنت.
تناقش الورقة أيضًا الأطر القانونية المتطورة في الولايات المتحدة والاتحاد الأوروبي والمملكة المتحدة التي تهدف إلى تنظيم ممارسات تعديل المحتوى. بينما تعتمد الولايات المتحدة بشكل كبير على القسم 230 من قانون آداب الاتصالات، الذي يمنح المنصات استقلالية كبيرة، تسعى مقترحات تشريعية حديثة مثل قانون سلامة الأطفال عبر الإنترنت (KOSA) إلى تعزيز الحماية للقُصّر. في المقابل، يفرض قانون الخدمات الرقمية في الاتحاد الأوروبي وقانون السلامة عبر الإنترنت في المملكة المتحدة التزامات أكثر صرامة على المنصات لضمان سلامة المستخدمين وشفافية ممارسات التعديل. على الرغم من هذه التقدمات، تحدد الأبحاث الفجوات في اللوائح الحالية، خاصة فيما يتعلق بالإدارة الخوارزمية للمحتوى الضار، مما يشير إلى أن الجهود المستقبلية يجب أن تركز على معالجة تعزيز هذا المحتوى لحماية المستخدمين الضعفاء بشكل فعال.
DOI: https://doi.org/10.54501/jots.v3i2.251
Publication Date: 2026-03-23
Author(s): Fatmaelzahraa Eltaher et al.
Primary Topic: Hate Speech and Cyberbullying Detection
Overview
This study investigates the effectiveness of content moderation policies on video-sharing platforms—specifically TikTok, YouTube, and Instagram—in protecting minors from harmful videos. By creating simulated user accounts for 13- and 18-year-olds and analyzing 3,000 recommended videos across two interaction modes (passive scrolling and search-based scrolling), the research reveals that younger users encounter harmful content more frequently and rapidly. For instance, 15% of videos recommended to 13-year-olds during passive scrolling were classified as harmful, compared to 8.17% for adults, with exposure occurring within an average of 3:06 minutes. The findings highlight significant gaps in algorithmic filtering and content moderation, particularly concerning low-severity harmful videos, which may normalize harmful material for younger audiences.
The study concludes that current moderation practices are insufficient, necessitating age-specific filtering and stricter enforcement of community guidelines to safeguard minors. It emphasizes the need for stronger regulatory oversight and a shift in platform priorities from engagement metrics to stringent moderation standards for minors. Future research directions include expanding the study’s scale, evaluating the effectiveness of moderation improvements over time, and exploring educational interventions to help minors recognize online risks. Additionally, involving young users in content classification could enhance the accuracy of harm assessments, while investigating the impact of low-severity harmful content on desensitization remains a critical area for further exploration. Overall, the study underscores the urgency of creating a safer digital environment for children and adolescents.
Introduction
The introduction of this research paper highlights the transformative impact of social media on communication and content sharing, noting that over 5 billion users are projected to engage with these platforms by 2028. It emphasizes the prevalence of social media among younger demographics, with significant participation rates among teenagers and children in both England and the United States. The rise of short-form video content, particularly through platforms like TikTok, Instagram Reels, and YouTube Shorts, has shifted user engagement towards more visually appealing and easily consumable formats, raising concerns about the exposure of minors to harmful content.
The paper discusses the challenges of content moderation on social media, particularly the reliance on algorithms for personalized content recommendations, which can inadvertently amplify harmful material. Despite the implementation of various moderation strategies—including volunteer, commercial, and AI-driven approaches—evidence suggests that children frequently encounter inappropriate content. The study aims to empirically evaluate how effectively major video-sharing platforms moderate harmful content for users of different ages. Through a controlled experimental design, the research reveals that accounts simulating 13-year-olds are exposed to harmful content more frequently and rapidly than adult accounts, indicating that existing moderation mechanisms are insufficient to protect younger users. The findings underscore the necessity for improved age-specific safeguards within video recommendation systems to enhance the safety of minors online.
Methods
The study investigates the effectiveness of content moderation systems on social media video-sharing platforms in protecting minors from harmful content. The research aims to compare moderation efficacy for minors and adults, analyze the speed at which harmful content appears based on user interaction styles (passive scrolling versus explicit searching), and evaluate the alignment between community guidelines and actual enforcement practices. A multi-tiered labeling methodology was employed, involving four researchers who annotated videos under standardized conditions, ensuring inter-annotator reliability through a hierarchical review process. Videos were classified as Not Harmful or Harmful, with the latter further categorized by severity (Low, Medium, High) based on explicitness and intent. The study also acknowledges the subjective nature of harm assessment, influenced by cultural and individual factors, and emphasizes the importance of a unified framework for content classification to mitigate subjectivity.
Ethical considerations were paramount, particularly regarding the creation of fake minor profiles to gather data. While this approach raises concerns about deception and potential violations of platform terms, the researchers argue that the minimal harm to the platform is outweighed by the significant benefits of understanding content recommendation algorithms and enhancing minor protection online. The study also notes the exclusion of non-English content to maintain consistency in evaluation, despite the risk of omitting potentially harmful material in other languages. Importantly, the research did not encounter any child sexual abuse material (CSAM), and any such content would have been reported and excluded from the dataset.
Results
The results of the study indicate that age, interaction mode, and platform policies significantly influence users’ exposure to harmful content on social media. A comprehensive analysis of various data points—including overall exposure rates, severity ratings of harmful videos, and the time taken to encounter the first harmful video—reveals notable differences in exposure patterns between 13-year-old and 18-year-old users. Specifically, the findings highlight that younger users are more susceptible to harmful content, necessitating the implementation of age-specific moderation strategies to mitigate these risks.
The data further illustrates that user behavior, such as passive scrolling versus active searching, also affects exposure levels. For instance, the percentage of harmful videos encountered varied across platforms like TikTok, YouTube, and Instagram, with distinct trends observed for both age groups. These results underscore the importance of tailoring content moderation approaches to account for the varying levels of risk associated with different user demographics and interaction styles.
Discussion
The discussion section of the research paper highlights significant findings regarding the limitations of content moderation on social media platforms, particularly concerning the protection of minors from harmful content. Empirical studies indicate that existing moderation practices are inadequate, as evidenced by the high volume of harmful videos removed from platforms like TikTok and YouTube. For instance, TikTok removed over 153 million videos for policy violations in a short period, yet children still encounter harmful material through both passive exposure and active engagement. Research demonstrates that algorithms on these platforms can amplify damaging content, with studies revealing alarming rates of exposure to misogynistic and mental health-related harmful content among simulated underage accounts. The findings underscore the urgent need for more effective moderation strategies that integrate technology with accountability to mitigate online risks.
The paper also discusses the evolving legal frameworks in the United States, European Union, and United Kingdom aimed at regulating content moderation practices. While the U.S. relies heavily on Section 230 of the Communications Decency Act, which grants platforms significant autonomy, recent legislative proposals like the Kids Online Safety Act (KOSA) seek to enhance protections for minors. In contrast, the EU’s Digital Services Act and the UK’s Online Safety Act impose stricter obligations on platforms to ensure user safety and transparency in moderation practices. Despite these advancements, the research identifies gaps in current regulations, particularly regarding algorithmic management of harmful content, suggesting that future efforts must focus on addressing the amplification of such content to effectively safeguard vulnerable users.