DOI: https://doi.org/10.1371/journal.pone.0338799
PMID: https://pubmed.ncbi.nlm.nih.gov/41671210
تاريخ النشر: 2026-02-11
المؤلف: Ahmad A. Mazhar وآخرون
الموضوع الرئيسي: كشف خطاب الكراهية والتنمر الإلكتروني
نظرة عامة
تقدم ورقة البحث إطار عمل هجين للتعلم العميق مصمم لاكتشاف التنمر الإلكتروني في مقاطع الفيديو القصيرة عبر منصات مثل إنستغرام، تيك توك، ويوتيوب شورتس. يدمج هذا الإطار الشبكات العصبية التلافيفية (CNNs) لاستخراج الميزات المكانية، وشبكات الذاكرة طويلة وقصيرة المدى ثنائية الاتجاه (BiLSTM) لتحليل الأنماط الصوتية الزمنية، ومشفر نصي قائم على المحولات لمعالجة الفيديو والصوت والتعليقات المتزامنة. يتم استخدام طبقة جديدة للتحقق من التناسق الدلالي لفرض المحاذاة عبر الأنماط، مع فرض عقوبات على الإشارات غير المتوافقة أثناء التصنيف. حقق النموذج مقاييس أداء رائدة، بما في ذلك دقة بنسبة 91.6%، ودقة بنسبة 89.7%، واسترجاع بنسبة 93.0%، ودرجة F1 بنسبة 91.3% على مجموعات البيانات المرجعية CAVD وSocialVidMix.
تؤكد الدراسة على مزايا النموذج مقارنة بالطرق السابقة التي اعتمدت على أنماط فردية أو تركيبات ميزات بسيطة، مما يبرز قدرته على ضمان اتخاذ قرارات متماسكة من خلال توافق دلالي عبر الأنماط. تظهر النتائج تعلمًا مستقرًا وتصنيفًا متوازنًا مع تقليل الإيجابيات الكاذبة، مدعومة بمنحنيات التقارب وتحليلات مصفوفة الارتباك. تشمل المساهمات النظرية للإطار تصور التناسق الدلالي كهدف تنظيم قابل للقياس، وربط تعلم التمثيل بمحاذاة النية السياقية. بينما يوازن الهيكل بين الدقة والكفاءة الحاسوبية للنشر المحتمل في الوقت الحقيقي، يجب أن تتناول الأعمال المستقبلية القيود مثل الحاجة إلى مجموعات بيانات أكثر تنوعًا وقابلية التوسع لظروف البث ذات الإنتاجية العالية. بالإضافة إلى ذلك، يمكن أن يعزز دمج التفكير الواعي بالعواطف والموجه نحو السببية قدرة النموذج على التمييز بين الفكاهة والكلام الضار.
مقدمة
تسلط مقدمة ورقة البحث هذه الضوء على التأثير التحويلي لمنصات الفيديو القصير مثل تيك توك، وإنستغرام ريلز، ويوتيوب شورتس على التفاعلات الرقمية العالمية. بينما تعزز هذه المنصات الإبداع والانخراط الاجتماعي، فإنها تسهل أيضًا التنمر الإلكتروني، الذي يظهر من خلال أنماط متعددة الأبعاد معقدة تشمل الإيماءات، والصوت، والنص. أثبتت طرق الكشف التقليدية، التي تعتمد بشكل أساسي على تصفية الكلمات الرئيسية وتحليل المشاعر، عدم كفاءتها بسبب عدم قدرتها على التقاط الطبيعة الدقيقة للتنمر المرتكز على الفيديو. تكافح نماذج التعلم العميق الحالية، سواء كانت مصنّفات بصرية قائمة على CNN أو محولات تركز على النص، مع مشكلات مثل سوء تفسير السخرية وعدم التوافق بين الأنماط، مما يؤدي إلى تقليل الدقة في الاعتدال الآلي.
لمعالجة هذه التحديات، تقترح الورقة نموذج تعلم عميق هجين يدمج الشبكات العصبية التلافيفية (CNNs)، والمشفرات القائمة على المحولات، وشبكات الذاكرة طويلة وقصيرة المدى ثنائية الاتجاه (BiLSTM). الابتكار الرئيسي هو طبقة التحقق من التناسق الدلالي، التي تستخدم قيود التشابه المعتمدة على الانتباه لضمان التماسك عبر تمثيلات الصوت والفيديو والنص. يهدف هذا النموذج إلى توحيد الدمج متعدد الأبعاد، والمحاذاة الدلالية، والكفاءة التشغيلية للاعتدال في الوقت الحقيقي. تحدد الدراسة أربعة أهداف رئيسية: تصميم هيكل متعدد الأبعاد، وتنفيذ آلية التناسق الدلالي، وتقييم الأداء على مجموعات البيانات المرجعية، والتحقق من متانة النموذج للنشر العملي. تشمل المساهمات إطار عمل جديد، واستراتيجية تحقق مدفوعة بالمحاذاة، وتقييمات شاملة، ورؤى حول الاعتدال الأخلاقي، مما يعزز في النهاية اكتشاف التنمر الإلكتروني المدفوع بالذكاء الاصطناعي في سياقات وسائل التواصل الاجتماعي الحديثة.
طرق
تحدد منهجية البحث إطار عمل هجين مصمم لاكتشاف التنمر الإلكتروني بشكل فعال في محتوى الفيديو القصير من خلال دمج مكونات التعلم المكاني والزمني والدلالي. يتم توضيح الهيكل العام للنموذج المقترح في الشكل 1، بينما توضح الجدول 2 التكوين التجريبي والمعلمات الفائقة المستخدمة في الدراسة. في قلب الإطار توجد آلية التناسق الدلالي، التي يتم تعريفها رياضيًا بواسطة المعادلات 1 و2 و3، مما يبرز أهميتها كعنصر أساسي في وظيفة النموذج.
نتائج
في قسم “النتائج”، يوضح المؤلفون الإعداد التجريبي، بما في ذلك مجموعات البيانات المستخدمة، ومقاييس التقييم، وبيئة التدريب والتحقق لإطارهم المقترح. يتم تقييم القدرة التنبؤية للنموذج من خلال تجارب عبر المنصات وتجارب الإزالة، مع تقديم التصورات المقابلة في الأشكال 3 و4 و5 و6. توفر هذه النتائج نظرة شاملة على أداء النموذج ومتانته عبر ظروف تجريبية مختلفة.
مناقشة
تسلط قسم المناقشة في ورقة البحث الضوء على تطور منهجيات اكتشاف التنمر الإلكتروني من الأساليب التقليدية المعتمدة على النصوص إلى الأنظمة المتعددة الأبعاد المتقدمة التي تدمج الإشارات اللغوية والبصرية والصوتية. كانت النماذج المبكرة، التي تعتمد بشكل أساسي على الميزات المعجمية وتحليل المشاعر، تكافح مع الفروق الدقيقة مثل السخرية والعدوان الضمني، مما أدى إلى اعتماد تقنيات التعلم العميق مثل هياكل المحولات (مثل BERT، RoBERTa) التي حسنت الفهم السياقي لكنها ظلت محدودة بالبيانات النصية. أدرك التحول نحو التعلم متعدد الأبعاد ضرورة دمج الإشارات البصرية والصوتية، ومع ذلك، واجهت التطبيقات الأولية تحديات مثل ارتفاع معدلات الإيجابيات الكاذبة وعدم التوافق الدلالي بين الأنماط.
قدمت التطورات الحديثة آليات دمج معتمدة على الانتباه ومحولات عبر الأنماط تعزز دمج البيانات متعددة الأبعاد، مما يحسن الأداء في اكتشاف أشكال اللغة المسيئة الدقيقة. ومع ذلك، غالبًا ما تتطلب هذه الأنظمة مجموعات بيانات موسعة معلمة وموارد حاسوبية كبيرة، مما يمكن أن يعيق التطبيق في الوقت الحقيقي. تؤكد الورقة على الحاجة إلى أطر عمل لا تحسن الدقة فحسب، بل تضمن أيضًا القابلية للتفسير والامتثال الأخلاقي في أنظمة الذكاء الاصطناعي. يدمج الهيكل الهجين المقترح، الذي يجمع بين نماذج CNN وBiLSTM وTransformer، طبقة تحقق من التناسق الدلالي لمعالجة التناقضات بين الأنماط، مما يحقق في النهاية أداءً متفوقًا في اكتشاف التنمر الإلكتروني عبر منصات وسائل التواصل الاجتماعي المتنوعة. يهدف هذا النهج المبتكر إلى تعزيز متانة وموثوقية أنظمة الكشف مع معالجة القيود المحددة في الأبحاث السابقة.
DOI: https://doi.org/10.1371/journal.pone.0338799
PMID: https://pubmed.ncbi.nlm.nih.gov/41671210
Publication Date: 2026-02-11
Author(s): Ahmad A. Mazhar et al.
Primary Topic: Hate Speech and Cyberbullying Detection
Overview
The research paper presents a hybrid deep-learning framework designed to detect cyberbullying in short-form videos across platforms like Instagram, TikTok, and YouTube Shorts. This framework integrates Convolutional Neural Networks (CNNs) for spatial feature extraction, Bidirectional Long Short Term Memory (BiLSTM) networks for analyzing temporal acoustic patterns, and a Transformer-based textual encoder to process synchronized video, audio, and captions. A novel semantic-consistency validation layer is employed to enforce cross-modal alignment, penalizing incongruent cues during classification. The model achieved state-of-the-art performance metrics, including an accuracy of 91.6%, precision of 89.7%, recall of 93.0%, and an F1-score of 91.3% on benchmark datasets CAVD and SocialVidMix.
The study emphasizes the model’s advantages over previous methods that relied on single modalities or simplistic feature combinations, highlighting its ability to ensure coherent decision-making through cross-modal semantic consensus. The results demonstrate stable learning and balanced classification with reduced false negatives, supported by convergence curves and confusion matrix analyses. The framework’s theoretical contributions include conceptualizing semantic consistency as a quantifiable regularization goal, linking representation learning with contextual intent alignment. While the architecture balances accuracy and computational efficiency for potential real-time deployment, future work should address limitations such as the need for more diverse datasets and scalability for high-throughput streaming conditions. Additionally, incorporating emotion-aware and causality-oriented reasoning could enhance the model’s ability to differentiate between humor and harmful speech.
Introduction
The introduction of this research paper highlights the transformative impact of short-form video platforms like TikTok, Instagram Reels, and YouTube Shorts on global digital interactions. While these platforms foster creativity and social engagement, they also facilitate cyberbullying, which manifests through complex multimodal patterns involving gestures, voice, and text. Traditional detection methods, primarily reliant on keyword filtering and sentiment analysis, have proven inadequate due to their inability to capture the nuanced nature of video-centered bullying. Existing deep-learning models, whether CNN-based visual classifiers or text-focused transformers, struggle with issues such as sarcasm misinterpretation and cross-modal inconsistencies, leading to reduced accuracy in automated moderation.
To address these challenges, the paper proposes a hybrid deep-learning model that integrates Convolutional Neural Networks (CNNs), Transformer-based encoders, and Bidirectional Long Short-Term Memory (BiLSTM) networks. A key innovation is the semantic consistency validation layer, which employs attention-based similarity constraints to ensure coherence across audio, video, and text representations. This model aims to unify multimodal fusion, semantic alignment, and operational efficiency for real-time content moderation. The study outlines four main objectives: designing a multimodal architecture, implementing a semantic-consistency mechanism, evaluating performance on benchmark datasets, and validating the model’s robustness for practical deployment. The contributions include a novel framework, an alignment-driven validation strategy, comprehensive evaluations, and insights into ethical moderation, ultimately advancing AI-driven cyberbullying detection in modern social media contexts.
Methods
The research methodology outlines a hybrid framework designed for effective cyberbullying detection in short-form video content by integrating spatial, temporal, and semantic learning components. The overall architecture of the proposed model is illustrated in Figure 1, while Table 2 details the experimental configuration and hyperparameters utilized in the study. Central to the framework is the semantic consistency mechanism, which is mathematically defined by Equations 1, 2, and 3, highlighting its significance as a core element of the model’s functionality.
Results
In the “Results” section, the authors detail the experimental setup, including the datasets utilized, assessment metrics, and the training and validation environment for their proposed framework. The predictive capability of the model is evaluated through cross-platform and ablation experiments, with corresponding visualizations presented in Figures 3, 4, 5, and 6. These findings provide a comprehensive overview of the model’s performance and its robustness across different experimental conditions.
Discussion
The discussion section of the research paper highlights the evolution of cyberbullying detection methodologies from traditional text-based approaches to advanced multimodal systems that integrate linguistic, visual, and acoustic signals. Early models, primarily reliant on lexical features and sentiment analysis, struggled with nuances such as sarcasm and implicit aggression, leading to the adoption of deep learning techniques like transformer architectures (e.g., BERT, RoBERTa) that improved contextual understanding but remained limited to textual data. The shift towards multimodal learning recognized the necessity of incorporating visual and auditory cues, yet initial implementations faced challenges such as high false-positive rates and semantic misalignment between modalities.
Recent advancements have introduced attention-based fusion mechanisms and cross-modal transformers that enhance the integration of multimodal data, improving performance in detecting nuanced forms of abusive language. However, these systems often require extensive annotated datasets and significant computational resources, which can hinder real-time application. The paper emphasizes the need for frameworks that not only improve accuracy but also ensure interpretability and ethical compliance in AI systems. The proposed hybrid architecture, which combines CNN, BiLSTM, and Transformer models, incorporates a semantic consistency validation layer to address inter-modal contradictions, ultimately achieving superior performance in cyberbullying detection across diverse social media platforms. This innovative approach aims to enhance the robustness and reliability of detection systems while addressing the limitations identified in prior research.