دمج الميزات الموجهة بالانتباه في الفضاء والزمان للكشف عن الشذوذ في مراقبة الفيديو Attention-guided saptio-temporal feature fusion for robus video surveillance anomaly detection

شارك:
المجلة: Scientific Reports، المجلد: 16، العدد: 1
DOI: https://doi.org/10.1038/s41598-026-36130-z
PMID: https://pubmed.ncbi.nlm.nih.gov/41667561
تاريخ النشر: 2026-02-10
المؤلف: S. Deepa Nivethika وآخرون
الموضوع الرئيسي: طرق المراقبة بالفيديو والتتبع

نظرة عامة

تتركز الأبحاث على تعزيز الكشف الديناميكي عن الأجسام وتتبعها لأنظمة المراقبة بالفيديو الذكية، وخاصة للكشف عن السرقة في البيئات المعقدة. تعتمد الطرق التقليدية غالبًا على التحليلات المكانية أو الزمنية فقط، مما يؤدي إلى مشاكل مثل عدم الاتساق الزمني والحساسية لعدم توازن البيانات. تقيم الدراسة نماذج أساسية، بما في ذلك إطار عمل EfficientNetV2B0-HOG ونموذج قائم على ConvLSTM، والتي تحقق درجات F1 ملحوظة ولكنها تظهر قيودًا. للتغلب على هذه التحديات، يقترح المؤلفون إطار عمل هجين زمني مكاني جديد، HybridModel-1، والذي يدمج وحدة دمج الميزات التكيفية (AFFM) وخسارة إعادة وزن الثقة الزمنية (TCR-Loss). يحسن هذا النموذج بشكل كبير من دقة الكشف، حيث يحقق دقة 87.6%، و95.6% دقة، و0.96 ROC-AUC على مجموعات البيانات المرجعية مثل UCF-Crime وShanghaiTech.

تشير النتائج إلى أن HybridModel-1 يعالج بشكل فعال أوجه القصور في المنهجيات الحالية من خلال تعزيز الاتساق الزمني وتقليل الإيجابيات الكاذبة في المشاهد المزدحمة. بينما يظهر الإطار تحسينات كبيرة في الكشف عن الشذوذ، فإنه يقدم أيضًا تحديات، مثل معدلات أخذ العينات الثابتة والإمكانات المحتملة لتدهور الأداء في ظروف الإضاءة المنخفضة. تشمل اتجاهات البحث المستقبلية استكشاف أنماط إضافية، ونمذجة زمنية قائمة على المحولات، وتحسين الإطار للنشر على الحافة. بشكل عام، تسهم هذه الدراسة بإطار عمل كشف زمني مكاني قوي وقابل للتكيف يعزز موثوقية الكشف عن الشذوذ في تطبيقات المراقبة في العالم الحقيقي.

مقدمة

في مقدمة هذه الورقة البحثية، يبرز المؤلفون الأهمية المتزايدة للكشف الديناميكي عن الأجسام وتتبعها في أنظمة المراقبة الحديثة، خاصة استجابةً للاحتياج المتزايد للسلامة العامة في البيئات الحضرية والتجارية. تعتبر الطرق التقليدية، التي تعتمد على المراقبة البشرية المستمرة، غير فعالة وعرضة للأخطاء، مما يستدعي تطوير أنظمة تحليل فيديو آلية قادرة على تحديد الأنشطة المشبوهة في الوقت الحقيقي. تؤكد الورقة على الطبيعة الحرجة للكشف عن السرقة في البيئات العامة والتجارية، والتي تتطلب أنظمة لتحديد مواقع الأجسام بدقة وتفسير أنماط الحركة داخل المشاهد الديناميكية.

يناقش المؤلفون التقدمات الأخيرة في تعلم الآلة والتعلم العميق، وخاصة استخدام الشبكات العصبية التلافيفية والهياكل المتكررة، التي عززت قدرات أنظمة المراقبة. ومع ذلك، لا تزال الأساليب الحالية تواجه تحديات مثل التعميم عبر بيئات متنوعة، والتعامل مع الحجب، وتقليل الإيجابيات الكاذبة في المشاهد المعقدة. تقدم الورقة نهجين هجينين للكشف عن السرقة: أحدهما يستخدم EfficientNetV2B0 مع ميزات هيستوغرام التدرجات الموجهة (HOG)، والآخر يستخدم شبكة ذاكرة طويلة وقصيرة المدى تلافيفية (ConvLSTM) لتحسين الوعي الزمني. بناءً على هذه النماذج، يقترح المؤلفون HybridModel-1، وهو إطار زمني مكاني يدمج هيكل ResNet-50 مع YOLO-v4، بهدف تعزيز قوة الكشف عبر سيناريوهات الجريمة المختلفة. تختتم الورقة بتحديد اتجاهات البحث المستقبلية، بما في ذلك دمج المعلومات متعددة الأنماط وتطوير نماذج فعالة للاستدلال في الوقت الحقيقي، لتحسين الكشف عن الشذوذ في البيئات المعقدة للمراقبة.

طرق

توضح المنهجية الموضحة في هذا القسم إطار عمل شامل للكشف الديناميكي عن الأجسام، والتتبع، وتحليل الشذوذ في مقاطع الفيديو المراقبة. تتطور من نماذج هجينة راسخة، culminating في تقديم HybridModel-1 المقترح. يحتفظ هذا النموذج بالاستمرارية مع الأساليب السابقة بينما يدمج ابتكارات محددة تهدف إلى التغلب على القيود المحددة. يشير القسم إلى أشكال مختلفة توضح سير العمل الحالي والتصاميم المعمارية، مما يوفر سياقًا بصريًا للتقدمات المنهجية التي تم مناقشتها.

مناقشة

تسلط قسم المناقشة في الورقة البحثية الضوء على الفجوات الكبيرة في أنظمة المراقبة الحالية التي تستخدم التعلم العميق للكشف عن الأجسام والنمذجة الزمنية. تعتمد الطرق الحالية بشكل أساسي على إما كاشفات على مستوى الإطار أو نماذج تسلسلية تدمج بشكل غير كافٍ الإشارات المكانية والزمنية، مما يؤدي إلى مشاكل مثل تكرار الميزات، وتنبؤات غير مستقرة، ومعدلات إيجابية كاذبة عالية في مقاطع الفيديو المراقبة المعقدة وغير المعدلة. يقدم الإطار الزمني المكاني المقترح للرقابة ابتكارات رئيسية: وحدة دمج الميزات التكيفية (AFFM)، التي تعيد وزن وتدمج ديناميكيًا الميزات الدلالية وميزات الكشف لتعزيز صلة الحركة مع تقليل الضوضاء الخلفية، وخسارة إعادة وزن الثقة الزمنية (TCR-Loss)، التي تعاقب عدم الاتساق في ثقة الكشف عبر الإطارات لضمان الاستقرار الزمني.

يعالج HybridModel-1 المقترح بشكل فعال قيود الأطر الهجينة التقليدية من خلال دمج دمج الميزات التكيفية والتماسك الزمني ضمن بنية كشف موحدة. لا يحسن هذا النهج فقط من القوة في الكشف عن الشذوذ في سيناريوهات المراقبة في العالم الحقيقي، بل يحافظ أيضًا على الكفاءة الحسابية، مما يجعله مناسبًا للتطبيقات في الوقت الحقيقي. تؤكد الدراسة على أهمية التقييم المنهجي من خلال دراسات إلغاء شاملة والتحقق عبر مجموعات البيانات، مما يظهر في النهاية أن الإطار المقترح يعزز بشكل كبير الأداء في الكشف عن الأنشطة غير الطبيعية بينما يتغلب على التحديات المتعلقة بتكلفة الحساب وعدم توازن البيانات.

القيود

تعتمد المنهجية المقدمة في هذا البحث على عدة افتراضات رئيسية، لا سيما معدلات أخذ العينات الثابتة للإطارات ووجهات نظر الكاميرا المتسقة طوال عملية التدريب. على الرغم من أن دمج الدمج التكيفي يعزز من قوة النظام، من المهم ملاحظة أن الأداء قد يتأثر في السيناريوهات التي تتضمن حجبًا شديدًا أو ظروف إضاءة منخفضة. علاوة على ذلك، تتطلب المكونات القائمة على ConvLSTM المستخدمة في الإطار أطوال تسلسل ثابتة، مما قد يقيد قدرة النموذج على التكيف عند معالجة تسلسلات فيديو طويلة جدًا. يجب أخذ هذه القيود في الاعتبار عند تقييم قابلية التطبيق وفعالية النهج المقترح في بيئات العالم الحقيقي المتنوعة.

Journal: Scientific Reports, Volume: 16, Issue: 1
DOI: https://doi.org/10.1038/s41598-026-36130-z
PMID: https://pubmed.ncbi.nlm.nih.gov/41667561
Publication Date: 2026-02-10
Author(s): S. Deepa Nivethika et al.
Primary Topic: Video Surveillance and Tracking Methods

Overview

The research focuses on enhancing dynamic object detection and tracking for intelligent video surveillance systems, particularly for theft detection in complex environments. Traditional methods often rely solely on spatial or temporal analyses, leading to issues such as temporal inconsistency and sensitivity to data imbalance. The study evaluates baseline models, including an EfficientNetV2B0-HOG framework and a ConvLSTM-based model, which achieve notable F1-scores but exhibit limitations. To overcome these challenges, the authors propose a novel spatio-temporal hybrid framework, HybridModel-1, which integrates an Adaptive Feature Fusion Module (AFFM) and a Temporal Confidence Reweighting Loss (TCR-Loss). This model significantly improves detection accuracy, achieving 87.6% accuracy, 95.6% precision, and 0.96 ROC-AUC on benchmark datasets like UCF-Crime and ShanghaiTech.

The findings indicate that HybridModel-1 effectively addresses the shortcomings of existing methodologies by enhancing temporal consistency and reducing false positives in cluttered scenes. While the framework demonstrates substantial improvements in anomaly detection, it also presents challenges, such as fixed frame sampling rates and potential performance degradation under low-light conditions. Future research directions include exploring additional modalities, transformer-based temporal modeling, and optimizing the framework for edge deployment. Overall, this study contributes a robust and adaptable spatio-temporal detection framework that enhances the reliability of anomaly detection in real-world surveillance applications.

Introduction

In the introduction of this research paper, the authors highlight the increasing importance of dynamic object detection and tracking in modern surveillance systems, particularly in response to the rising need for public safety in urban and commercial settings. Traditional methods, which rely on continuous human monitoring, are inefficient and prone to errors, necessitating the development of automated video analysis systems capable of identifying suspicious activities in real time. The paper emphasizes the critical nature of theft detection in public and retail environments, which requires systems to accurately localize objects and interpret motion patterns within dynamic scenes.

The authors discuss recent advancements in machine learning and deep learning, particularly the use of convolutional neural networks and recurrent architectures, which have enhanced the capabilities of surveillance systems. However, existing approaches still face challenges such as generalization across diverse environments, handling occlusions, and minimizing false positives in complex scenes. The paper introduces two hybrid approaches for theft detection: one utilizing EfficientNetV2B0 with Histogram of Oriented Gradients (HOG) features, and the other employing a Convolutional Long Short-Term Memory (ConvLSTM) network for improved temporal awareness. Building on these models, the authors propose HybridModel-1, a spatio-temporal framework that integrates a ResNet-50 backbone with YOLO-v4, aiming to enhance detection robustness across various crime scenarios. The paper concludes by outlining future research directions, including the incorporation of multi-modal information and the development of efficient models for real-time inference, to further improve anomaly detection in complex surveillance environments.

Methods

The methodology outlined in this section details a comprehensive framework for dynamic object detection, tracking, and anomaly analysis in surveillance videos. It evolves from established hybrid models, culminating in the introduction of the proposed HybridModel-1. This model retains continuity with previous approaches while integrating specific innovations aimed at overcoming identified limitations. The section references various figures that illustrate the existing workflows and architectural designs, providing a visual context for the methodological advancements discussed.

Discussion

The discussion section of the research paper highlights significant gaps in current surveillance systems that utilize deep learning for object detection and temporal modeling. Existing methods primarily rely on either frame-level detectors or sequential models that inadequately integrate spatial and temporal cues, leading to issues such as feature redundancy, unstable predictions, and high false-positive rates in complex, unedited surveillance videos. The proposed structured spatio-temporal surveillance framework introduces two key innovations: the Adaptive Feature Fusion Module (AFFM), which dynamically reweights and integrates semantic and detection features to enhance motion relevance while minimizing background noise, and the Temporal Confidence Reweighting Loss (TCR-Loss), which penalizes inconsistencies in detection confidence across frames to ensure temporal stability.

The proposed HybridModel-1 effectively addresses the limitations of traditional hybrid frameworks by incorporating adaptive feature fusion and temporal coherence within a unified detection architecture. This approach not only improves robustness in detecting anomalies in real-world surveillance scenarios but also maintains computational efficiency, making it suitable for real-time applications. The study emphasizes the importance of systematic evaluation through extensive ablation studies and cross-dataset validation, ultimately demonstrating that the proposed framework significantly enhances performance in detecting abnormal activities while overcoming challenges related to computational cost and data imbalance.

Limitations

The methodology presented in this research relies on several key assumptions, notably fixed frame sampling rates and consistent camera viewpoints throughout the training process. Although the incorporation of adaptive fusion enhances the system’s robustness, it is important to note that performance may suffer in scenarios involving extreme occlusion or low-light conditions. Furthermore, the ConvLSTM-based components utilized in the framework necessitate fixed sequence lengths, which could restrict the model’s adaptability when processing very long video sequences. These limitations should be considered when evaluating the applicability and effectiveness of the proposed approach in diverse real-world settings.