DOI: https://doi.org/10.1016/j.knosys.2024.111637
تاريخ النشر: 2024-03-16
المؤلف: Qinyao Luo وآخرون
الموضوع الرئيسي: تقنيات توقع وإدارة المرور
نظرة عامة
تقدم ورقة البحث إطار عمل جديد يسمى شبكة المحولات القائمة على المدى الطويل والقصير (LSTTN) تهدف إلى تعزيز توقع تدفق المرور من خلال دمج الميزات طويلة الأجل وقصيرة الأجل بفعالية من بيانات المرور التاريخية. تقتصر الشبكات العصبية الرسومية الزمانية المكانية التقليدية (STGNNs) في قدرتها على استخدام البيانات بعيدة المدى بسبب القيود الهيكلية، مما يعيق أدائها في التقاط الاتجاهات المعقدة لأنماط المرور والدورات. يعالج إطار عمل LSTTN هذه القيود من خلال استخدام محول فرعي مقنع لتعلم التمثيلات الزمنية المضغوطة، تليها استخراج الاتجاهات طويلة الأجل باستخدام طبقات الالتفاف المتوسعة 1D المكدسة وميزات دورية من خلال طبقات الالتفاف الرسومية الديناميكية. بالإضافة إلى ذلك، يتم دمج مستخرج الاتجاهات قصيرة الأجل لتحسين التوقعات قصيرة الأجل. تظهر النتائج التجريبية أن LSTTN يتفوق بشكل كبير على النماذج الأساسية، محققًا تحسينات تتراوح بين 5.63% إلى 16.78% في التوقعات لمدة 60 دقيقة عبر أربعة مجموعات بيانات من العالم الحقيقي.
في الختام، يبرز المؤلفون توافق LSTTN مع نماذج STGNN الحالية، مما يجعله مكونًا متعدد الاستخدامات للتطبيقات العملية. بينما يظهر الإطار وعدًا في تعزيز دقة التوقع من خلال الاستفادة من الاتجاهات طويلة الأجل والدورية، يعترف المؤلفون بعدة مجالات للبحث المستقبلي. تشمل هذه معالجة زيادة وقت التدريب ومتطلبات المعلمات لـ LSTTN مقارنة بالنماذج التقليدية، واستكشاف تصاميم بديلة لوحدات استخراج الميزات المختلفة، وتحسين سهولة استخدام النموذج وقابليته للتفسير بشكل عام. تؤكد النتائج على أهمية دمج ميزات زمنية متنوعة لتوقعات مرور فعالة، بينما تشير أيضًا إلى الحاجة لمزيد من التحسين والاعتبارات العملية في نشر إطار عمل LSTTN.
مقدمة
تسلط مقدمة الورقة الضوء على الدور الحاسم لأنظمة النقل الذكية (ITS) في البيئات الحضرية، مع التركيز بشكل خاص على توقع تدفق المرور كعنصر رئيسي. تعتبر التوقعات الدقيقة للمرور ضرورية للتخطيط الفعال للطرق وإدارة المرور، ومع ذلك، تكافح طرق التوقع التقليدية مثل ARIMA وVAR مع التعقيدات المكانية والزمانية الموجودة في بيانات المرور في العالم الحقيقي. غالبًا ما تفشل هذه الطرق في التقاط العلاقات غير الخطية والديناميات المكانية لشبكات المرور، مما يؤدي إلى دقة توقع غير مثالية.
استجابةً لهذه التحديات، تقدم الورقة إطار عمل جديد لتوقع تدفق المرور يسمى LSTTN (شبكة المحولات القائمة على المدى الطويل والقصير)، والذي يدمج كل من الميزات الزمنية طويلة الأجل وقصيرة الأجل. يستفيد هذا الإطار من تقنيات التعلم العميق، وخاصة الشبكات العصبية الرسومية (GNNs) والمحولات، لنمذجة الاعتماديات المعقدة في بيانات المرور بشكل فعال. تم تصميم نموذج LSTTN لاستخراج التمثيلات الزمنية الرئيسية من السلاسل التاريخية الطويلة مع معالجة قضايا التكرار وعدم الكفاءة في إدخال البيانات. تظهر التقييمات التجريبية أن LSTTN يتفوق على النماذج الأساسية عبر آفاق توقع مختلفة، مما يبرز قوته في مواجهة البيانات المفقودة والتغيرات المفاجئة. تختتم الورقة بمخطط منظم للأقسام التالية، بما في ذلك مراجعة للطرق الحالية، ووصف مفصل للإطار المقترح، وتقييم لأدائه.
طرق
توضح هذه القسم المنهجيات المستخدمة في توقع تدفق المرور، مميزة بين الطرق الإحصائية التقليدية والنهج الحديثة القائمة على الشبكات العصبية الرسومية الزمانية المكانية (STGNN). استخدمت تقنيات التوقع المبكر، مثل المتوسط التاريخي (HA)، ARIMA، وتصفية كالمان، مبادئ إحصائية بشكل أساسي، وغالبًا ما تتجاهل التفاعلات المكانية المعقدة الموجودة في شبكات المرور. بالمقابل، تستفيد STGNNs من الشبكات العصبية لنمذجة كل من الاعتماديات المكانية والزمانية، محققة أداءً متفوقًا من خلال معالجة قيود الطرق السابقة. يمكن تصنيف هذه النماذج إلى STGNNs القائمة على RNN، وSTGNNs القائمة على CNN، وSTGNNs القائمة على المحولات، كل منها يستخدم استراتيجيات مختلفة لالتقاط الديناميات الزمنية والعلاقات المكانية في بيانات المرور.
تتفصل قسم المنهجية أيضًا في إعداد التجارب، بما في ذلك مقاييس التقييم مثل الجذر التربيعي لمتوسط الخطأ (RMSE)، ومتوسط الخطأ المطلق (MAE)، ومتوسط الخطأ النسبي المطلق (MAPE) لتقييم أداء النموذج. تم إجراء التجارب على منصة لينكس مع تكوينات الأجهزة المحددة، باستخدام تسلسل إدخال لمدة أسبوعين للتدريب. تم ضبط المعلمات الفائقة بعناية، مع تنفيذ نموذج STGNN الذي هو Graph WaveNet. يبرز القسم أهمية التقاط الاتجاهات طويلة الأجل والدورية في بيانات المرور، وهو أمر حاسم لتعزيز دقة التوقع.
نقاش
في هذا القسم، يناقش المؤلفون إطار عمل LSTTN (شبكة المرور على المدى الطويل والقصير) لتوقع تدفق المرور، مع التأكيد على نهجه المبتكر في الاستفادة من كل من البيانات التاريخية طويلة الأجل وقصيرة الأجل. تم هيكلة الإطار لاستخراج ميزات زمنية متنوعة من خلال وحدات متخصصة: مستخرج الاتجاهات طويلة الأجل، مستخرج الدورية، ومستخرج الاتجاهات قصيرة الأجل. يستخدم مستخرج الاتجاهات طويلة الأجل طبقات الالتفاف المتوسعة 1D المكدسة لالتقاط أنماط تدفق المرور المعقدة بكفاءة على مدى فترات طويلة، بينما يحدد مستخرج الدورية أنماط المرور اليومية والأسبوعية باستخدام وحدة الالتفاف الرسومية المعتمدة على الفضاء. يستخدم مستخرج الاتجاهات قصيرة الأجل الشبكات العصبية الرسومية الزمانية المكانية (STGNNs) لتحسين التوقعات بناءً على أحدث بيانات المرور.
يبرز المؤلفون أهمية كل وحدة من خلال دراسات الإزالة، مما يظهر أن إزالة أي مكون يؤدي بشكل كبير إلى تدهور أداء التوقع، خاصة بالنسبة لآفاق التوقع الأطول. يتفوق نموذج LSTTN على العديد من النماذج الأساسية عبر مجموعات بيانات متعددة، مما يبرز دقته التنبؤية المتفوقة، خاصة في التقاط التقلبات المفاجئة في تدفق المرور. بالإضافة إلى ذلك، يظهر النموذج مرونة تجاه البيانات المفقودة، مع الحفاظ على قدراته التنبؤية حتى عندما تكون البيانات التاريخية قصيرة الأجل غير متاحة. يُعزى هذا الصمود إلى قدرة النموذج على الاستفادة من الاتجاهات التاريخية طويلة الأجل والأنماط الدورية بشكل فعال، مما يبرز أهمية دمج ميزات زمنية متنوعة لتحسين توقعات المرور.
DOI: https://doi.org/10.1016/j.knosys.2024.111637
Publication Date: 2024-03-16
Author(s): Qinyao Luo et al.
Primary Topic: Traffic Prediction and Management Techniques
Overview
The research paper presents a novel framework called Long-Short Term Transformer-based Network (LSTTN) aimed at enhancing traffic flow prediction by effectively integrating both long-term and short-term features from historical traffic data. Traditional spatiotemporal graph neural networks (STGNNs) are limited in their ability to utilize long-range data due to structural constraints, which hampers their performance in capturing complex traffic trends and periodic patterns. The LSTTN framework addresses these limitations by employing a masked subseries Transformer for learning compressed temporal representations, followed by the extraction of long-term trends using stacked 1D dilated convolution layers and periodic features through dynamic graph convolution layers. Additionally, a short-term trend extractor is incorporated to refine short-term predictions. Experimental results demonstrate that LSTTN significantly outperforms baseline models, achieving improvements of 5.63% to 16.78% in 60-minute-ahead forecasting across four real-world datasets.
In the conclusion, the authors highlight the LSTTN’s compatibility with existing STGNN models, making it a versatile plugin for practical applications. While the framework shows promise in enhancing prediction accuracy by leveraging long-term trends and periodicity, the authors acknowledge several areas for future research. These include addressing the increased training time and parameter requirements of LSTTN compared to traditional models, exploring alternative designs for the various feature extraction modules, and improving the overall user-friendliness and interpretability of the model. The findings underscore the importance of integrating diverse temporal features for effective traffic forecasting, while also pointing to the need for further refinement and practical considerations in deploying the LSTTN framework.
Introduction
The introduction of the paper highlights the critical role of intelligent transportation systems (ITS) in urban environments, particularly focusing on traffic flow forecasting as a key component. Accurate traffic predictions are essential for efficient route planning and traffic management, yet traditional forecasting methods like ARIMA and VAR struggle with the complex spatial and temporal dependencies inherent in real-world traffic data. These methods often fail to capture the nonlinear relationships and spatial dynamics of traffic networks, leading to suboptimal prediction accuracy.
In response to these challenges, the paper presents a novel traffic flow forecasting framework called LSTTN (Long-Short Term Transformer-based Network), which integrates both long-term and short-term temporal features. This framework leverages deep learning techniques, particularly graph neural networks (GNNs) and transformers, to effectively model the intricate dependencies in traffic data. The LSTTN model is designed to extract key temporal representations from long historical series while addressing issues of redundancy and inefficiency in data input. Experimental evaluations demonstrate that LSTTN outperforms baseline models across various prediction horizons, showcasing its robustness to missing data and abrupt changes. The paper concludes with a structured outline of subsequent sections, including a review of existing methods, a detailed description of the proposed framework, and an evaluation of its performance.
Methods
The section outlines the methodologies employed in traffic flow forecasting, distinguishing between traditional statistical methods and modern spatiotemporal graph neural network (STGNN)-based approaches. Early forecasting techniques, such as historical average (HA), ARIMA, and Kalman filtering, primarily utilized statistical principles, often neglecting the complex spatial interactions inherent in traffic networks. In contrast, STGNNs leverage neural networks to model both spatial and temporal dependencies, achieving superior performance by addressing the limitations of earlier methods. These models can be categorized into RNN-based, CNN-based, and Transformer-based STGNNs, each employing different strategies to capture temporal dynamics and spatial relationships in traffic data.
The methodology section further details the experimental setup, including evaluation metrics such as Root Mean Squared Error (RMSE), Mean Absolute Error (MAE), and Mean Absolute Percentage Error (MAPE) for assessing model performance. The experiments were conducted on a Linux platform with specific hardware configurations, utilizing a two-week input sequence for training. Hyperparameters were carefully set, with the STGNN model implemented being Graph WaveNet. The section emphasizes the importance of capturing long-term trends and periodicity in traffic data, which is crucial for enhancing prediction accuracy.
Discussion
In this section, the authors discuss the LSTTN (Long Short-Term Traffic Network) framework for traffic flow prediction, emphasizing its innovative approach to leveraging both long-term and short-term historical data. The framework is structured to extract various temporal features through specialized modules: a long-term trend extractor, a periodicity extractor, and a short-term trend extractor. The long-term trend extractor utilizes stacked 1-dimensional dilated convolution layers to efficiently capture complex traffic flow patterns over extended periods, while the periodicity extractor identifies daily and weekly traffic patterns using a spatial-based graph convolution module. The short-term trend extractor employs spatiotemporal graph neural networks (STGNNs) to refine predictions based on the most recent traffic data.
The authors highlight the importance of each module through ablation studies, demonstrating that the removal of any component significantly degrades prediction performance, particularly for longer forecasting horizons. The LSTTN model outperforms several baseline models across multiple datasets, showcasing its superior predictive accuracy, especially in capturing sudden fluctuations in traffic flow. Additionally, the model exhibits resilience to missing data, maintaining predictive capabilities even when short-term historical data is unavailable. This robustness is attributed to the model’s ability to utilize long-term historical trends and periodic patterns effectively, underscoring the significance of integrating diverse temporal features for enhanced traffic forecasting.