DOI: https://doi.org/10.1371/journal.pone.0328013
PMID: https://pubmed.ncbi.nlm.nih.gov/40748872
تاريخ النشر: 2025-08-01
المؤلف: Shimiao Liu
الموضوع الرئيسي: طرق التنبؤ بسوق الأسهم
نظرة عامة
يقدم هذا القسم نظرة عامة على LTR-Net، وهو نموذج جديد متعدد الوحدات للتعلم العميق مصمم لتعزيز توقعات البيانات المالية وتقييم المخاطر من خلال إدارة بيانات السلاسل الزمنية والميزات متعددة الأبعاد بشكل فعال. غالبًا ما تفشل النماذج التقليدية في التقاط الاعتماد الزمني الضروري والعلاقات غير الخطية المعقدة، مما يؤدي إلى دقة توقعات دون المستوى الأمثل. يتناول LTR-Net هذه القيود من خلال دمج ثلاثة مكونات رئيسية: وحدة نمذجة الاعتماد الزمني، وحدة التقاط المعلومات العالمية، ووحدة استخراج الميزات العميقة، والتي تعمل معًا على تحسين معالجة البيانات المالية الديناميكية.
تشير النتائج التجريبية إلى أن LTR-Net يتفوق بشكل كبير على النماذج المعروفة مثل LSTM وGRU وTransformer وDeepAR عبر مجموعات بيانات مالية متنوعة، بما في ذلك مجموعة بيانات توقع الضغوط المالية من كاجل وبيانات سوق الأسهم من ياهو. يظهر النموذج دقة واستقرار وقوة فائقة، كما يتضح من مقاييس مثل متوسط الخطأ التربيعي (MSE)، وجذر متوسط الخطأ التربيعي (RMSE)، ومتوسط الخطأ المطلق (MAE)، والمساحة تحت المنحنى (AUC). بالإضافة إلى ذلك، تؤكد دراسات الإزالة المساهمات الأساسية لكل وحدة، مما يبرز أهمية LSTM وTransformer وResNet في تعزيز تحليل البيانات المالية. تشير قدرات LTR-Net القوية على التعميم إلى إمكانية تطبيقه في تحليل البيانات وتقييم المخاطر عبر مجالات متنوعة.
مقدمة
في مجال إدارة المؤسسات الحديثة، يُعتبر التنبؤ المالي وإدارة المخاطر مكونات حيوية في أنظمة دعم القرار. لقد أثبتت طرق التحليل المالي التقليدية بشكل متزايد عدم كفاءتها في التعامل مع تعقيدات بيانات السوق المتطورة، مما يتطلب نهجًا أكثر تطورًا يأخذ في الاعتبار البيانات التاريخية الواسعة، والتقلبات الاقتصادية الكلية، واتجاهات الصناعة. يتناول هذا البحث الحاجة الملحة لتحسين الدقة في التنبؤ المالي وتقييم المخاطر الفعال، مسلطًا الضوء على قيود نماذج التعلم العميق الحالية، وخاصة متطلباتها الحسابية العالية، ونقص القابلية للتفسير، والاعتماد على بيانات عالية الجودة.
للتغلب على هذه التحديات، يقدم البحث نموذجًا هجينًا للتعلم العميق يسمى LTR-Net، والذي يدمج هياكل الذاكرة طويلة وقصيرة الأجل (LSTM) وTransformer وResNet. تم تصميم هذا النموذج لتعزيز دقة التنبؤات المالية من خلال التقاط الاعتماد الزمني طويل الأجل، والمعلومات العالمية، والميزات غير الخطية العميقة. يقدم المؤلفون سلسلة من التجارب التي توضح فعالية LTR-Net في البيئات المالية المعقدة، وخاصة في توقع الاتجاهات على المدى الطويل واكتشاف الشذوذ. بالإضافة إلى ذلك، يحدد البحث استراتيجيات معالجة البيانات وتحسين النموذج التي تعتبر مراجع قيمة للبحوث المستقبلية. هيكل البحث منظم في أقسام تستعرض الأعمال ذات الصلة، وتفصل تصميم النموذج، وتقدم النتائج التجريبية، وتختتم بالنتائج وتوجهات البحث المستقبلية.
طرق
في السنوات الأخيرة، تقدمت تقنيات التعلم العميق بشكل كبير في توقع البيانات المالية، حيث أظهرت نماذج مختلفة فعاليتها في مهام مثل اكتشاف الشذوذ، وتوقع الاتجاهات، وتقييم المخاطر. تتفوق الشبكات العصبية التلافيفية (CNNs) في استخراج الميزات من البيانات المالية متعددة الأبعاد وغير المنظمة، بينما تُستخدم المحولات الذاتية (Autoencoders) لتقليل الأبعاد واكتشاف الشذوذ. تعتبر الشبكات العصبية طويلة وقصيرة الأجل (LSTMs) بارعة بشكل خاص في التعامل مع الاعتماد طويل الأجل في بيانات السلاسل الزمنية، مما يجعلها مناسبة لتوقع الاتجاهات المالية. تعزز الشبكات التنافسية التوليدية (GANs) تدريب النموذج من خلال توليد بيانات مالية عالية الجودة، وتعمل التعلم المعزز (RL) على تحسين اتخاذ القرار في البيئات المالية الديناميكية. يدمج نموذج LTR-Net المقترح هياكل LSTM وTransformer وResNet، مستفيدًا من نقاط قوتها لتحسين دقة التنبؤ وإدارة المخاطر.
شمل الإعداد التجريبي موارد حوسبة عالية الأداء، بما في ذلك وحدة معالجة الرسوميات NVIDIA A100، لتسهيل التدريب الفعال على مجموعات بيانات مالية كبيرة. ضمنت خطوات معالجة البيانات استقرار النموذج وقدرته على التعميم، بما في ذلك إزالة العينات ذات القيم المفقودة وتطبيع الميزات. تم تقييم نموذج LTR-Net مقابل خمسة نماذج متطورة على مجموعتين من البيانات العامة، مما أظهر أداءً متفوقًا في مقاييس رئيسية مثل متوسط الخطأ التربيعي (MSE)، وجذر متوسط الخطأ التربيعي (RMSE)، ومتوسط الخطأ المطلق (MAE)، والمساحة تحت المنحنى (AUC). بشكل ملحوظ، حقق LTR-Net MSE قدره 0.033 على مجموعة بيانات توقع الضغوط المالية من كاجل، متفوقًا على DeepAR بنسبة 15.4%. أكدت اختبارات الدلالة الإحصائية قوة تحسينات أداء LTR-Net، مما يثبت فعاليته في تحليل البيانات المالية ومهام تقييم المخاطر. بشكل عام، يمكّن الهيكل متعدد الوحدات لـ LTR-Net من التفوق في التعامل مع بيانات السلاسل الزمنية المعقدة ويعزز قابليته للتكيف في سيناريوهات التعلم المتعدد المهام.
نتائج
تكشف دراسة الإزالة التي أجريت على نموذج LTR-Net عن المساهمات الكبيرة لمكوناته الفردية—LSTM وTransformer وResNet—في الأداء العام في توقع البيانات المالية. أظهرت التجارب، التي أجريت على مجموعة بيانات توقع الضغوط المالية من كاجل وبيانات سوق الأسهم من ياهو، أن إزالة وحدة LSTM أدت إلى زيادة ملحوظة في كل من متوسط الخطأ التربيعي (MSE) وجذر متوسط الخطأ التربيعي (RMSE)، مما يبرز دورها الأساسي في التقاط الاعتماد طويل الأجل. على وجه التحديد، زاد MSE من 0.033 إلى 0.042 (زيادة بنسبة 27.3%) في مجموعة بيانات كاجل ومن 0.022 إلى 0.031 (زيادة بنسبة 41.0%) في مجموعة بيانات ياهو، مما يشير إلى انخفاض كبير في دقة التوقعات.
وبالمثل، أدت إزالة وحدة Transformer إلى انخفاض في مقاييس AUC والدقة، مما يبرز أهميتها في التعرف على الاعتماد العالمي والأنماط المعقدة داخل البيانات. على سبيل المثال، انخفض AUC من 0.94 إلى 0.92 في مجموعة بيانات كاجل ومن 0.91 إلى 0.89 في مجموعة بيانات ياهو. أثبتت وحدة ResNet أيضًا أنها حاسمة، حيث أدى غيابها إلى ارتفاع MSE من 0.033 إلى 0.041 (زيادة بنسبة 24.2%) في كاجل ومن 0.022 إلى 0.029 (زيادة بنسبة 31.8%) في ياهو، مما يشير إلى دورها في استخراج الميزات العميقة وإدارة الشذوذ. بشكل عام، تؤكد النتائج أن كل وحدة لا غنى عنها لفعالية النموذج في مهام التنبؤ المالي، حيث تركز LSTM على الاعتماد الزمني، وTransformer على المعلومات العالمية، وResNet على استخراج الميزات العميقة.
مناقشة
تسلط قسم المناقشة في البحث الضوء على تطور إدارة المخاطر المالية من الطرق التقليدية إلى الأساليب المتقدمة المدفوعة بالبيانات، مع التأكيد على قيود تقنيات التعلم الآلي التقليدية مثل آلات الدعم المتجهة (SVM) وأشجار القرار في التقاط العلاقات غير الخطية المعقدة والاعتماد الزمني في البيانات المالية. يقدم البحث نموذج LTR-Net، الذي يدمج هياكل الذاكرة طويلة وقصيرة الأجل (LSTM) وTransformer وResNet لنمذجة هذه التعقيدات بشكل فعال. لا يعزز هذا النموذج الهجين دقة التوقعات وقوتها فحسب، بل يحسن أيضًا القابلية للتفسير، مما يجعله أداة قيمة لتقييم المخاطر المالية.
يستكشف القسم أيضًا تطبيق النماذج الهجينة في القطاع المالي، مشيرًا إلى تركيبات ناجحة من الشبكات البايزية مع الشبكات العصبية العميقة (DNN) ومنهجيات أخرى تحسن الأداء في مهام إدارة المخاطر. يبرز نموذج LTR-Net من خلال معالجة الاعتماد طويل الأجل والأنماط العالمية والخصائص غير الخطية في آن واحد، مما يوفر حلاً شاملاً لتوقع البيانات المالية وإدارة المخاطر. يسمح تصميمه المعياري بمعالجة فعالة لمؤشرات مالية متنوعة، مما يجعله قابلًا للتطبيق في السيناريوهات الواقعية مثل تقييم الائتمان وتوقع مخاطر الاستثمار. بشكل عام، يمثل LTR-Net تقدمًا كبيرًا في هذا المجال، حيث يوفر إطارًا قويًا للتنقل في تعقيدات البيانات المالية.
DOI: https://doi.org/10.1371/journal.pone.0328013
PMID: https://pubmed.ncbi.nlm.nih.gov/40748872
Publication Date: 2025-08-01
Author(s): Shimiao Liu
Primary Topic: Stock Market Forecasting Methods
Overview
The section presents an overview of LTR-Net, a novel multi-module deep learning model designed to enhance financial data prediction and risk assessment by effectively managing time-series data and multi-dimensional features. Traditional models often fail to capture the necessary temporal dependencies and complex nonlinear relationships, leading to suboptimal prediction accuracy. LTR-Net addresses these limitations by integrating three key components: a temporal dependency modeling module, a global information capture module, and a deep feature extraction module, which collectively improve the processing of dynamic financial data.
Experimental results indicate that LTR-Net significantly outperforms established models such as LSTM, GRU, Transformer, and DeepAR across various financial datasets, including the Kaggle Financial Distress Prediction Dataset and Yahoo Finance Stock Market Data. The model demonstrates superior accuracy, stability, and robustness, as evidenced by metrics such as Mean Squared Error (MSE), Root Mean Squared Error (RMSE), Mean Absolute Error (MAE), and Area Under the Curve (AUC). Additionally, ablation studies confirm the essential contributions of each module, highlighting the importance of LSTM, Transformer, and ResNet in enhancing financial data analysis. LTR-Net’s strong generalization capabilities suggest its potential applicability in data analysis and risk assessment across diverse domains.
Introduction
In the realm of modern enterprise management, financial forecasting and risk management are critical components of decision support systems. Traditional financial analysis methods have increasingly proven inadequate for handling the complexities of evolving market data, necessitating a more sophisticated approach that accounts for extensive historical data, macroeconomic fluctuations, and industry trends. This paper addresses the pressing need for improved accuracy in financial forecasting and effective risk assessment, highlighting the limitations of existing deep learning models, particularly their high computational demands, lack of interpretability, and dependence on high-quality data.
To overcome these challenges, the study introduces a hybrid deep learning model named LTR-Net, which integrates Long Short-Term Memory (LSTM), Transformer, and ResNet architectures. This model is designed to enhance the accuracy of financial predictions by capturing long-term temporal dependencies, global information, and deep nonlinear features. The authors present a series of experiments demonstrating LTR-Net’s effectiveness in complex financial environments, particularly in long-term trend forecasting and anomaly detection. Additionally, the paper outlines data preprocessing and model optimization strategies that serve as valuable references for future research. The structure of the paper is organized into sections that review related work, detail the model design, present experimental results, and conclude with findings and future research directions.
Methods
In recent years, deep learning techniques have significantly advanced financial data prediction, with various models demonstrating their effectiveness in tasks such as anomaly detection, trend forecasting, and risk assessment. Convolutional Neural Networks (CNNs) excel in feature extraction from multi-dimensional and unstructured financial data, while Autoencoders are utilized for dimensionality reduction and anomaly detection. Long Short-Term Memory networks (LSTMs) are particularly adept at handling long-term dependencies in time-series data, making them suitable for forecasting financial trends. Generative Adversarial Networks (GANs) enhance model training by generating high-quality financial data, and Reinforcement Learning (RL) optimizes decision-making in dynamic financial environments. The proposed LTR-Net model integrates LSTM, Transformer, and ResNet architectures, leveraging their strengths to improve prediction accuracy and risk management.
The experimental setup involved high-performance computing resources, including an NVIDIA A100 GPU, to facilitate efficient training on large-scale financial datasets. Data preprocessing steps ensured the stability and generalization of the model, including the removal of samples with missing values and normalization of features. The LTR-Net model was evaluated against five state-of-the-art models on two public datasets, demonstrating superior performance in key metrics such as Mean Squared Error (MSE), Root Mean Squared Error (RMSE), Mean Absolute Error (MAE), and Area Under the Curve (AUC). Notably, LTR-Net achieved an MSE of 0.033 on the Kaggle Financial Distress Prediction Dataset, outperforming DeepAR by 15.4%. Statistical significance tests confirmed the robustness of LTR-Net’s performance improvements, establishing its effectiveness in financial data analysis and risk assessment tasks. Overall, LTR-Net’s multi-module architecture enables it to excel in complex time-series data handling and enhances its adaptability in multi-task learning scenarios.
Results
The ablation study conducted on the LTR-Net model reveals the significant contributions of its individual components—LSTM, Transformer, and ResNet—to overall performance in financial data prediction. The experiments, performed on the Kaggle Financial Distress Prediction Dataset and Yahoo Finance Stock Market Data, demonstrated that the removal of the LSTM module led to a notable increase in both Mean Squared Error (MSE) and Root Mean Squared Error (RMSE), underscoring its essential role in capturing long-term dependencies. Specifically, the MSE increased from 0.033 to 0.042 (27.3% rise) in the Kaggle dataset and from 0.022 to 0.031 (41.0% rise) in the Yahoo dataset, indicating a substantial decline in predictive accuracy.
Similarly, the removal of the Transformer module resulted in decreased AUC and Accuracy metrics, highlighting its importance in recognizing global dependencies and complex patterns within the data. For instance, the AUC dropped from 0.94 to 0.92 in the Kaggle dataset and from 0.91 to 0.89 in the Yahoo dataset. The ResNet module also proved critical, with its absence causing MSE to rise from 0.033 to 0.041 (24.2% increase) in Kaggle and from 0.022 to 0.029 (31.8% increase) in Yahoo, indicating its role in extracting deep features and managing anomalies. Overall, the findings confirm that each module is indispensable for the model’s effectiveness in financial prediction tasks, with the LSTM focusing on temporal dependencies, the Transformer on global information, and the ResNet on deep feature extraction.
Discussion
The discussion section of the paper highlights the evolution of financial risk management from traditional methods to advanced data-driven approaches, emphasizing the limitations of conventional machine learning techniques like Support Vector Machines (SVM) and Decision Trees in capturing complex, nonlinear relationships and temporal dependencies in financial data. The paper introduces the LTR-Net model, which integrates Long Short-Term Memory (LSTM), Transformer, and ResNet architectures to effectively model these complexities. This hybrid model not only enhances prediction accuracy and robustness but also improves interpretability, making it a valuable tool for financial risk assessment.
The section further explores the application of hybrid models in the financial sector, noting successful combinations of Bayesian networks with Deep Neural Networks (DNN) and other methodologies that improve performance in risk management tasks. The LTR-Net model stands out by simultaneously addressing long-term dependencies, global patterns, and nonlinear characteristics, thereby offering a comprehensive solution for financial data prediction and risk management. Its modular design allows for effective processing of diverse financial indicators, making it applicable in real-world scenarios such as credit scoring and investment risk forecasting. Overall, LTR-Net represents a significant advancement in the field, providing a robust framework for navigating the complexities of financial data.