أنظمة التعلم العميق لتوقع أسعار النفط الخام والمعادن الثمينة
Deep learning systems for forecasting the prices of crude oil and precious metals

المجلة: Financial Innovation، المجلد: 10، العدد: 1
DOI: https://doi.org/10.1186/s40854-024-00637-z
تاريخ النشر: 2024-07-16
المؤلف: Parisa Foroutan وآخرون
الموضوع الرئيسي: ديناميات السوق والتقلبات

نظرة عامة

تبحث ورقة البحث في توقع أسعار السلع، مع التركيز بشكل خاص على النفط الخام (غرب تكساس الوسيط وبرنت) والمعادن الثمينة (الذهب والفضة). نظرًا للتأثير الكبير لهذه السلع على الديناميات الاقتصادية العالمية وقابليتها للعوامل الجيوسياسية، فإن التنبؤ الدقيق بالأسعار أمر ضروري لمختلف أصحاب المصلحة، بما في ذلك المستثمرين وصانعي السياسات. تستخدم الدراسة 16 نموذجًا متقدمًا من التعلم العميق، بما في ذلك الذاكرة طويلة وقصيرة المدى (LSTM)، والذاكرة طويلة وقصيرة المدى ثنائية الاتجاه (BiLSTM)، ووحدة التكرار المغلقة (GRU)، والشبكات التلافيفية الزمنية (TCN)، من بين أمور أخرى، لتوقع الأسعار اليومية. يتم مقارنة أداء هذه النماذج مع نماذج التعلم الآلي الأساسية مثل الغابة العشوائية وLightGBM باستخدام مقاييس التقييم مثل متوسط الخطأ المطلق (MAE) ومتوسط الخطأ النسبي المطلق (MAPE). تشير النتائج إلى أن نموذج TCN يتفوق في توقع أسعار WTI وبرنت والفضة، بينما يكون نموذج BiGRU الأكثر فعالية للذهب.

في الختام، تسلط الدراسة الضوء على الدور الحاسم للتنبؤ الدقيق في إدارة مخاطر الاستثمار وصياغة سياسات فعالة في سياق أسواق السلع المتقلبة. يظهر نموذج TCN قدرات تنبؤية متفوقة، خاصة في ظروف السوق المتطرفة التي تؤثر عليها أحداث مثل جائحة COVID-19 والصراعات الجيوسياسية. يعترف المؤلفون بالقيود في التقاط الطبيعة المعقدة وغير الخطية لهذه الأسواق ويقترحون اتجاهات البحث المستقبلية، بما في ذلك دمج ميزات إضافية مثل المؤشرات الاقتصادية الكلية ومشاعر أصحاب المصلحة لتعزيز دقة التنبؤ. بشكل عام، توفر الدراسة رؤى قيمة لأصحاب المصلحة الذين يسعون للتنقل في تعقيدات تحركات أسعار السلع.

مقدمة

تسلط مقدمة ورقة البحث هذه الضوء على التأثير الكبير للسلع غير المتجددة، وخاصة النفط الخام والمعادن الثمينة، على الاستقرار الاقتصادي وصنع السياسات والأسواق المالية. تعتبر هذه السلع مؤشرات حاسمة للصحة الاقتصادية، مما يستلزم التنبؤ الدقيق لمساعدة المستثمرين وصانعي السياسات في عمليات اتخاذ القرار. تؤكد الورقة على الاهتمام المتزايد بديناميات أسعار النفط الخام بعد الصدمات السوقية في أبريل 2020 وتبرز أهمية الذهب لتنويع الاستثمار والاحتياطيات الوطنية.

تهدف الدراسة إلى تعزيز منهجيات التنبؤ للنفط الخام والمعادن الثمينة من خلال استخدام نماذج التعلم العميق والتعلم الآلي المتقدمة. توضح نهجًا شاملاً يتضمن جمع وتطبيع بيانات السلاسل الزمنية للنفط الخام (غرب تكساس الوسيط وبرنت) والمعادن الثمينة (الذهب والفضة). ستقوم الدراسة بتنفيذ 16 نموذجًا للتنبؤ، بما في ذلك هياكل التعلم العميق المختلفة مثل الذاكرة طويلة وقصيرة المدى (LSTM) والشبكات العصبية التلافيفية (CNN)، بالإضافة إلى نماذج التعلم الآلي الأساسية مثل الانحدار باستخدام المتجهات الداعمة (SVR) وأقرب الجيران (KNN). تسعى الورقة إلى معالجة الأسئلة الرئيسية المتعلقة بأداء النموذج، وطول تسلسل الإدخال، وفعالية النماذج الهجينة في توقع أسعار السلع، مما يساهم في الأدبيات حول التنبؤ بالسلاسل الزمنية في هذه الأسواق الحيوية.

الطرق

توضح قسم المنهجية النهج المنهجي المستخدم في البحث. يتناول التصميم التجريبي، بما في ذلك اختيار المشاركين، وتقنيات جمع البيانات، والأساليب التحليلية المستخدمة لتقييم النتائج. استخدمت الدراسة مزيجًا من الأساليب الكمية والنوعية، مما يضمن فهمًا شاملاً لأسئلة البحث.

تم جمع البيانات من خلال استبيانات منظمة ومقابلات، مما يسمح لكل من التحليل العددي والرؤى العميقة. تم تطبيق الأساليب الإحصائية، بما في ذلك تحليل الانحدار واختبار الفرضيات، لتقييم العلاقات بين المتغيرات. تؤكد المنهجية على الصرامة وقابلية التكرار، مما يضمن أن النتائج قوية ويمكن التحقق منها في الدراسات المستقبلية.

النتائج

تركز التحليل التجريبي لهذه الدراسة على توقع الأسعار اليومية لخام WTI وبرنت، والذهب، والفضة باستخدام نماذج التعلم العميق المختلفة، بما في ذلك LSTM وBiLSTM وGRU وهياكل CNN، من بين أمور أخرى. يتم مقارنة أداء هذه النماذج مع نماذج التعلم الآلي الأساسية مثل الغابة العشوائية وLightGBM والانحدار باستخدام المتجهات الداعمة (SVR) وأقرب الجيران (KNN). تقيم الدراسة أداء النموذج عبر أربعة أطوال نافذة منزلقة (5 و30 و60 و90 يومًا) لتحديد الأطوال المثلى للإدخال لدقة التنبؤ. تم إجراء ضبط المعلمات الفائقة عبر البحث الشبكي، مع معلمات شائعة تشمل 50 دورة تدريبية، وحجم دفعة 32، ومعدل تسرب 0.2، ومعدل تعلم 0.001.

لمعالجة مشكلة الإفراط في التكيف – وهي مصدر قلق كبير في التنبؤ المالي – تستخدم الدراسة تقنيات مثل التحقق المتقاطع، والتسرب، والتوقف المبكر، والتقليم لبعض النماذج. تقلل عملية التدريب من دالة خسارة متوسط الخطأ التربيعي (MSE)، مع ضبط مُحسِّن آدم لمعدل التعلم بناءً على جدول زمني محدد مسبقًا. يتم تعزيز قوة النتائج من خلال متوسط المخرجات من 10 عمليات تشغيل لكل نموذج. تم تنفيذ جميع النماذج باستخدام TensorFlow Keras للتعلم العميق وScikit-learn للتعلم الآلي، وتم تنفيذها على نظام مزود بوحدة معالجة الرسوميات Tesla T4. يتم تفصيل المعلمات الفائقة المختارة للنماذج ذات الأداء الأعلى، بما في ذلك متغيرات BiGRU وTCN، في الدراسة، بينما تتوفر معلمات إضافية عند الطلب.

المناقشة

تسلط المناقشة الضوء على الأهمية الحاسمة للتنبؤ الدقيق في الأسواق المالية، خاصة في سياق النفط الخام والمعادن الثمينة. غالبًا ما تكافح النماذج الإحصائية التقليدية، مثل ARIMA وVAR، مع عدم الخطية وعدم الاستقرار المتأصل في هذه الأسواق. شهدت التطورات الأخيرة تحولًا نحو تقنيات التعلم الآلي والتعلم العميق، التي تناسب بشكل أفضل التعامل مع بيانات السلاسل الزمنية المعقدة. وقد أظهرت الدراسات مؤخرًا فعالية نماذج مختلفة، بما في ذلك التنبؤ بالاتجاهات المتجهة، والتوزيعات العشوائية، والأساليب التجميعية، في التفوق على الأساليب الكلاسيكية. على سبيل المثال، أظهرت دراسات Zhao et al. (2018) وSzarek et al. (2020) أداءً متفوقًا في توقع أسعار النفط الخام والمعادن الثمينة باستخدام منهجيات مبتكرة.

علاوة على ذلك، تشير الأدبيات إلى اتجاه متزايد في دمج هياكل الشبكات العصبية المتقدمة، مثل RNNs وCNNs والمحولات، جنبًا إلى جنب مع النماذج الهجينة التي تجمع بين أساليب مختلفة. يمثل إدخال تمثيلات Time2Vector تقدمًا كبيرًا في التقاط الأنماط الزمنية، مما يعزز القدرات التنبؤية لنماذج مثل BiLSTM وBiGRU. تهدف هذه الدراسة إلى سد فجوة في الأدبيات من خلال تطبيق هذه النماذج المتقدمة من التعلم العميق لتوقع أسعار النفط الخام والذهب والفضة، خاصة خلال فترات التقلب الاقتصادي، مثل جائحة COVID-19 والصراعات الجيوسياسية. من المتوقع أن توفر النتائج رؤى قيمة للمشاركين في السوق وتساهم في التطور المستمر لمنهجيات التنبؤ في أسواق السلع.

Journal: Financial Innovation, Volume: 10, Issue: 1
DOI: https://doi.org/10.1186/s40854-024-00637-z
Publication Date: 2024-07-16
Author(s): Parisa Foroutan et al.
Primary Topic: Market Dynamics and Volatility

Overview

The research paper investigates the forecasting of commodity prices, specifically focusing on crude oil (West Texas Intermediate and Brent) and precious metals (gold and silver). Given the significant influence of these commodities on global economic dynamics and their susceptibility to geopolitical factors, accurate price prediction is essential for various stakeholders, including investors and policymakers. The study employs 16 advanced deep-learning models, including Long Short-Term Memory (LSTM), Bidirectional LSTM (BiLSTM), Gated Recurrent Unit (GRU), and Temporal Convolutional Networks (TCN), among others, to forecast daily prices. The performance of these models is compared against baseline machine-learning models such as Random Forest and LightGBM using evaluation metrics like Mean Absolute Error (MAE) and Mean Absolute Percentage Error (MAPE). The findings indicate that the TCN model excels in forecasting WTI, Brent, and silver prices, while the BiGRU model is most effective for gold.

In conclusion, the study highlights the critical role of accurate forecasting in managing investment risks and formulating effective policies in the context of volatile commodity markets. The TCN model demonstrates superior forecasting capabilities, particularly in extreme market conditions influenced by events such as the COVID-19 pandemic and geopolitical conflicts. The authors acknowledge limitations in capturing the complex, nonlinear nature of these markets and suggest future research directions, including the integration of additional features such as macroeconomic indicators and stakeholder sentiments to enhance predictive accuracy. Overall, the research provides valuable insights for stakeholders aiming to navigate the complexities of commodity price movements.

Introduction

The introduction of this research paper highlights the significant influence of nonrenewable commodities, particularly crude oil and precious metals, on economic stability, policy-making, and financial markets. These commodities serve as critical indicators of economic health, necessitating accurate forecasting to aid investors and policymakers in decision-making processes. The paper emphasizes the heightened interest in crude oil price dynamics following market shocks in April 2020 and underscores the importance of gold for investment diversification and national reserves.

The study aims to enhance forecasting methodologies for crude oil and precious metals by employing advanced deep learning and machine learning models. It outlines a comprehensive approach involving the collection and normalization of time-series data for crude oil (West Texas Intermediate and Brent) and precious metals (gold and silver). The research will implement 16 forecasting models, including various deep learning architectures such as Long Short-Term Memory (LSTM) and Convolutional Neural Networks (CNN), as well as baseline machine learning models like Support Vector Regression (SVR) and k-Nearest Neighbors (KNN). The paper seeks to address key questions regarding model performance, input sequence length, and the effectiveness of hybrid models in predicting commodity prices, ultimately contributing to the literature on time-series forecasting in these critical markets.

Methods

The methodology section outlines the systematic approach employed in the research. It details the experimental design, including the selection of participants, data collection techniques, and analytical methods used to evaluate the results. The study utilized a combination of quantitative and qualitative approaches, ensuring a comprehensive understanding of the research questions.

Data were collected through structured surveys and interviews, allowing for both numerical analysis and in-depth insights. Statistical methods, including regression analysis and hypothesis testing, were applied to assess the relationships between variables. The methodology emphasizes rigor and reproducibility, ensuring that the findings are robust and can be validated in future studies.

Results

The empirical analysis of this study focuses on forecasting daily prices of WTI and Brent crude oil, gold, and silver using various deep-learning models, including LSTM, BiLSTM, GRU, and CNN architectures, among others. The performance of these models is compared against baseline machine-learning models such as Random Forest, LightGBM, Support Vector Regression (SVR), and K-Nearest Neighbors (KNN). The study evaluates model performance across four sliding window lengths (5, 30, 60, and 90 days) to determine optimal input lengths for forecasting accuracy. Hyperparameter tuning was conducted via grid search, with common parameters including 50 epochs, a batch size of 32, a dropout rate of 0.2, and a learning rate of 0.001.

To address overfitting—a significant concern in financial forecasting—the study employs techniques such as cross-validation, dropout, early stopping, and pruning for certain models. The training process minimizes the Mean Squared Error (MSE) loss function, with the Adam optimizer adjusting the learning rate based on a predefined schedule. The robustness of the results is enhanced by averaging outputs from 10 runs of each model. All models were implemented using TensorFlow Keras for deep learning and Scikit-learn for machine learning, executed on a system equipped with a Tesla T4 GPU. The selected hyperparameters for the top-performing models, including BiGRU and TCN variants, are detailed in the study, while additional hyperparameters are available upon request.

Discussion

The discussion highlights the critical importance of accurate financial market forecasting, particularly in the context of crude oil and precious metals. Traditional statistical models, such as ARIMA and VAR, often struggle with the nonlinearity and nonstationarity inherent in these markets. Recent advancements have seen a shift towards machine learning and deep learning techniques, which are better suited for handling complex time series data. Notably, studies have demonstrated the effectiveness of various models, including vector trend forecasting, stochastic distributions, and ensemble methods, in outperforming classical approaches. For instance, Zhao et al. (2018) and Szarek et al. (2020) showcased superior performance in predicting crude oil and precious metal prices using innovative methodologies.

Moreover, the literature indicates a growing trend in incorporating advanced neural network architectures, such as RNNs, CNNs, and transformers, alongside hybrid models that combine different approaches. The introduction of Time2Vector embeddings represents a significant advancement in capturing temporal patterns, enhancing the predictive capabilities of models like BiLSTM and BiGRU. This study aims to fill a gap in the literature by applying these state-of-the-art deep learning models to forecast the prices of crude oil, gold, and silver, particularly during periods of economic volatility, such as the COVID-19 pandemic and geopolitical conflicts. The findings are expected to provide valuable insights for market participants and contribute to the ongoing evolution of forecasting methodologies in commodity markets.