شبكة الانتباه المنقسم للتفكير الرسومي السيامي مع بيانات المشاعر الاجتماعية المعتمدة على معالجة اللغة الطبيعية لتحسين توقعات أسعار الأسهم
Siamese Graph Convolutional Split-Attention Network with NLP based Social Sentimental Data for enhanced stock price predictions

شارك:
المجلة: Journal Of Big Data، المجلد: 11، العدد: 1
DOI: https://doi.org/10.1186/s40537-024-01016-2
تاريخ النشر: 2024-10-29
المؤلف: Jayaraman Kumarappan وآخرون
الموضوع الرئيسي: طرق التنبؤ بسوق الأسهم

نظرة عامة

تقدم ورقة البحث نهجًا جديدًا للتنبؤ بسلوك سوق الأسهم من خلال تحليل المشاعر، مع معالجة القضايا السائدة المتعلقة بعدم الدقة والتعقيد في النماذج الحالية. الطريقة المقترحة، المسماة Siagra-ConSA-HSOA (شبكة الانتباه المنفصل بالتواء الجرافات مع بيانات المشاعر الاجتماعية المعتمدة على معالجة اللغة الطبيعية)، تدمج البيانات من سوق الأسهم NIFTY-50 ومشاعر تويتر في الوقت الحقيقي. باستخدام معالجة اللغة الطبيعية (NLP) لتهيئة البيانات واستخراج الميزات، يستخدم النموذج محول عبر المجالات (CDSFT) لدمج مجموعات البيانات، تليها خوارزمية تحسين مستوحاة من الدائرة (CIOA) لاختيار الميزات. تقلل هذه العملية بشكل كبير من تعقيد النموذج مع الاحتفاظ بالمعلومات الحيوية.

يظهر نموذج Siagra-ConSA-HSOA مقاييس أداء مثيرة للإعجاب، حيث يحقق دقة 99.9% واسترجاع 99.8% خلال الاختبار، مما يشير إلى قدرات تنبؤية متفوقة مقارنة بالأساليب الحالية. تشمل بنية النموذج شبكة الانتباه المنفصل بالتواء الجرافات (SGCSAN) المعززة بخوارزمية تحسين هومبولت سكواد (HSOA) لتحسين الدقة وتقليل معدلات الخطأ. يقترح المؤلفون أن هذا النهج لا يتجاوز فقط القيود الرئيسية للتقنيات الحالية، بل يفتح أيضًا آفاقًا للتحسينات المستقبلية، بما في ذلك دمج بيانات وسائل التواصل الاجتماعي الإضافية، والتنفيذ في الوقت الحقيقي، وتقنيات NLP المتقدمة.

مقدمة

تسلط مقدمة ورقة البحث الضوء على التعقيدات والتحديات المرتبطة بتنبؤ أسعار الأسهم، وهي منطقة اهتمام حيوية للمستثمرين والاقتصاديين. على الرغم من الهيمنة التاريخية لنظريات مثل نظرية المشي العشوائي وفرضية السوق الفعالة (EMH)، التي تقترح أن بيانات الأسهم السابقة غير فعالة لتنبؤات الأسعار المستقبلية، تشير الدراسات الحديثة إلى أن بعض البيانات التاريخية يمكن أن تعزز فعلاً دقة التنبؤ. أظهرت الطرق التقليدية مثل ARIMA وعدًا، خاصة مع مجموعات البيانات المنظمة، لكن دمج البيانات غير المنظمة، مثل مشاعر وسائل التواصل الاجتماعي، لا يزال يمثل مشكلة بسبب الضوضاء والتقلب.

لمعالجة هذه التحديات، تقترح الورقة منهجيات مبتكرة، بما في ذلك شبكة الانتباه المنفصل بالتواء الجرافات مع بيانات المشاعر الاجتماعية المعتمدة على NLP (Siagra-ConSA-HSOA) ومحول دمج سوان عبر المجالات (CDSFT). تهدف هذه النماذج إلى دمج البيانات المالية المنظمة مع بيانات المشاعر غير المنظمة، مستفيدة من تقنيات التعلم العميق المتقدمة لتحسين دقة التنبؤ. بالإضافة إلى ذلك، تم تقديم خوارزمية تحسين مستوحاة من الدائرة (CIOA) لاختيار الميزات بكفاءة من مجموعات البيانات عالية الأبعاد. تؤكد الأساليب المقترحة على أهمية دمج مصادر البيانات المتنوعة واستخدام الخوارزميات المتقدمة لالتقاط تعقيدات تحركات سوق الأسهم بشكل أفضل، خاصة في سياق مشاعر المستثمرين والتأثيرات الخارجية.

طرق

تقدم المنهجية المقترحة في ورقة البحث شبكة الانتباه المنفصل بالتواء الجرافات مع بيانات المشاعر الاجتماعية المعتمدة على NLP (Siagra-ConSA-HSOA) التي تهدف إلى تعزيز تنبؤات أسعار الأسهم. تبدأ الطريقة بدمج مجموعتي بيانات: بيانات سوق الأسهم من NIFTY-50 وبيانات تحليل المشاعر المستمدة من تغريدات تويتر في الوقت الحقيقي. تخضع هذه المجموعات للتهيئة باستخدام تقنيات معالجة اللغة الطبيعية (NLP) لتحضيرها للتحليل. ثم يتم دمج الميزات من كلا المجموعتين من خلال محول دمج سوان عبر المجالات (CDSFT)، مما يسمح بالتكامل الفعال لمصادر البيانات المتنوعة.

بعد دمج الميزات، يتم استخدام خوارزمية تحسين مستوحاة من الدائرة (CIOA) لاختيار الميزات الأكثر صلة، مما يحسن المدخلات لنموذج التصنيف. يتم تصنيف الميزات المختارة باستخدام شبكة الانتباه المنفصل بالتواء الجرافات (SGCSAN)، التي تم تصميمها خصيصًا لتنبؤ تحركات سوق الأسهم. لتعزيز دقة التنبؤ وتقليل معدلات الخطأ، يتم استخدام خوارزمية تحسين هومبولت سكواد (HSOA)، مما يحسن الأداء العام للنموذج. تجمع هذه المنهجية الشاملة بفعالية بين تقنيات متنوعة لتحسين تنبؤات أسعار الأسهم، كما هو موضح في مخطط سير العمل المرافق.

النتائج

يقدم قسم النتائج في ورقة البحث تحليل أداء شامل لنظام Siagra-ConSA-HSOA المقترح، مقارنًا إياه بالطرق الحالية مثل SA-DLSTM وMS-SSA-LSTM وTLBO-LSTM وDL-Gues وS_I-LSTM. تظهر الطريقة المقترحة مقاييس متفوقة عبر معايير تقييم مختلفة، حيث تحقق دقة 99.87%، وF1-Score بنسبة 99.35%، ونسبة خصوصية 99.72% على مجموعة بيانات اختبار AMZN. بالإضافة إلى ذلك، تظهر معدل استرجاع بنسبة 99.28% ودقة بنسبة 99.47%، مع معدل خطأ منخفض بشكل ملحوظ يبلغ 0.1، مما يشير إلى قوتها في تصنيف المشاعر عبر الفئات الإيجابية والمحايدة والسلبية.

يسلط التحليل الضوء أيضًا على الكفاءة الحسابية لنظام Siagra-ConSA-HSOA، الذي يظهر تعقيدًا حسابيًا أقل وتوافقًا أسرع مقارنة بالخوارزميات التقليدية مثل خوارزمية تحسين سرب الجسيمات (PSO) وخوارزمية تحسين الحوت (WOA). تحافظ الطريقة المقترحة على قابلية التوسع العالية، مما يدير مجموعات بيانات أكبر دون زيادات كبيرة في المطالبات الحسابية. بشكل عام، تؤكد النتائج على فعالية نظام Siagra-ConSA-HSOA في تعزيز الأداء التنبؤي وكفاءة الموارد، مما يجعله نهجًا رائدًا لتحليل وتنبؤ مشاعر سوق الأسهم.

مناقشة

تستعرض قسم المناقشة في ورقة البحث منهجيات مختلفة لتنبؤ الأسهم وتحليل المشاعر، مع تسليط الضوء على التقدمات الكبيرة في هذا المجال. قدم Zhao et al. (2023) إطارًا هجينًا، SA-DLSTM، الذي يدمج نماذج الذاكرة طويلة وقصيرة المدى (LSTM) وموحدات إزالة الضوضاء (DAE) والشبكات العصبية التلافيفية المعززة بالعواطف (ECNN) لتعزيز دقة التنبؤ من خلال دمج بيانات المشاعر التي ينشئها المستخدم. تشير نتائجهم إلى أن SA-DLSTM يتفوق على النماذج التقليدية في كل من دقة التنبؤ والعوائد الاستثمارية. بالمثل، طور Mu et al. (2023) نموذج MS-SSA-LSTM، الذي يجمع بين مصادر بيانات متعددة ويقوم بتحسين معلمات LSTM باستخدام ذكاء السرب، محققًا تحسينًا وسطيًا قدره 10.74% في R² مقارنة بنماذج LSTM القياسية.

تشمل المساهمات الأخرى Swathi et al. (2022)، الذين اقترحوا طريقة تحسين قائمة على التعليم والتعلم (TLBO) لتحسين مخرجات LSTM باستخدام بيانات مشاعر تويتر، وParekh et al. (2022)، الذين طوروا DL-Gues، وهو نظام هجين لتنبؤ أسعار العملات المشفرة يأخذ في الاعتبار الاعتماد المتبادل بين العملات المشفرة ومشاعر السوق. يبرز القسم الأهمية المتزايدة لدمج مشاعر وسائل التواصل الاجتماعي مع البيانات المالية التقليدية لتحسين دقة التنبؤ، كما يتضح من النماذج المختلفة التي تحقق مقاييس أداء ملحوظة. تقترح المخطوطة في النهاية شبكة الانتباه المنفصل بالتواء الجرافات الجديدة (Siagra-ConSA-HSOA) التي تستفيد من بيانات تويتر في الوقت الحقيقي ومعلومات سوق الأسهم، بهدف تعزيز قدرات التنبؤ من خلال استخدام تقنيات اختيار ومعالجة الميزات المتقدمة.

Journal: Journal Of Big Data, Volume: 11, Issue: 1
DOI: https://doi.org/10.1186/s40537-024-01016-2
Publication Date: 2024-10-29
Author(s): Jayaraman Kumarappan et al.
Primary Topic: Stock Market Forecasting Methods

Overview

The research paper presents a novel approach for predicting stock market behavior through sentiment analysis, addressing the prevalent issues of inaccuracy and complexity in existing models. The proposed method, termed Siagra-ConSA-HSOA (Siamese Graph Convolutional Split-Attention Network with NLP-based Social Sentiment Data), integrates data from the NIFTY-50 Stock Market and real-time Twitter sentiment. Utilizing Natural Language Processing (NLP) for data pre-processing and feature extraction, the model employs a cross-domain transformer (CDSFT) to fuse datasets, followed by the Circle-Inspired Optimization Algorithm (CIOA) for feature selection. This process significantly reduces model complexity while retaining critical information.

The Siagra-ConSA-HSOA model demonstrates impressive performance metrics, achieving 99.9% accuracy and 99.8% recall during testing, indicating superior predictive capabilities compared to existing methodologies. The model’s architecture includes a Graph Convolutional Split-Attention Network (SGCSAN) enhanced by the Humboldt Squid Optimization Algorithm (HSOA) to further refine accuracy and minimize error rates. The authors suggest that this approach not only overcomes key limitations of current techniques but also opens avenues for future enhancements, including the integration of additional social media data, real-time implementation, and advanced NLP techniques.

Introduction

The introduction of the research paper highlights the complexities and challenges associated with predicting stock prices, a critical area of interest for investors and economists. Despite the historical dominance of theories such as the random walk theory and the efficient market hypothesis (EMH), which suggest that past stock data is ineffective for future price predictions, recent studies indicate that certain historical data can indeed enhance forecasting accuracy. Traditional methods like ARIMA have shown promise, particularly with structured datasets, but the integration of unstructured data, such as social media sentiment, remains problematic due to noise and volatility.

To address these challenges, the paper proposes innovative methodologies, including the Siamese Graph Convolutional Split-Attention Network with NLP-based social sentiment data (Siagra-ConSA-HSOA) and the Cross-Domain Swin Fusion Transformer (CDSFT). These models aim to fuse structured financial data with unstructured sentiment data, leveraging advanced deep learning techniques to improve prediction accuracy. Additionally, the Circle-Inspired Optimization Algorithm (CIOA) is introduced for efficient feature selection from high-dimensional datasets. The proposed approaches emphasize the importance of integrating diverse data sources and utilizing advanced algorithms to better capture the complexities of stock market movements, particularly in the context of investor sentiment and external influences.

Methods

The proposed methodology in this research paper introduces the Siamese Graph Convolutional Split-Attention Network with NLP-based Social Sentimental Data (Siagra-ConSA-HSOA) aimed at enhancing stock price predictions. The approach begins with the integration of two datasets: stock market data from NIFTY-50 and sentiment analysis data derived from real-time Twitter feeds. These datasets undergo pre-processing using Natural Language Processing (NLP) techniques to prepare them for analysis. The features from both datasets are then fused through the Cross Domain Swin Fusion Transformer (CDSFT), which allows for effective integration of the diverse data sources.

Following feature fusion, the Circle-Inspired Optimization Algorithm (CIOA) is utilized to select the most relevant features, optimizing the input for the classification model. The selected features are classified using the Siamese Graph Convolutional Split-Attention Network (SGCSAN), which is specifically designed to predict stock market movements. To further enhance prediction accuracy and minimize error rates, the Humboldt Squid Optimization Algorithm (HSOA) is employed, refining the overall model performance. This comprehensive methodology effectively combines various techniques to improve stock price predictions, as illustrated in the accompanying workflow diagram.

Results

The results section of the research paper presents a comprehensive performance analysis of the proposed Siagra-ConSA-HSOA system, comparing it against existing methods such as SA-DLSTM, MS-SSA-LSTM, TLBO-LSTM, DL-Gues, and S_I-LSTM. The proposed method demonstrates superior metrics across various evaluation criteria, achieving an accuracy of 99.87%, an F1-Score of 99.35%, and a specificity of 99.72% on the AMZN testing dataset. Additionally, it exhibits a recall rate of 99.28% and a precision of 99.47%, with a notably low error rate of 0.1, indicating its robustness in sentiment classification across positive, neutral, and negative classes.

The analysis further highlights the computational efficiency of the Siagra-ConSA-HSOA system, which shows lower computational complexity and faster convergence compared to traditional optimization algorithms like Particle Swarm Optimization (PSO) and Whale Optimization Algorithm (WOA). The proposed method maintains high scalability, effectively managing larger datasets without significant increases in computational demands. Overall, the findings underscore the effectiveness of the Siagra-ConSA-HSOA system in enhancing predictive performance and resource efficiency, positioning it as a leading approach for stock market sentiment analysis and prediction.

Discussion

The discussion section of the research paper reviews various methodologies for stock prediction and sentiment analysis, highlighting significant advancements in the field. Zhao et al. (2023) introduced a hybrid framework, SA-DLSTM, which integrates Long Short-Term Memory (LSTM) models, Denoising Autoencoders (DAE), and Emotion-Enhanced Convolutional Neural Networks (ECNN) to enhance prediction accuracy by incorporating user-generated sentiment data. Their findings indicate that SA-DLSTM outperforms traditional models in both prediction accuracy and investment returns. Similarly, Mu et al. (2023) developed the MS-SSA-LSTM model, which combines multiple data sources and optimizes LSTM hyperparameters using Swarm Intelligence, achieving a median improvement of 10.74% in R² over standard LSTM models.

Further contributions include Swathi et al. (2022), who proposed a Teaching and Learning Based Optimization (TLBO) method to refine LSTM outputs using Twitter sentiment data, and Parekh et al. (2022), who developed DL-Gues, a hybrid system for cryptocurrency price prediction that factors in interdependencies among cryptocurrencies and market sentiment. The section emphasizes the growing importance of integrating social media sentiment with traditional financial data to improve prediction accuracy, as demonstrated by various models achieving notable performance metrics. The manuscript ultimately proposes a novel Siamese Graph Convolutional Split-Attention Network (Siagra-ConSA-HSOA) that leverages real-time Twitter data and stock market information, aiming to enhance prediction capabilities by utilizing advanced feature selection and processing techniques.

شارك: