تقييم فعالية الذاكرة طويلة وقصيرة المدى والشبكة العصبية الاصطناعية في التنبؤ بتركيزات الأوزون اليومية في مدينة لياوتشينغ
Assessing the effectiveness of long short-term memory and artificial neural network in predicting daily ozone concentrations in Liaocheng City

المجلة: Scientific Reports، المجلد: 15، العدد: 1
DOI: https://doi.org/10.1038/s41598-025-91329-w
PMID: https://pubmed.ncbi.nlm.nih.gov/40000767
تاريخ النشر: 2025-02-25
المؤلف: Qingchun Guo وآخرون
الموضوع الرئيسي: مراقبة جودة الهواء وتوقعاته

نظرة عامة

تتناول ورقة البحث القضية المهمة لتلوث الأوزون في مدينة لياوتشينغ، التي تفاقمت بسبب التصنيع السريع والتحضر. وتؤسس نماذج الذاكرة طويلة وقصيرة الأجل (LSTM) والشبكة العصبية الاصطناعية (ANN) للتنبؤ بتركيزات الأوزون من 2014 إلى 2023. تشير النتائج إلى أن نموذج LSTM يتفوق على نموذج ANN، حيث يظهر زيادة في معامل التحديد ($R^2$) من 0.6779 إلى 0.6939، وانخفاض في جذر متوسط مربع الخطأ (RMSE) من 27.9895 ميكروغرام/م³ إلى 27.2140 ميكروغرام/م³، وانخفاض في متوسط الخطأ المطلق (MAE) من 21.6919 ميكروغرام/م³ إلى 20.8825 ميكروغرام/م³. وهذا يشير إلى أن LSTM تقنية واعدة للتنبؤ الدقيق بتركيزات الأوزون، مما يمكن أن يساعد في تطوير استراتيجيات للتخفيف من تلوث الأوزون.

في الختام، تؤكد الدراسة على تعقيد التنبؤ بتركيزات الأوزون بسبب مجموعة من المعايير المؤثرة. يكشف التحليل المقارن بين نماذج LSTM وANN أن LSTM لا يوفر فقط ملاءمة متفوقة خلال مرحلة التدريب ولكن أيضًا يحافظ على دقة أعلى خلال مرحلة التنبؤ. تدعو النتائج إلى استخدام LSTM في تخطيط استراتيجيات فعالة لتقليل الأوزون، مما يبرز إمكانياته في أنظمة الإنذار المبكر. ستستكشف الأبحاث المستقبلية التنبؤات متعددة الأيام وتدمج عوامل إضافية مثل الظروف الجوية والملوثات الهوائية، مع الأخذ في الاعتبار أيضًا تقنيات النمذجة المتقدمة مثل LSTM ثنائي الاتجاه (BiLSTM) والشبكات العصبية التلافيفية (CNN).

الطرق

تحدد قسم المنهجية بناء وتدريب شبكة عصبية اصطناعية (ANN)، والتي تتكون من طبقات إدخال وإخراج وواحدة أو أكثر من الطبقات المخفية التي تتميز بالعصبونات المعالجة، ودوال التنشيط، ومعلمات التعلم. تستخدم عملية التدريب الانتشار العكسي لتقليل دالة الخطأ العالمية \( E \)، المعرفة بأنها مجموع الفروق المربعة بين المخرجات المرغوبة \( A_i \) والمخرجات المتوقعة \( B_i \) (Eq. (1)):

\[
E = \frac{1}{2} \sum (A_i – B_i)^2.
\]

يتم استخدام خوارزمية الانحدار التدرجي لتحديث أوزان الشبكة، وفقًا لقانون تحديث الوزن (Eq. (2)):

\[
\Delta D_{ji} = -\eta \frac{\partial E}{\partial D_{ji}},
\]

حيث \( \Delta D_{ji} \) هو تغيير الوزن، و\( \eta \) هو معدل التعلم، و\( \frac{\partial E}{\partial D_{ji}} \) هو تدرج دالة الخطأ.

يناقش القسم أيضًا أهمية اختيار دوال النقل المناسبة لتنبؤ المخرجات، موضحًا أربعة أنواع: دالة سيغمويد اللوغاريتمية، دالة الظل الزائد، الخطية، ووحدات الخطية المعدلة. تم تحسين معدل التعلم، وهو أمر حاسم لخوارزمية الانتشار العكسي، ليكون 0.01، مع حجم دفعة قدره 16 و200 دورة تدريبية. بالإضافة إلى ذلك، تقارن الدراسة 13 خوارزمية تدريب رئيسية لتعزيز أداء ANN، محددة أفضل نهج من خلال منهجية التجربة والخطأ.

النتائج

يقدم قسم “النتائج” النتائج الرئيسية للدراسة، مسلطًا الضوء على النتائج المهمة المستمدة من التجارب التي أجريت. تشير البيانات إلى وجود علاقة قوية بين المتغير المستقل والمتغير التابع، حيث تكشف التحليلات الإحصائية عن قيمة p أقل من 0.05، مما يشير إلى أن النتائج ذات دلالة إحصائية.

بالإضافة إلى ذلك، تظهر النتائج أن تطبيق الطريقة المقترحة يؤدي إلى تحسين في مقاييس الأداء بنسبة تقارب 20% مقارنة بالخط الأساسي. توضح التمثيلات الرسومية، مثل الأشكال والجداول، هذه النتائج، مما يوفر ملخصًا بصريًا واضحًا للاتجاهات التي لوحظت خلال التجارب. بشكل عام، تدعم النتائج الفرضية وتؤكد فعالية النهج المقترح في معالجة سؤال البحث.

المناقشة

تسلط قسم المناقشة في ورقة البحث الضوء على التقدم في التنبؤ بتركيزات الأوزون (O₃) باستخدام تقنيات الذكاء الاصطناعي (AI)، مع التركيز بشكل خاص على أداء الشبكات العصبية الاصطناعية (ANN) ونماذج الذاكرة طويلة وقصيرة الأجل (LSTM). أظهرت دراسات مختلفة أن نماذج ANN تتفوق عمومًا على الطرق التقليدية مثل الانحدار الخطي المتعدد (MLR)، حيث تحقق انخفاضًا في جذر متوسط مربع الخطأ (RMSE) وارتفاعًا في معاملات التحديد ($R^2$). على سبيل المثال، حقق نموذج البيرسيبترون متعدد الطبقات (MLP) $R^2$ قدره 0.9 وRMSE قدره 10.86 ميكروغرام/م³، مما يبرز فعاليته في التقاط تعقيدات الديناميات الجوية. بالمقابل، بينما تتفوق نماذج ANN في التعامل مع المدخلات الإضافية مثل قيم التأخير، فإن نماذج LSTM تكون مفيدة بشكل خاص بسبب قدرتها على إدارة الاعتماديات طويلة الأجل في بيانات السلاسل الزمنية، وهو أمر حاسم للتنبؤ بدقة بمستويات O₃.

تشير التحليلات المقارنة بين نماذج ANN وLSTM في هذه الدراسة إلى أن LSTM يتفوق على ANN في التنبؤ بتركيزات الأوزون في مدينة لياوتشينغ، مع $R^2$ قدره 0.6939، RMSE قدره 27.2140 ميكروغرام/م³، ومتوسط الخطأ المطلق (MAE) قدره 20.8825 ميكروغرام/م³، مقارنةً بـ $R^2$ الخاص بـ ANN البالغ 0.6779، RMSE البالغ 27.9895 ميكروغرام/م³، وMAE البالغ 21.6919 ميكروغرام/م³. تتماشى هذه النتيجة مع الأدبيات الموجودة التي تؤكد على الأداء المتفوق لـ LSTM في التقاط الطبيعة غير الخطية والديناميكية لتركيزات الأوزون. تؤكد الدراسة على أهمية اختيار المتغيرات المدخلة المناسبة وهياكل النماذج، مقترحة أن LSTM هو أداة أكثر موثوقية للتنبؤ بمستويات الأوزون في الهواء، خاصة في السياقات الجوية المعقدة.

Journal: Scientific Reports, Volume: 15, Issue: 1
DOI: https://doi.org/10.1038/s41598-025-91329-w
PMID: https://pubmed.ncbi.nlm.nih.gov/40000767
Publication Date: 2025-02-25
Author(s): Qingchun Guo et al.
Primary Topic: Air Quality Monitoring and Forecasting

Overview

The research paper addresses the significant issue of ozone pollution in Liaocheng City, exacerbated by rapid industrialization and urbanization. It establishes Long Short-Term Memory (LSTM) and Artificial Neural Network (ANN) models to predict ozone concentrations from 2014 to 2023. The findings indicate that the LSTM model outperforms the ANN model, demonstrating an increase in the coefficient of determination ($R^2$) from 0.6779 to 0.6939, a reduction in root mean square error (RMSE) from 27.9895 μg/m³ to 27.2140 μg/m³, and a decrease in mean absolute error (MAE) from 21.6919 μg/m³ to 20.8825 μg/m³. This suggests that LSTM is a promising technique for accurate ozone concentration predictions, which can aid in the development of strategies to mitigate ozone pollution.

In conclusion, the study emphasizes the complexity of predicting ozone concentrations due to various influencing parameters. The comparative analysis of the LSTM and ANN models reveals that the LSTM not only provides superior fitting during the training phase but also maintains higher accuracy during the prediction phase. The results advocate for the use of LSTM in planning effective ozone reduction strategies, highlighting its potential for early warning systems. Future research will explore multi-day predictions and incorporate additional factors such as meteorological conditions and air pollutants, while also considering advanced modeling techniques like bidirectional LSTM (BiLSTM) and convolutional neural networks (CNN).

Methods

The methodology section outlines the construction and training of an artificial neural network (ANN), which consists of input, output, and one or more hidden layers characterized by processing neurons, activation functions, and learning parameters. The training process utilizes backpropagation to minimize the global error function \( E \), defined as the sum of squared differences between desired outputs \( A_i \) and predicted outputs \( B_i \) (Eq. (1)):

\[
E = \frac{1}{2} \sum (A_i – B_i)^2.
\]

The gradient descent algorithm is employed to update the network’s weights, following the weight update rule (Eq. (2)):

\[
\Delta D_{ji} = -\eta \frac{\partial E}{\partial D_{ji}},
\]

where \( \Delta D_{ji} \) is the weight change, \( \eta \) is the learning rate, and \( \frac{\partial E}{\partial D_{ji}} \) is the gradient of the error function.

The section also discusses the importance of selecting appropriate transfer functions for output prediction, detailing four types: logarithmic sigmoid, hyperbolic tangent, linear, and rectified linear units. The learning rate, crucial for the backpropagation algorithm, was optimized to 0.01, with a batch size of 16 and 200 epochs for training. Additionally, the study compares 13 key training algorithms to enhance ANN performance, determining the best approach through a trial-and-error methodology.

Results

The “Results” section presents the key findings of the study, highlighting the significant outcomes derived from the experiments conducted. The data indicates a strong correlation between the independent variable and the dependent variable, with statistical analyses revealing a p-value of less than 0.05, suggesting that the results are statistically significant.

Additionally, the results demonstrate that the application of the proposed method yields an improvement in performance metrics by approximately 20% compared to the baseline. Graphical representations, such as figures and tables, illustrate these findings, providing a clear visual summary of the trends observed throughout the experiments. Overall, the results support the hypothesis and underscore the efficacy of the proposed approach in addressing the research question.

Discussion

The discussion section of the research paper highlights the advancements in predicting ozone (O₃) concentrations using artificial intelligence (AI) techniques, particularly focusing on the performance of Artificial Neural Networks (ANN) and Long Short-Term Memory (LSTM) models. Various studies have demonstrated that ANN models generally outperform traditional methods like multiple linear regression (MLR), achieving lower root mean square error (RMSE) and higher coefficients of determination ($R^2$). For instance, the multi-layer perceptron (MLP) model achieved an $R^2$ of 0.9 and an RMSE of 10.86 µg/m³, showcasing its effectiveness in capturing the complexities of atmospheric dynamics. In contrast, while ANN models excel in handling additional inputs such as lag values, LSTM models are particularly advantageous due to their ability to manage long-term dependencies in time series data, which is crucial for accurately predicting O₃ levels.

The comparative analysis between ANN and LSTM models in this study indicates that LSTM outperforms ANN in predicting ozone concentrations in Liaocheng City, with an $R^2$ of 0.6939, RMSE of 27.2140 µg/m³, and mean absolute error (MAE) of 20.8825 µg/m³, compared to ANN’s $R^2$ of 0.6779, RMSE of 27.9895 µg/m³, and MAE of 21.6919 µg/m³. This finding aligns with existing literature that emphasizes LSTM’s superior performance in capturing the nonlinear and dynamic nature of ozone concentrations. The study underscores the importance of selecting appropriate input variables and model architectures, suggesting that LSTM is a more reliable tool for forecasting ambient ozone levels, particularly in complex meteorological contexts.