صياغة خسارة متعددة المقاييس لتعلم نموذج احتمالي مع تحسين درجات مناسب A multi‐scale loss formulation for learning a probabilistic model with proper score optimisation

شارك:
المجلة: Quarterly Journal of the Royal Meteorological Society
DOI: https://doi.org/10.1002/qj.70291
تاريخ النشر: 2026-09-04
المؤلف: Simon T. K. Lang وآخرون
الموضوع الرئيسي: الظواهر الجوية والمحاكاة

نظرة عامة

تبحث هذه الدراسة في فعالية صيغة خسارة متعددة المقاييس في تدريب نماذج التنبؤ بالطقس المعتمدة على التعلم الآلي الاحتمالي، مع التركيز بشكل خاص على نموذج AIFS-CRPS الذي تم تطويره بواسطة المركز الأوروبي للتنبؤات الجوية متوسطة المدى (ECMWF). تُظهر الدراسة أن خسارة متعددة المقاييس تقيد بشكل فعال التباين على المقياس الصغير في التنبؤات دون المساس بمهارة التنبؤ العامة، مما يشير إلى تقدم كبير في منهجيات تدريب النماذج المدركة للمقياس.

تشير النتائج إلى أن دمج دالة خسارة متعددة المقاييس في التدريب القائم على الدرجات الصحيحة، وخاصة مع درجة الاحتمالية المستمرة العادلة تقريبًا (afCRPS)، يعزز تمثيل التباين في توقعات الطقس. من المهم، بينما تظل مهارة التنبؤ مستقرة، يتم تحسين الواقعية الفيزيائية لحقول التنبؤ. تقدم هذه الطريقة فرصًا واعدة لتحسين تقنيات الدرجات الصحيحة عبر مهام تنبؤية متنوعة في علم الأرصاد الجوية وما بعدها.

مقدمة

في السنوات الأخيرة، ظهرت نماذج التنبؤ بالطقس المعتمدة على التعلم الآلي الاحتمالي كمنافسين أقوياء لأنظمة التنبؤ العددي التقليدية المعتمدة على الفيزياء (NWP)، حيث أظهرت مهارة مماثلة أو متفوقة (Kochkov et al., 2024; Price et al., 2023; Lang et al., 2024c,b). يستفيد نموذج AIFS-CRPS، الذي تم تطويره في المركز الأوروبي للتنبؤات الجوية متوسطة المدى (ECMWF)، من قاعدة تسجيل صحيحة تعرف باسم درجة الاحتمالية المستمرة العادلة تقريبًا (afCRPS) لتحسين التنبؤات. من خلال تشكيل الضوضاء الغاوسية لالتقاط عدم اليقين الجوي، يحقق AIFS-CRPS مهارة تنبؤ جماعي تنافس نظام التنبؤ المتكامل المعتمد على الفيزياء (IFS) (Molteni et al., 1996; Leutbecher and Palmer, 2008; Lang et al., 2021, 2023).

على الرغم من فعالية دالة خسارة afCRPS، التي تُحسب نقطة بنقطة عبر حقل المخرجات، تعمل العمليات الجوية عبر مقاييس متعددة، كل منها يساهم بشكل مختلف في الخسارة العامة. استكشفت الدراسات السابقة التحقق المعتمد على المقياس للتنبؤات الجماعية باستخدام الموجات ومرشحات النطاق الطيفي (Casati and Wilson, 2007; Jung and Leutbecher, 2008)، مما يبرز أهمية المقياس المكاني في مهارة التنبؤ. ومع ذلك، عادةً ما تتجاهل قواعد التسجيل القياسية هذا الجانب. من الجدير بالذكر أن Kochkov et al. (2024) قدموا مصطلح CRPS الطيفي في نموذجهم الهجين، الذي يجمع بين حل قابل للتفريق للديناميات الجوية مع وحدة فيزيائية معتمدة على التعلم الآلي. يثير هذا السؤال عما إذا كان دمج مكون متعدد المقاييس في هدف تدريب afCRPS يمكن أن يعزز أداء AIFS-CRPS من خلال السماح بالتقييم المنفصل لمقاييس مكانية مختلفة، مما قد يؤدي إلى تحسين الهياكل المكانية في التنبؤات.

الطرق

تحدد قسم المنهجية تصميم البحث والتقنيات التحليلية المستخدمة للتحقيق في فرضيات الدراسة. استخدم المؤلفون نهجًا مختلطًا، يجمع بين جمع البيانات الكمية من خلال الاستطلاعات ورؤى نوعية من المقابلات. سمح هذا النهج المزدوج بفهم شامل للظواهر قيد الدراسة.

تم تحليل البيانات الكمية باستخدام برامج إحصائية، مع تطبيق تقنيات مثل تحليل الانحدار لتحديد العلاقات المهمة بين المتغيرات. تم ترميز البيانات النوعية من المقابلات بشكل موضوعي لاستخراج الأنماط والرؤى الرئيسية، مما يوفر عمقًا للنتائج الكمية. ساهم دمج هذه الطرق في فحص قوي لأسئلة البحث، مما يضمن تمثيل الاتجاهات العددية والتجارب الشخصية بشكل كافٍ في النتائج.

النتائج

تقيم نتائج الدراسة فعالية دالة خسارة متعددة المقاييس في التنبؤ الجماعي من خلال مقارنتها بدالة خسارة غير مدركة للمقياس. تم تطبيق كلا النهجين على نموذج AIFS-CRPS، مع توليد التنبؤات يوميًا طوال عام 2019، بدءًا من تحليلات ERA5. وُجد أن درجات المهارة لكلتا الطريقتين كانت متطابقة تقريبًا، مما يشير إلى أداء تنبؤي عام مماثل. ومع ذلك، كشفت فحص دقيق لحقول التنبؤ الفردية أن تجربة الخسارة غير المدركة للمقياس أظهرت تباينًا أكبر على المقياس الصغير، خاصة في المناطق ذات التدرجات الأضعف، كما يتضح من الاختلافات في التنبؤ لمدة 12 ساعة لخط الأيزوهيدرو 588 دام.

في المقابل، أظهرت تجربة الخسارة متعددة المقاييس توافقًا أقرب مع تحليل ERA5، خاصة في الحقول الأكثر سلاسة مثل الجيوإمكانات عند 500 هكتوباسكال. أكدت التحليلات الطيفية أيضًا أن دالة خسارة متعددة المقاييس تقيد بشكل فعال التباين على المقياس الصغير مقارنة بدالة الخسارة غير المدركة للمقياس. كان هذا التأثير أكثر وضوحًا في الحقول التي تتميز بتدرجات سلسة، بينما كانت الاختلافات في الخصائص الطيفية أقل أهمية بالنسبة لمتغيرات أخرى. بشكل عام، تشير النتائج إلى أنه بينما تنتج كلتا دالتي الخسارة درجات مهارة مماثلة، فإن دالة الخسارة متعددة المقاييس توفر تمثيلًا أكثر دقة لبعض الظواهر الجوية.

المناقشة

في هذا القسم، يناقش المؤلفون تنفيذ ومزايا دالة خسارة متعددة المقاييس في التنبؤ الاحتمالي، خاصة في سياق التنبؤ بالطقس العالمي على المتنوعات. يقدمون دالة خسارة غير مدركة للمقياس، تُعرف باستخدام قاعدة تسجيل $S$، التي تقوم بمتوسط التنبؤات عبر متنوع $M$. في المقابل، تتضمن دالة الخسارة متعددة المقاييس سلسلة من مشغلات التنعيم $D_i$ التي تقسم الدالة إلى مقاييس متعددة، مما يسمح بمجموع مرجح من الخسائر عبر هذه المقاييس. يهدف هذا النهج إلى تعزيز قدرة النموذج على التقاط التباين عند دقات مكانية مختلفة، وهو أمر حاسم للتنبؤ الدقيق بالطقس.

يظهر المؤلفون فائدة دالة الخسارة متعددة المقاييس من خلال دراسة محاكاة تتضمن موجات جيبية، مما يوضح أنه بينما تظل دالة الخسارة غير المدركة للمقياس غير متغيرة بالنسبة لعدد الموجات للتنبؤات، فإن دالة الخسارة متعددة المقاييس تحدد بشكل فعال عدد الموجات المستهدفة. كما يقارنون بين نسختين من نموذج AIFS-CRPS—واحدة تستخدم دالة الخسارة غير المدركة للمقياس والأخرى تستخدم دالة الخسارة متعددة المقاييس—مبرزين أن الأخيرة تحسن تمثيل التباين دون المساس بمهارة التنبؤ. تؤكد المناقشة على إمكانية دالة الخسارة متعددة المقاييس في تحسين التنبؤات الاحتمالية من خلال استهداف مقاييس معينة، مما يقلل من التباين الزائف ويعزز الواقعية الفيزيائية للتنبؤات. ستركز الأعمال المستقبلية على تحسين المعلمات الفائقة لمواجهة تحديات التنبؤ المختلفة.

Journal: Quarterly Journal of the Royal Meteorological Society
DOI: https://doi.org/10.1002/qj.70291
Publication Date: 2026-09-04
Author(s): Simon T. K. Lang et al.
Primary Topic: Meteorological Phenomena and Simulations

Overview

This research investigates the efficacy of a multi-scale loss formulation in training probabilistic machine-learned weather forecasting models, specifically focusing on the AIFS-CRPS model developed by the European Centre for Medium-Range Weather Forecasts (ECMWF). The study demonstrates that the multi-scale loss effectively constrains small-scale variability in forecasts without compromising overall forecast skill, suggesting a significant advancement in scale-aware model training methodologies.

The findings indicate that incorporating a multi-scale loss function into proper-score-based training, particularly with the almost fair continuous ranked probability score (afCRPS), enhances the representation of variability in weather forecasts. Importantly, while the forecast skill remains stable, the physical realism of the forecast fields is improved. This approach presents promising opportunities for optimizing proper-score techniques across various predictive tasks in meteorology and beyond.

Introduction

In recent years, probabilistic machine-learned weather prediction models have emerged as strong competitors to traditional physics-based numerical weather prediction (NWP) systems, demonstrating comparable or superior skill (Kochkov et al., 2024; Price et al., 2023; Lang et al., 2024c,b). The AIFS-CRPS model, developed at the European Centre for Medium-Range Weather Forecasts (ECMWF), leverages a proper scoring rule known as the almost fair continuous ranked probability score (afCRPS) to optimize predictions. By shaping Gaussian noise to capture atmospheric uncertainty, AIFS-CRPS achieves ensemble forecast skill that rivals the physics-based Integrated Forecasting System (IFS) ensemble (Molteni et al., 1996; Leutbecher and Palmer, 2008; Lang et al., 2021, 2023).

Despite the effectiveness of the afCRPS loss function, which is computed point-wise across the output field, atmospheric processes operate across multiple scales, each contributing differently to the overall loss. Previous studies have explored scale-dependent verification of ensemble forecasts using wavelets and spectral band-pass filters (Casati and Wilson, 2007; Jung and Leutbecher, 2008), highlighting the importance of spatial scale in forecast skill. However, standard scoring rules typically neglect this aspect. Notably, Kochkov et al. (2024) introduced a spectral CRPS term in their hybrid model, which combines a differentiable solver for atmospheric dynamics with a machine-learned physics module. This raises the question of whether incorporating a multi-scale component into the afCRPS training objective could enhance the performance of AIFS-CRPS by allowing for separate evaluation of different spatial scales, potentially leading to improved spatial structures in the forecasts.

Methods

The methodology section outlines the research design and analytical techniques employed to investigate the study’s hypotheses. The authors utilized a mixed-methods approach, combining quantitative data collection through surveys and qualitative insights from interviews. This dual approach allowed for a comprehensive understanding of the phenomena under study.

Quantitative data were analyzed using statistical software, applying techniques such as regression analysis to identify significant relationships between variables. Qualitative data from interviews were coded thematically to extract key patterns and insights, providing depth to the quantitative findings. The integration of these methods facilitated a robust examination of the research questions, ensuring that both numerical trends and personal experiences were adequately represented in the results.

Results

The results of the study evaluate the effectiveness of a multi-scale loss function in ensemble forecasting by comparing it to a scale-unaware loss function. Both approaches were applied to an AIFS-CRPS model, with forecasts generated daily throughout 2019, initialized from ERA5 analyses. The skill scores for both methods were found to be nearly identical, indicating comparable overall forecasting performance. However, a detailed examination of individual forecast fields revealed that the scale-unaware loss experiment exhibited greater small-scale variability, particularly in regions with weaker gradients, as illustrated by the differences in the 12-hour forecast of the 588 dam isohypse.

In contrast, the multi-scale loss experiment demonstrated a closer alignment with the ERA5 analysis, particularly in smoother fields such as the geopotential at 500 hPa. Spectral analysis further confirmed that the multi-scale loss function effectively constrains small-scale variability compared to the scale-unaware loss function. This effect was most pronounced in fields characterized by smooth gradients, while differences in spectral characteristics were less significant for other variables. Overall, the findings suggest that while both loss functions yield similar skill scores, the multi-scale loss function provides a more accurate representation of certain atmospheric phenomena.

Discussion

In this section, the authors discuss the implementation and advantages of a multi-scale loss function in probabilistic forecasting, particularly in the context of global weather prediction on manifolds. They introduce a scale-unaware loss, defined using a scoring rule $S$, which averages predictions over a manifold $M$. In contrast, the multi-scale loss incorporates a sequence of smoothing operators $D_i$ that partition the function into multiple scales, allowing for a weighted sum of losses across these scales. This approach aims to enhance the model’s ability to capture variability at different spatial resolutions, which is crucial for accurate weather forecasting.

The authors illustrate the utility of the multi-scale loss through a simulation study involving sine waves, demonstrating that while the scale-unaware loss remains invariant to the wavenumber of predictions, the multi-scale loss effectively identifies the target wavenumber. They further compare two versions of the AIFS-CRPS model—one using the scale-unaware loss and the other employing the multi-scale loss—highlighting that the latter improves the representation of variability without compromising forecast skill. The discussion emphasizes the potential of the multi-scale loss to refine probabilistic forecasts by targeting specific scales, thereby reducing spurious variability and enhancing the physical realism of predictions. Future work will focus on optimizing hyper-parameters for various forecasting challenges.