DOI: https://doi.org/10.1007/s10444-026-10294-8
تاريخ النشر: 2026-03-03
المؤلف: Harsh Sharma وآخرون
الموضوع الرئيسي: تقليل النماذج والشبكات العصبية
نظرة عامة
تقدم هذه البحث طريقة Lift & Learn التي تحافظ على الهيكل، وهي نهج جديد في تعلم الآلة العلمية مصمم لإنشاء نماذج من الدرجة المنخفضة (ROMs) للمعادلات التفاضلية الجزئية غير الخطية (PDEs) التي تحافظ على الخصائص الفيزيائية الأساسية. من خلال استخدام تحويلات المتغيرات الرافعة واستراتيجية تربيع الطاقة، تستنتج الطريقة نظامًا رافعًا مكافئًا تربيعيًا يحافظ على قوانين الحفظ الموجودة في PDEs الأصلية. الديناميات الناتجة خطية في المتغيرات الأصلية، مما يسهل تعلم النموذج بشكل فعال. تقوم الطريقة بصياغة مشكلة تحسين مقيدة لتعلم المشغلين المخفضين الخطيين المتبقيين مع ضمان احترام النماذج للفيزياء الأساسية.
تظهر النتائج أن الطريقة المقترحة تنتج ROMs تربيعية فعالة حسابيًا تتنافس مع التقنيات الحديثة الموجودة من حيث الدقة والكفاءة. من خلال أمثلة عددية، بما في ذلك معادلة الموجة أحادية البعد ومعادلات كلاين-غوردون-زاخاروف ثنائية البعد، تظهر طريقة Lift & Learn التي تحافظ على الهيكل قدرتها على التعميم وتقديم توقعات دقيقة مع خطأ طاقة محدود يتجاوز بيانات التدريب. كما يحدد البحث اتجاهات البحث المستقبلية، مثل أتمتة اشتقاق الحدود التربيعية واستكشاف الاستقرار على المدى الطويل للنماذج المخفضة المتعلمة، مما يشير إلى إمكانيات الطريقة لتطبيقات أوسع في PDEs المحافظة المترابطة.
مقدمة
تناقش مقدمة هذه الورقة البحثية طرق تقليل النموذج التي تهدف إلى اشتقاق نماذج من الدرجة المنخفضة (ROMs) التي تقارب بدقة حلول النموذج الكامل (FOM)، خاصة في سياق المعادلات التفاضلية الجزئية المحافظة (PDEs). يؤكد المؤلفون على أهمية ROMs التي تحافظ على الهيكل والتي تحترم الفيزياء الأساسية للمشاكل عالية الأبعاد، خاصة للتطبيقات التي تتطلب تقييمات متكررة للنموذج، مثل التحسين والتحكم. تسلط الورقة الضوء على التحديات المرتبطة بالطرق المتطفلة الموجودة، والتي تتطلب الوصول إلى مشغلات FOM عالية الأبعاد وغالبًا ما تعاني من عدم الكفاءة الحسابية، خاصة عند التعامل مع المكونات غير الخطية.
يستعرض المؤلفون تطور تقنيات تقليل النموذج التي تحافظ على الهيكل، بما في ذلك ROMs الهاميلتونية واستراتيجيات التخفيف المختلفة، مع الإشارة إلى قيودها. يقدمون نهج Lift & Learn، الذي يدمج التحولات الرافعة مع استنتاج المشغل لتعلم ROMs تربيعية من البيانات بشكل غير متطفل، مما يتجنب الحاجة إلى التخفيف المفرط. ومع ذلك، فإن طريقة Lift & Learn القياسية لا تضمن الالتزام بالمبادئ الفيزيائية للمشكلة الأصلية. الهدف الرئيسي من هذا العمل هو تطوير طريقة Lift & Learn التي تحافظ على الهيكل والتي تولد ROMs تربيعية للمعادلات التفاضلية الجزئية المحافظة غير الخطية، مما يضمن كفاءة حسابية ووفاء للفيزياء الأساسية.
النتائج
في هذا القسم، يتم تقييم الأداء العددي لطريقة Lift & Learn التي تحافظ على الهيكل المقترحة عبر ثلاث معادلات تفاضلية جزئية محافظة غير خطية (PDEs): معادلة الموجة غير الخطية أحادية البعد، ومعادلة ساين-غوردون ثنائية البعد، ومعادلات كلاين-غوردون-زاخاروف ثنائية البعد. تستخدم التجارب MATLAB للتنفيذ، مع تفاصيل محددة عن الموارد الحسابية لكل حالة. يتم استخدام خطأ الحالة النسبي، الذي يُعرف بأنه
\[
\text{خطأ الحالة النسبي في } q = \frac{\|Q – \Phi Q\|_F^2}{\|Q\|_F^2},
\]
لتقييم دقة نماذج الدرجة المنخفضة (ROMs)، بينما يتم استخدام مقياس الفعالية، الذي يُحسب على أنه
\[
\text{الفعالية} = \frac{1}{\text{خطأ الحالة النسبي في نظام بيانات التدريب} \times \text{زمن الساعة الجدارية بالثواني}},
\]
لتقييم التوازن بين التكلفة والدقة.
تشير النتائج إلى أن ROMs التربيعية المستمدة من نهج Lift & Learn الذي يحافظ على الهيكل تحقق دقة قابلة للمقارنة مع تلك التي تم الحصول عليها من خلال طرق الرفع المتطفلة وHOpInf، بينما تظهر كفاءة حسابية متفوقة. على وجه الخصوص، بالنسبة لمعادلات كلاين-غوردون-زاخاروف، تحافظ ROMs Lift & Learn التي تحافظ على الهيكل على خطأ طاقة FOM محدود أقل من \(10^{-3}\) طوال فترة المحاكاة، مع بقاء مصطلحات الاضطراب أصغر بكثير. بالإضافة إلى ذلك، يُظهر فعالية ROMs المتعلمة أنها تتحسن مع الأبعاد المخفضة حتى عتبة معينة، بعد ذلك تتناقص الأداء. بشكل عام، تؤكد النتائج قدرة الطريقة على تقديم توقعات دقيقة ومستقرة حتى خارج نظام بيانات التدريب.
المناقشة
في هذا القسم، يناقش المؤلفون تطوير والتحقق من صحة نهج Lift & Learn الذي يحافظ على الهيكل (sp Lift & Learn) لتعلم نماذج من الدرجة المنخفضة (ROMs) للمعادلات التفاضلية الجزئية المحافظة غير الخطية (PDEs). تم تصميم طريقة sp Lift & Learn لضمان أن ROMs المتعلمة تحافظ على طاقة النموذج الكامل المرفوع المضطرب (FOM) بدقة، وبالتالي تحترم الفيزياء الأساسية للنظام. يقدم المؤلفون نتيجة نظرية توضح أن ROMs sp Lift & Learn تحافظ على حفظ الطاقة، وهو أمر حاسم لمحاكاة دقيقة للظواهر الفيزيائية التي تحكمها PDEs المحافظة.
توضح الورقة المنهجية، بدءًا من نهج Lift & Learn القياسي، الذي يتضمن تحويلات الرفع لكشف الهيكل التربيعي للديناميات غير الخطية. ثم يقدم المؤلفون تحويلات الرفع التي تربيع الطاقة والتي تضمن أن ROMs الناتجة تحتوي فقط على مصطلحات خطية وتربيعية، مما يبسط عملية التعلم من خلال الحاجة فقط إلى استنتاج المصطلحات الخطية من البيانات. تم إجراء تجارب عددية على ثلاث PDEs محافظة غير خطية، بما في ذلك معادلة الموجة غير الخطية أحادية البعد، ومعادلة ساين-غوردون ثنائية البعد، ومعادلة كلاين-غوردون-زاخاروف. تشير النتائج إلى أن ROMs sp Lift & Learn لا توفر فقط توقعات دقيقة خارج نظام بيانات التدريب ولكن أيضًا تظهر كفاءة حسابية قابلة للمقارنة مع ROMs الهاميلتونية الحديثة، مما يبرز فعالية الطريقة المقترحة في الحفاظ على الخصائص الفيزيائية الأساسية للأنظمة المودلة.
DOI: https://doi.org/10.1007/s10444-026-10294-8
Publication Date: 2026-03-03
Author(s): Harsh Sharma et al.
Primary Topic: Model Reduction and Neural Networks
Overview
This research introduces the structure-preserving Lift & Learn method, a novel scientific machine learning approach designed to create reduced-order models (ROMs) for nonlinear partial differential equations (PDEs) that conserve essential physical properties. By employing lifting variable transformations and an energy-quadratization strategy, the method derives an equivalent quadratic lifted system that maintains the conservation laws inherent in the original PDEs. The resulting dynamics are linear in the original variables, facilitating effective model learning. The approach formulates a constrained optimization problem to learn the remaining linear reduced operators while ensuring the models respect the underlying physics.
The findings demonstrate that the proposed method produces computationally efficient quadratic ROMs that are competitive with existing state-of-the-art techniques in terms of accuracy and efficiency. Through numerical examples, including the one-dimensional wave equation and the two-dimensional Klein-Gordon-Zakharov equations, the structure-preserving Lift & Learn method shows its ability to generalize and provide accurate predictions with bounded energy error beyond the training data. The study also outlines future research directions, such as automating the derivation of quadratic reduced terms and exploring the long-term stability of the learned ROMs, indicating the method’s potential for broader applications in coupled conservative PDEs.
Introduction
The introduction of this research paper discusses model reduction methods aimed at deriving reduced-order models (ROMs) that accurately approximate full-order model (FOM) solutions, particularly in the context of conservative partial differential equations (PDEs). The authors emphasize the importance of structure-preserving ROMs that respect the underlying physics of high-dimensional problems, especially for applications requiring frequent model evaluations, such as optimization and control. The paper highlights the challenges associated with existing intrusive methods, which necessitate access to high-dimensional FOM operators and often suffer from computational inefficiencies, particularly when dealing with nonlinear components.
The authors outline the evolution of structure-preserving model reduction techniques, including Hamiltonian ROMs and various hyper-reduction strategies, while noting their limitations. They introduce the Lift & Learn approach, which integrates lifting transformations with Operator Inference to nonintrusively learn quadratic ROMs from data, thus avoiding the need for hyper-reduction. However, the standard Lift & Learn method does not guarantee adherence to the physical principles of the original problem. The primary objective of this work is to develop a structure-preserving Lift & Learn method that generates quadratic ROMs for nonlinear conservative PDEs, thereby ensuring both computational efficiency and fidelity to the underlying physics.
Results
In this section, the numerical performance of the proposed structure-preserving Lift & Learn method is evaluated across three nonlinear conservative partial differential equations (PDEs): the one-dimensional nonlinear wave equation, the two-dimensional sine-Gordon equation, and the two-dimensional Klein-Gordon-Zakharov equations. The experiments utilize MATLAB for implementation, with specific computational resources detailed for each case. The relative state error, defined as
\[
\text{Relative state error in } q = \frac{\|Q – \Phi Q\|_F^2}{\|Q\|_F^2},
\]
is employed to assess the accuracy of reduced-order models (ROMs), while the efficacy metric, calculated as
\[
\text{Efficacy} = \frac{1}{\text{relative state error in training data regime} \times \text{wall-clock time in seconds}},
\]
is used to evaluate the cost-accuracy tradeoff.
The results indicate that the quadratic ROMs derived from the structure-preserving Lift & Learn approach achieve comparable accuracy to those obtained through intrusive lifting and HOpInf methods, while demonstrating superior computational efficiency. Specifically, for the Klein-Gordon-Zakharov equations, the structure-preserving Lift & Learn ROMs maintain a bounded FOM energy error below \(10^{-3}\) throughout the simulation, with perturbation terms remaining significantly smaller. Additionally, the efficacy of the learned ROMs is shown to improve with reduced dimensions up to a certain threshold, beyond which performance diminishes. Overall, the findings underscore the method’s capability to deliver accurate and stable predictions even outside the training data regime.
Discussion
In this section, the authors discuss the development and validation of a structure-preserving Lift & Learn (sp Lift & Learn) approach for learning reduced-order models (ROMs) of nonlinear conservative partial differential equations (PDEs). The sp Lift & Learn method is designed to ensure that the learned ROMs conserve the energy of the perturbed lifted full-order model (FOM) exactly, thereby respecting the underlying physics of the system. The authors present a theoretical result demonstrating that the sp Lift & Learn ROMs maintain energy conservation, which is critical for the accurate simulation of physical phenomena governed by conservative PDEs.
The paper details the methodology, starting with the standard Lift & Learn approach, which involves lifting transformations to expose the quadratic structure of the nonlinear dynamics. The authors then introduce energy-quadratizing lifting transformations that ensure the resulting ROMs contain only linear and quadratic terms, simplifying the learning process by requiring only the linear terms to be inferred from data. Numerical experiments are conducted on three nonlinear conservative PDEs, including the one-dimensional nonlinear wave equation, the two-dimensional sine-Gordon equation, and the Klein-Gordon-Zakharov equation. Results indicate that the sp Lift & Learn ROMs not only provide accurate predictions outside the training data regime but also demonstrate computational efficiency comparable to state-of-the-art Hamiltonian ROMs, thus highlighting the effectiveness of the proposed method in preserving the essential physical characteristics of the modeled systems.
