DOI: https://doi.org/10.1007/s11071-026-12495-8
تاريخ النشر: 2026-05-01
المؤلف: Jan C. Schulze وآخرون
الموضوع الرئيسي: تقليل النماذج والشبكات العصبية
نظرة عامة
يوفر هذا القسم نظرة شاملة على تقنيات تقليل ترتيب النموذج (MOR) الضرورية لتطوير نماذج ديناميكية فعالة حسابياً ودقيقة مناسبة للتحسين غير الخطي والتحكم في الوقت الحقيقي. ويؤكد على ضرورة تبسيط النماذج عالية الترتيب إلى تمثيلات منخفضة الترتيب مع الحفاظ على الدقة التنبؤية. يستعرض المؤلفون طرق MOR المختلفة، بما في ذلك الأساليب العامة والمخصصة لأنظمة العمليات الكيميائية، مع تسليط الضوء على خصائصها ونقاط قوتها وضعفها. ومن الجدير بالذكر أنهم يوسعون الطرق الحالية لمنحنى غاليركين لتشمل مدخلات النظام، مما يعالج فجوة كبيرة في المنهجيات الحالية.
في دراسة الحالة الخاصة بهم التي تتضمن نموذج عملية فصل الهواء، يطبق المؤلفون ثمانية تقنيات MOR راسخة، مثل POD-Galerkin و decomposizione mode الديناميكية، لتقييم أدائها. يجدون أنه على الرغم من عدم وجود طريقة تقليل مثالية عالمياً، إلا أن تقنيات معينة تتفوق تحت ظروف مختلفة. على سبيل المثال، توفر طرق الفضاء الفرعي غير التدخلية والدخيلة نماذج منخفضة الترتيب دقيقة عندما تكون هناك حاجة لتقليل كبير، بينما تكون طرق الفضاء الفرعي الخطية مثل POD-Galerkin مفضلة لتحقيق دقة عالية مع تركيز أقل على درجة التقليل. كما يحدد المؤلفون الحاجة إلى مزيد من الاستكشاف للمشكلات عالية الأبعاد ودمج التقليل الفائق ضمن أطر MOR لتعزيز قدرات التطبيق في الوقت الحقيقي. ويختتمون بالإشارة إلى التحديات التي تطرحها لعنة الأبعاد وأهمية الأساليب القوية، لا سيما في سياق التطبيقات العددية للتحسين والتحكم.
مقدمة
تناقش مقدمة هذه الورقة البحثية تعقيدات أنظمة العمليات في الهندسة الكيميائية، والتي تتميز بعدم خطيتها الكامنة بسبب عوامل مثل حركيات التفاعل والعلاقات الديناميكية الحرارية. تبرز الورقة الاعتماد المتزايد على النماذج الميكانيكية التفصيلية، وخاصة نماذج المبادئ الأولى التي تتضمن قوانين حفظ الكتلة والطاقة. بينما توفر هذه النماذج رؤى قيمة لمراقبة العمليات وتدريب المشغلين، فإنها غالباً ما تتضمن عددًا كبيرًا من المعادلات التفاضلية غير الخطية، مما يجعلها كثيفة حسابياً لتطبيقات التحسين والتحكم في الوقت الحقيقي. لمعالجة هذه التحديات، يتم استخدام تقنيات تقليل ترتيب النموذج (MOR) لتبسيط النماذج، مما يؤدي إلى نماذج منخفضة الترتيب (ROMs) تحافظ على الديناميات الأساسية للنظام مع تقليل التكاليف الحسابية.
يؤكد المؤلفون على أهمية التمييز بين النماذج كاملة الترتيب (FOMs) وROMs، لا سيما في سياق الأنظمة الموزعة مكانياً الموصوفة بواسطة المعادلات التفاضلية الجزئية. يشيرون إلى أنه على الرغم من أن FOMs يمكن أن تظهر سلوكًا متماسكًا على الرغم من أبعادها العالية، يجب أن تأخذ عملية التقليل بعين الاعتبار الديناميات الأساسية بعناية، خاصة في الأنظمة غير الخطية حيث قد لا تنطبق الافتراضات الخطية التقليدية. كما تحدد المقدمة النهج المزدوج المتمثل في دمج MOR مع تقنيات التقليل الفائق لتعزيز الكفاءة الحسابية، مما يؤدي في النهاية إلى نماذج هجينة توازن بين العناصر الميكانيكية المدفوعة بالبيانات. تهدف الورقة إلى تقديم نظرة شاملة على طرق MOR الكلاسيكية والمعاصرة، مع التركيز على تطبيقاتها في نماذج الفضاء الحالة غير الخطية وأهميتها للتحسين العددي والتحكم التنبؤي في الهندسة الكيميائية.
طرق
في هذا القسم، يستعرض المؤلفون مجموعة متنوعة من طرق تقليل ترتيب النموذج (MOR) المتطورة، مصنفين إياها إلى تقنيات عامة، وتدخلية، وغير تدخلية. تم تصميم الطرق العامة لمجموعة واسعة من الأنظمة، مع توسيع ملحوظ لطريقة منحنى غاليركين المقدمة لأخذ الاعتماد على المدخلات في الاعتبار على المنحنى البطيء. تستفيد الطرق التدخلية، مثل التحلل المتعامد المناسب (POD) ونظرية الاضطراب المفرد (SPT)، من معادلات النموذج كامل الترتيب (FOM) في عمليات تقليلها، بينما تشمل التطورات الأخيرة تقنيات التعلم الآلي. من ناحية أخرى، تعمل الطرق غير التدخلية بشكل مستقل عن معادلات FOM، وغالبًا ما تجمع بين MOR مع التقليل الفائق، ويمكن أن تستفيد من المعرفة الهيكلية حول FOM.
كما يناقش المؤلفون طرق الرفع والإسقاط، التي تعزز FOM إلى شكل أعلى الأبعاد قبل إسقاطه إلى فضاء فرعي أقل أبعادًا، مما يسهل تطبيق تقنيات MOR الخطية أو متعددة الحدود. يبرزون أهمية استنتاج المشغل غير التدخلي لتعلم نماذج منخفضة الترتيب (ROMs) من بيانات اللقطة، مع التأكيد على الاختناقات المحتملة في فصل بناء المنحنى البطيء عن الديناميات الكامنة. بالإضافة إلى ذلك، يصفون تنفيذ POD و decomposizione mode الديناميكية مع التحكم (DMDc) باستخدام مكتبات بايثون، موضحين الاستراتيجيات الحسابية المستخدمة لضمان نتائج موثوقة. يختتم القسم بوصف عملية التدريب لطرق تعلم المنحنيات (MFL)، بما في ذلك بنية شبكات التشفير التلقائي واستراتيجيات التحسين المستخدمة لتعزيز أداء النموذج.
نتائج
يقدم قسم النتائج تحليلًا شاملاً لدقة الإسقاط وتنبؤات نموذج منخفض الترتيب (ROM). في اختبارات دقة الإسقاط، تتفوق طرق الفضاء الفرعي غير الخطية، وخاصة MFLu، بشكل كبير على الطرق الخطية مثل POD و DMDc، خاصة في منطقة الترتيب المنخفض جدًا ($n_z \leq 10$)، مع اختلافات RMSE تبلغ حوالي ترتيب واحد من حيث الحجم. مع زيادة $n_z$، يتقلص الفجوة في الأداء بين MFL و MFLu، مما يشير إلى اعتمادها على خصائص المنحنى البطيء. ومن الجدير بالذكر أن الطرق غير التدخلية KW و MFL-ANN تظهر RMSE قابلة للمقارنة مع POD ولكنها تؤدي بشكل أقل مقارنة بأساليب MFL بسبب مصطلحات الفقد الإضافية في تدريبها.
في اختبارات تنبؤ ROM، تكون قيم RMSE أعلى باستمرار من تلك الموجودة في اختبارات الإسقاط، مما يشير إلى أن تنبؤات ROM أقل دقة من الإسقاطات البسيطة على فضاء ROM الفرعي. تكافح الطرق الخطية مثل POD-Galerkin و DMDc لتحقيق الدقة المطلوبة عند الترتيبات المنخفضة، حيث ينجح POD-Galerkin فقط عند $n_z = 28$. يتفوق نموذج POD-Res باستمرار على كل من POD-Galerkin و DMDc عبر جميع الترتيبات، خاصة في منطقة الترتيب المنخفض جدًا، حيث يظهر دقة مرضية. كما تظهر طرق MFL و MFLu دقة محسنة مقارنة بالطرق الخطية عند الترتيبات المنخفضة، على الرغم من ظهور مشكلات التقارب عند الترتيبات الأعلى. تظهر نماذج COMP و AGG أخطاء تنبؤ كبيرة، خاصة نموذج COMP، الذي يعاني من استجابة عكسية شديدة. بشكل عام، بينما تكون ROMs غير التدخلية أسهل في المحاكاة، فإن الدقة العالية لنموذج POD-Res تأتي على حساب زيادة التعقيد الحسابي.
مناقشة
في قسم المناقشة، يوضح المؤلفون الإطار الرياضي والمنهجيات المتعلقة بتقليل ترتيب النموذج (MOR) للأنظمة الديناميكية غير الخطية مع المدخلات الخارجية. يعرفون المفاهيم الأساسية مثل فضاء الأعمدة لمصفوفة، المعكوس الزائف، والدوال السلسة، مما يضع أساسًا لمناقشة مشكلة MOR. يقدم المؤلفون نوعين من الأنظمة: المعادلات التفاضلية العادية (ODEs) والمعادلات التفاضلية الجبرية شبه الصريحة (DAEs)، مع التأكيد على أن تقنيات MOR تُؤطر بشكل أساسي ضمن سياق ODE، على الرغم من أنه يمكن تكييفها للـ DAEs ذات المؤشر الواحد. يتم تقديم صياغة مشكلة MOR، حيث الهدف هو اشتقاق DAE منخفض الترتيب يقترب من ديناميات نموذج كامل الترتيب (FOM) مع الحفاظ على خطأ تنبؤ صغير.
يناقش المؤلفون أيضًا أهمية المنحنيات الثابتة في سياق MOR، مع تسليط الضوء على العلاقة بين ديناميات FOM ونموذج منخفض الترتيب (ROM). يشيرون إلى أن إسقاط FOM على منحنى ثابت يسمح بتمثيل مخفض يكون صالحًا ضمن هذا الفضاء الفرعي، بينما يتناولون أيضًا التحديات التي تطرحها المدخلات المتغيرة مع الزمن. يختتم القسم بتحديد منهجيات مختلفة لبناء نماذج مخفضة، بما في ذلك التحلل المتعامد المناسب (POD) ونظرية الاضطراب المفرد (SPT)، ويقدمون طريقة منحنى غاليركين، التي تستفيد من تقنيات التعلم الآلي لتقريب المنحنى من بيانات اللقطة. تضع هذه المناقشة الشاملة الأساس لاستكشاف تقنيات MOR المحددة وتطبيقاتها.
DOI: https://doi.org/10.1007/s11071-026-12495-8
Publication Date: 2026-05-01
Author(s): Jan C. Schulze et al.
Primary Topic: Model Reduction and Neural Networks
Overview
The section provides a comprehensive overview of model order reduction (MOR) techniques essential for developing computationally efficient and accurate dynamical models suitable for real-time nonlinear optimization and control. It emphasizes the necessity of simplifying high-order models to lower-order representations while maintaining predictive accuracy. The authors review various MOR methods, including both general-purpose and tailored approaches for chemical process systems, highlighting their characteristics, strengths, and weaknesses. Notably, they extend existing manifold-Galerkin methods to incorporate system inputs, addressing a significant gap in current methodologies.
In their case study involving an air separation process model, the authors apply eight established MOR techniques, such as POD-Galerkin and dynamic mode decomposition, to evaluate their performance. They find that while there is no universally optimal reduction method, specific techniques excel under different conditions. For instance, intrusive and non-intrusive nonlinear subspace methods yield accurate low-order models when high reduction is required, while linear subspace methods like POD-Galerkin are preferable for achieving high accuracy with less emphasis on reduction degree. The authors also identify the need for further exploration of higher-dimensional problems and the integration of hyperreduction within MOR frameworks to enhance real-time application capabilities. They conclude by noting the challenges posed by the curse of dimensionality and the importance of robust methods, particularly in the context of numerical optimization and control applications.
Introduction
The introduction of this research paper discusses the complexities of process systems in chemical engineering, which are characterized by their inherent nonlinearity due to factors such as reaction kinetics and thermodynamic relationships. The paper highlights the increasing reliance on detailed mechanistic models, particularly first-principles models that incorporate mass and energy conservation laws. While these models provide valuable insights for process monitoring and operator training, they often involve a high number of nonlinear differential equations, making them computationally intensive for real-time optimization and control applications. To address these challenges, model order reduction (MOR) techniques are employed to simplify models, resulting in reduced-order models (ROMs) that maintain essential system dynamics while decreasing computational costs.
The authors emphasize the importance of distinguishing between full-order models (FOMs) and ROMs, particularly in the context of spatially distributed systems described by partial differential equations. They note that while FOMs can exhibit coherent behavior despite their high dimensionality, the reduction process must carefully consider the underlying dynamics, especially in nonlinear systems where traditional linear assumptions may not hold. The introduction also outlines the dual approach of combining MOR with hyperreduction techniques to further enhance computational efficiency, ultimately leading to hybrid models that balance mechanistic and data-driven elements. The paper aims to provide a comprehensive overview of classical and contemporary MOR methods, focusing on their application in nonlinear state-space models and their relevance to numerical optimization and model predictive control in chemical engineering.
Methods
In this section, the authors review various state-of-the-art model order reduction (MOR) methods, categorizing them into general-purpose, intrusive, and non-intrusive techniques. General-purpose methods are designed for a broad range of systems, with a notable extension of the manifold-Galerkin method introduced to account for input dependence on the slow manifold. Intrusive methods, such as proper orthogonal decomposition (POD) and singular perturbation theory (SPT), leverage the full order model (FOM) equations in their reduction processes, while recent advancements incorporate machine learning techniques. Non-intrusive methods, on the other hand, operate independently of the FOM equations, often combining MOR with hyperreduction, and can utilize structural knowledge about the FOM.
The authors also discuss lift-and-project methods, which enhance the FOM into a higher-dimensional form before projecting it to a lower-dimensional subspace, facilitating the application of linear or polynomial MOR techniques. They highlight the importance of non-intrusive operator inference for learning reduced-order models (ROMs) from snapshot data, emphasizing the potential bottlenecks in separating the construction of the slow manifold from the latent dynamics. Additionally, they describe the implementation of POD and dynamic mode decomposition with control (DMDc) using Python libraries, detailing the computational strategies employed to ensure reliable results. The section concludes with a description of the training process for manifold learning (MFL) methods, including the architecture of autoencoder networks and the optimization strategies used to enhance model performance.
Results
The results section presents a comprehensive analysis of projection accuracy and reduced-order model (ROM) predictions. In the projection accuracy tests, the nonlinear subspace methods, particularly MFLu, significantly outperform linear methods like POD and DMDc, especially in the very-low-order region ($n_z \leq 10$), with RMSE differences of approximately one order of magnitude. As $n_z$ increases, the performance gap between MFL and MFLu narrows, indicating a dependency on the slow manifold’s characteristics. Notably, the non-intrusive methods KW and MFL-ANN show comparable RMSE to POD but underperform relative to MFL methods due to additional loss terms in their training.
In the ROM prediction tests, the RMSE values are consistently higher than those in the projection tests, indicating that ROM predictions are less accurate than simple projections onto the ROM subspace. Linear methods like POD-Galerkin and DMDc struggle to achieve desired accuracy at low orders, with POD-Galerkin only succeeding at $n_z = 28$. The POD-Res model consistently outperforms both POD-Galerkin and DMDc across all orders, particularly in the very-low-order region, where it demonstrates satisfactory precision. The MFL and MFLu methods also show improved accuracy over linear methods at low orders, although convergence issues arise at higher orders. The COMP and AGG models exhibit significant prediction errors, particularly the COMP model, which suffers from severe inverse response. Overall, while non-intrusive ROMs are easier to simulate, the high accuracy of the POD-Res model comes at the cost of increased computational complexity.
Discussion
In the discussion section, the authors elaborate on the mathematical framework and methodologies pertinent to model order reduction (MOR) for nonlinear dynamical systems with external inputs. They define key concepts such as the column space of a matrix, pseudoinverse, and smooth functions, establishing a foundation for discussing the MOR problem. The authors introduce two types of systems: ordinary differential equations (ODEs) and semi-explicit differential-algebraic equations (DAEs), emphasizing that MOR techniques are primarily framed within the ODE context, although they can be adapted for index-one DAEs. The formulation of the MOR problem is presented, where the goal is to derive a low-order DAE that approximates the dynamics of a full-order model (FOM) while maintaining a small prediction error.
The authors further discuss the significance of invariant manifolds in the context of MOR, highlighting the relationship between the dynamics of the FOM and the reduced-order model (ROM). They note that the projection of the FOM onto an invariant manifold allows for a reduced representation that is valid within this subspace, while also addressing the challenges posed by time-varying inputs. The section concludes by outlining various methodologies for constructing reduced models, including the Proper Orthogonal Decomposition (POD) and Singular Perturbation Theory (SPT), and introduces the Manifold-Galerkin method, which leverages machine learning techniques to approximate the manifold from snapshot data. This comprehensive discussion sets the stage for the subsequent exploration of specific MOR techniques and their applications.