تقليل النموذج غير الخطي من خلال تحليل الاحتمالات
Nonlinear Model Reduction by Probabilistic Manifold Decomposition

المجلة: SIAM Journal on Scientific Computing، المجلد: 48، العدد: 1
DOI: https://doi.org/10.1137/25m1738863
تاريخ النشر: 2026-01-07
المؤلف: Jiaming Guo وآخرون
الموضوع الرئيسي: أنظمة الكشف عن الأعطال والتحكم

نظرة عامة

تقدم هذه الورقة تقنية جديدة لتقليل النماذج غير الخطية تُعرف باسم تحليل التوزيع الاحتمالي (PMD)، والتي تعمل كإطار لتطوير نماذج منخفضة الترتيب غير التدخلية (ROMs). يقوم PMD بدمج الأنظمة عالية الأبعاد في مجالات احتمالية منخفضة الأبعاد، مما يمكّن من التنبؤ بالسلوكيات الديناميكية مع التقاط كل من الخصائص الخطية وغير الخطية للنظام. ميزة كبيرة لـ PMD هي قدرته التنبؤية، التي تسمح بتوليد حالات ديناميكية مستقرة بناءً على التمثيلات المدمجة. تستند الطريقة إلى إطار رياضي صارم يضمن تقارب مصفوفات الميزات الخطية والمجالات الاحتمالية منخفضة الأبعاد، مما يضمن أن الاقترابات المعتمدة على العينات تقترب من التوزيعات الحقيقية للبيانات مع زيادة أحجام العينات.

تتكون منهجية PMD من مكونين رئيسيين: تقليل الأبعاد الخطية من خلال تحليل القيم الفردية (SVD) وبناء مجال احتمالي منخفض الأبعاد باستخدام عملية ماركوف وتعلم المسافة الجيوديسية. لا تلتقط هذه المقاربة المزدوجة الميزات الأساسية للنظام فحسب، بل تقوم أيضًا بنمذجة الديناميات غير الخطية المعقدة بشكل فعال. أظهرت التجارب العددية التي أجريت باستخدام نموذج CFD مفتوح المصدر، Fluidity، أن PMD يقلل بشكل كبير من التكاليف الحسابية مع الحفاظ على دقة النظام. على عكس الأساليب الحديثة في التعلم العميق، يوفر PMD معادلات صريحة لتمثيل النظام، متجنبًا طبيعة “الصندوق الأسود” للطرق الأخرى. تشير النتائج إلى أن PMD مناسب بشكل خاص للتطبيقات التي تتضمن عدم الخطية العالية، مع إمكانية التمديدات المستقبلية إلى سيناريوهات ديناميات السوائل المعقدة مثل التدفق متعدد الأطوار ونمذجة المدن. ترتبط الأداء التنبؤي لـ PMD ارتباطًا وثيقًا بجودة بيانات التدريب وبناء المجال الاحتمالي.

مقدمة

في مجال الهندسة الحاسوبية، يمثل التعامل مع المشكلات عالية الأبعاد تحديات كبيرة بسبب التكلفة الحسابية المرتبطة بتفكيك المعادلات الحاكمة المعقدة. على الرغم من الأبعاد العالية، غالبًا ما توجد الحلول على مجالات منخفضة الأبعاد، مما يشير إلى إمكانية تقنيات نمذجة منخفضة الترتيب (ROM) التي يمكن أن تبسط الحسابات مع الحفاظ على ديناميات النظام الأساسية. تسهل ROMs المحاكاة الفعالة والحلول في الوقت الحقيقي، مما يجعلها ضرورية للتطبيقات الحساسة للوقت مثل تحسين المعلمات والمحاكاة على نطاق واسع. لقد عززت التطورات الأخيرة في التعلم الآلي قدرات ROM، لا سيما في الدقة التنبؤية عبر مجالات مختلفة، بما في ذلك ديناميات السوائل الحاسوبية والهندسة الطبية الحيوية.

تقدم هذه الورقة طريقة جديدة لتقليل النماذج غير الخطية تُعرف باسم تحليل التوزيع الاحتمالي (PMD)، والتي تهدف إلى التغلب على قيود تقنيات ROM التقليدية، لا سيما في التقاط الديناميات غير الخطية. يستخدم PMD نهجًا من خطوتين: أولاً، يستخدم تحليل القيم الفردية (SVD) لاستخراج المكونات الخطية، تليه إسقاط المكونات غير الخطية على مجال احتمالي. تلتقط هذه الطريقة بفعالية كل من العلاقات الهندسية المحلية والعالمية ضمن ديناميات النظام باستخدام عملية ماركوف لبناء رسم بياني للتشابه والمسافة الجيوديسية لتمثيل المجال. لا يتنبأ إطار عمل PMD فقط بالحالات المستقبلية للنظام من خلال مزيج من تحليل الوضع الديناميكي للمكونات الخطية والتطور الاحتمالي للمكونات غير الخطية، ولكنه يضمن أيضًا التقارب نحو الديناميات الحقيقية للنظام الكامل مع توفر المزيد من البيانات. يتم إثبات فعالية PMD من خلال دراسات حالة ديناميات السوائل، مما يظهر قدرته على نمذجة سلوكيات معقدة مثل انبعاث الدوامات وعمليات الانتشار بدقة.

نقاش

يتناول قسم النقاش في ورقة البحث المعادلات الحاكمة لديناميات السوائل، وبشكل خاص معادلات نافير-ستوكس غير القابلة للضغط، والتي تشمل معادلة الاستمرارية ($\nabla \cdot \mathbf{u} = 0$) ومعادلة حفظ الزخم ($\frac{\partial \mathbf{u}}{\partial t} + (\mathbf{u} \cdot \nabla)\mathbf{u} + \mathbf{f} \times \mathbf{u} = -\nabla p + \nabla \cdot \boldsymbol{\tau}$). تقدم الورقة تحليل التوزيع الاحتمالي (PMD)، وهي طريقة مدفوعة بالبيانات تقلل الأنظمة عالية الأبعاد إلى مجالات منخفضة الأبعاد مع الحفاظ على الميزات الأساسية، مما يلتقط بفعالية كل من الديناميات الخطية وغير الخطية. تستخدم طريقة PMD تقليل الأبعاد الخطية من خلال تحليل القيم الفردية (SVD) وتبني رسم بياني متجاور مرجح لتمثيل تشابه نقاط البيانات، مستفيدة من المسافات الجيوديسية لتمثيل المجال بدقة أكبر.

يتناول القسم أيضًا تفاصيل بناء مصفوفة الانتقال، التي تقوم بتطبيع مصفوفة التجاور لتعكس احتمالات الانتقال بين نقاط البيانات، ويحدد العملية لبناء المجال الاحتمالي من خلال تحليل القيم الذاتية. تمتد قدرة PMD إلى التنبؤ بالحالات الديناميكية من خلال معالجة الحدود الخطية أولاً ثم تحسين التنبؤات من خلال الديناميات غير الخطية. يتم تسليط الضوء على متانة الطريقة من خلال قدرتها على التقاط كل من الميزات العالمية والمحلية للأنظمة المعقدة، مما يضمن الحفاظ على 95% على الأقل من تباين النظام في التمثيل المخفض. بالإضافة إلى ذلك، يتم تقديم تحليل التقارب، مما يؤكد موثوقية PMD في تقريب التوزيع الأساسي وضمان دقة كل من الديناميات الخطية وغير الخطية من خلال أطر رياضية صارمة.

Journal: SIAM Journal on Scientific Computing, Volume: 48, Issue: 1
DOI: https://doi.org/10.1137/25m1738863
Publication Date: 2026-01-07
Author(s): Jiaming Guo et al.
Primary Topic: Fault Detection and Control Systems

Overview

This paper introduces a novel non-linear model reduction technique known as Probabilistic Manifold Decomposition (PMD), which serves as a framework for developing non-intrusive reduced-order models (ROMs). PMD effectively embeds high-dimensional systems into low-dimensional probabilistic manifolds, enabling the prediction of dynamic behaviors while capturing both linear and non-linear characteristics of the system. A significant advantage of PMD is its predictive capability, which allows for the generation of stable dynamic states based on embedded representations. The method is underpinned by a rigorous mathematical framework that ensures convergence of linear feature matrices and low-dimensional probabilistic manifolds, thereby guaranteeing that sample-based approximations approach true data distributions as sample sizes increase.

The PMD methodology comprises two primary components: linear dimensionality reduction via Singular Value Decomposition (SVD) and the construction of a low-dimensional probabilistic manifold using a Markov process and geodesic distance learning. This dual approach not only captures the essential features of the system but also effectively models complex non-linear dynamics. Numerical experiments conducted using the open-source finite element CFD model, Fluidity, demonstrated that PMD significantly reduces computational costs while maintaining system accuracy. Unlike contemporary deep learning approaches, PMD offers explicit equations for system representation, avoiding the “black box” nature of other methods. The findings suggest that PMD is particularly well-suited for applications involving high non-linearity, with potential future extensions to complex fluid dynamics scenarios such as multi-phase flow and urban modeling. The predictive performance of PMD is closely tied to the quality of the training data and the construction of the probabilistic manifold.

Introduction

In the realm of computational engineering, addressing high-dimensional problems poses significant challenges due to the computational expense associated with the discretization of complex governing equations. Despite the high dimensionality, solutions often reside on low-dimensional manifolds, suggesting the potential for reduced-order modeling (ROM) techniques that can streamline computations while preserving essential system dynamics. ROMs facilitate efficient simulations and real-time solutions, making them vital for time-sensitive applications such as parameter optimization and large-scale simulations. Recent advancements in machine learning have further enhanced ROM capabilities, particularly in predictive accuracy across various fields, including computational fluid dynamics and biomedical engineering.

This paper introduces a novel nonlinear model reduction method called Probabilistic Manifold Decomposition (PMD), which aims to overcome the limitations of traditional ROM techniques, particularly in capturing nonlinear dynamics. PMD employs a two-step approach: first, it utilizes Singular Value Decomposition (SVD) to extract linear components, followed by projecting nonlinear components onto a probabilistic manifold. This method effectively captures both local and global geometric relationships within the system’s dynamics using a Markov process to construct a similarity graph and geodesic distance for manifold representation. The PMD framework not only predicts future states of the system through a combination of dynamic mode decomposition for linear components and probabilistic evolution for nonlinear components but also ensures convergence to the true dynamics of the full system as more data becomes available. The effectiveness of PMD is demonstrated through fluid dynamics case studies, showcasing its ability to accurately model complex behaviors such as vortex shedding and diffusion processes.

Discussion

The discussion section of the research paper elaborates on the governing equations for fluid dynamics, specifically the non-compressible Navier-Stokes equations, which include the continuity equation ($\nabla \cdot \mathbf{u} = 0$) and the momentum conservation equation ($\frac{\partial \mathbf{u}}{\partial t} + (\mathbf{u} \cdot \nabla)\mathbf{u} + \mathbf{f} \times \mathbf{u} = -\nabla p + \nabla \cdot \boldsymbol{\tau}$). The paper introduces Probabilistic Manifold Decomposition (PMD), a data-driven method that reduces high-dimensional systems to low-dimensional manifolds while preserving essential features, effectively capturing both linear and nonlinear dynamics. The PMD method employs linear dimensionality reduction through Singular Value Decomposition (SVD) and constructs a weighted adjacency graph to represent data point similarities, utilizing geodesic distances for more accurate manifold representation.

The section further details the construction of the transition matrix, which normalizes the adjacency matrix to reflect transition probabilities between data points, and outlines the process for constructing the probabilistic manifold through eigenvalue decomposition. PMD’s capability extends to predicting dynamic states by first addressing linear terms and then refining predictions through nonlinear dynamics. The method’s robustness is highlighted by its ability to capture both global and local features of complex systems, ensuring that at least 95% of the system’s variance is preserved in the reduced representation. Additionally, a convergence analysis is presented, confirming the reliability of PMD in approximating the underlying distribution and ensuring the accuracy of both linear and nonlinear dynamics through rigorous mathematical frameworks.