استراتيجية إثراء متوازية متسقة نظريًا لتحليل موثوقية التعلم النشط بايزي A theoretically-consistent parallel enrichment strategy for Bayesian active learning reliability analysis

المجلة: Computer Methods in Applied Mechanics and Engineering، المجلد: 437
DOI: https://doi.org/10.1016/j.cma.2025.117752
تاريخ النشر: 2025-01-22
المؤلف: Tong Zhou وآخرون
الموضوع الرئيسي: تصميم هندسي احتمالي وقوي

نظرة عامة

تقدم هذه القسم طريقة جديدة للتعلم النشط البايزي المتوازي تهدف إلى تعزيز التناسق النظري مع تقليل الاعتماد على الممارسات التجريبية في تحليل الموثوقية. يقدم البحث احتمال الخطأ المدمج (IPM) كمقياس لتقدير احتمال الفشل البايزي، مستمدًا من الحد الأعلى للانحراف المطلق المتوسط لاحتمال الفشل. لتحسين اختيار العينة، يقترح المؤلفون دالة تعلم متعددة النقاط تعرف باسم تقليل احتمال الخطأ المدمج بنقاط k (k-IPMR)، والتي تسعى إلى تعظيم التخفيض المتوقع لـ IPM من خلال اختيار دفعة من $k \geq 1$ عينات جديدة.

لمعالجة التحديات الحسابية، تتضمن الطريقة أربع استراتيجيات رئيسية: استبدال k-IPMR بنسخة فعالة حسابيًا، استخدام نهج تعظيم تدريجي، تحديد عدد العينات الجديدة لكل تكرار بشكل تكيفي، وتأسيس معيار تقارب هجين يعتمد على تخفيض IPM الفعلي. من خلال دمج الاستدلال البايزي، وعملية إثراء متعددة النقاط، ومعيار التقارب، تُظهر الطريقة المقترحة كفاءة محسنة، حيث تتطلب عددًا أقل من التكرارات مقارنةً بالأساليب الحالية. يتم التحقق من فعالية هذه الطريقة من خلال أربعة أمثلة ذات تعقيد متنوع، مما يبرز مزاياها الحسابية، خاصةً لمشاكل الموثوقية المعقدة.

مقدمة

في مجال تحليل الموثوقية الاحتمالية، يعد حساب احتمال الفشل بدقة للأنظمة الهندسية أمرًا بالغ الأهمية، نظرًا للاختلافات الجوهرية في الخصائص الفيزيائية، والأحمال الخارجية، وظروف التشغيل. تمثل هذه الاختلافات بواسطة متجه من المتغيرات العشوائية $ \mathbf{X} = \{X_1, \ldots, X_d\} $ مع دالة كثافة احتمالية مشتركة معروفة $ f_X(x) $. تعرف دالة الأداء $ G_x: \mathbb{R}^d \to \mathbb{R} $ حالة النظام، حيث يحدث الفشل عندما $ G_x \leq 0 $. يُعبر عن احتمال الفشل $ P_f $ كالتالي $ P_f = P(G_X \leq 0) = \int_{\mathbf{X}} 1_G(x) f_X(x) dx $، حيث $ 1_G(x) $ هي دالة مؤشر الفشل. بسبب تعقيد السيناريوهات الواقعية، غالبًا ما تكون الحلول التحليلية غير قابلة للتحقيق، مما يؤدي إلى تطوير طرق عددية متنوعة مصنفة إلى طرق التقريب، والعينات، واللحظات، والحفاظ على الاحتمالية، وطرق الموثوقية النشطة (ALR).

يركز هذا البحث على تعزيز إطار عمل ALR، خاصة من خلال تقديم طريقة جديدة للتعلم النشط البايزي للموثوقية (BALR). تستخدم الطريقة المقترحة دالة تعلم متعددة النقاط تعتمد على مقياس فعال حسابيًا للاختلاف المتبقي، وهو احتمال الخطأ المدمج (IPM). يسمح هذا النهج بتقدير التخفيض المتوقع في IPM عند إضافة عدة عينات جديدة، مما يسهل عملية إثراء متعددة النقاط بشكل أكثر فعالية. تشمل المساهمات الرئيسية تأسيس IPM كمقياس عالمي للاختلاف، وتقديم دالة تعلم تقليل احتمال الخطأ المدمج بنقاط k (k-IPMR)، ونظام تكيفي لتحديد عدد العينات الجديدة لكل تكرار. يعزز دمج الاستدلال البايزي، ودوال التعلم، وظروف التوقف ضمن هذا الإطار كل من التناسق النظري والكفاءة الحسابية.

طرق

في التصميم التجريبي الأولي لتطوير نموذج كريجينغ، يؤكد المؤلفون على أهمية تصميم ملء الفضاء لتحقيق دقة معقولة. يعرفون مجال العينة $ X_s $ وفقًا لقاعدة “أربعة سيغما” كالتالي $ X_s = \{ x \in \mathbb{R}^d : -4 \leq x_l \leq 4 \text{ for } l = 1, \ldots, d \} $. يتم توليد مجموعة من $ n_0 $ عينات موحدة، حيث $ n_0 = \max(d + 1, 10) $، باستخدام طريقة تقسيم فوروينوي المركزية اللاتينية، مما ينتج عنه $ X_{n_0} = \{ x^{(i)} \}_{i=1}^{n_0} $.

بعد ذلك، يتم تقييم دالة G عند هذه العينات للحصول على الاستجابات المقابلة $ Y_{n_0} = \{ y^{(i)} \}_{i=1}^{n_0} $. تتوج هذه العملية بجمع مجموعة بيانات التصميم التجريبي الأولية $ D_{n_0} = \{ X_{n_0}, Y_{n_0} \} $، مما يثبت $ n $ كـ $ n_0 $ لمزيد من التحليل.

نقاش

في قسم النقاش من ورقة البحث، يتعمق المؤلفون في دمج الاستدلال البايزي والتعلم النشط ضمن إطار عمل موثوقية التعلم النشط البايزي (BALR). يبدأون بتلخيص الاستدلال البايزي لاحتمال الفشل، الذي يستخدم نموذج كريجينغ لتقدير دالة الأداء $ G(x) $ كعملية غاوسية (GP). يسمح هذا النهج بتقدير الاختلاف المعرفي في احتمال الفشل $ P_{f,n} $ بسبب المعرفة غير المكتملة لـ $ G(x) $. يؤكد المؤلفون على أهمية تصميم دوال تعلم موجهة نحو الهدف ومعايير تقارب لتقليل هذا الاختلاف، كما هو موضح في مخطط سير العمل الخاص بهم.

يتناول القسم أيضًا صيغ تحديث كريجينغ متعددة النقاط، التي تسهل دمج عينات جديدة بكفاءة في التصميم التجريبي الحالي دون الحاجة إلى إعادة تحسين معلمات النواة. تعتبر هذه الكفاءة الحسابية ضرورية لتطوير دالة تعلم متعددة النقاط، تُعرف باسم $ k\text{-IPMR} $، والتي تهدف إلى تقليل احتمال الخطأ المدمج (IPM) المرتبط باحتمال الفشل. يقدم المؤلفون اقتراحات تؤسس الأسس النظرية لدالة $ k\text{-IPMR} $، بما في ذلك حدودها والعلاقة بين IPM وتقديرات احتمال الفشل. يختتمون بالاعتراف بالتحديات الحسابية التي تطرحها التطبيق المباشر لـ $ k\text{-IPMR} $ في عمليات إثراء متعددة النقاط ويحددون استراتيجيات للتخفيف من هذه التحديات في الأقسام التالية.

Journal: Computer Methods in Applied Mechanics and Engineering, Volume: 437
DOI: https://doi.org/10.1016/j.cma.2025.117752
Publication Date: 2025-01-22
Author(s): Tong Zhou et al.
Primary Topic: Probabilistic and Robust Engineering Design

Overview

This section presents a novel parallel Bayesian active learning reliability method aimed at enhancing theoretical consistency while minimizing reliance on empirical practices in reliability analysis. The study introduces the integrated probability of misclassification (IPM) as a metric for Bayesian failure probability estimation, derived from the upper bound of the mean absolute deviation of failure probability. To optimize sample selection, the authors propose a multi-point learning function known as k-point integrated probability of misclassification reduction (k-IPMR), which seeks to maximize the expected reduction of IPM by selecting a batch of $k \geq 1$ new samples.

To address computational challenges, the method incorporates four key strategies: substituting k-IPMR with a computationally efficient variant, employing a stepwise maximization approach, adaptively determining the number of new samples per iteration, and establishing a hybrid convergence criterion based on actual IPM reduction. By integrating Bayesian inference, the multipoint enrichment process, and the convergence criterion, the proposed method demonstrates improved efficiency, requiring fewer iterations compared to existing approaches. The effectiveness of this method is validated through four examples of varying complexity, highlighting its computational advantages, particularly for complex reliability problems.

Introduction

In the realm of probabilistic reliability analysis, accurately computing the probability of failure for engineering systems is crucial, given the inherent uncertainties in physical properties, external loads, and operating conditions. These uncertainties are represented by a vector of random variables $ \mathbf{X} = \{X_1, \ldots, X_d\} $ with a known joint probability density function $ f_X(x) $. The performance function $ G_x: \mathbb{R}^d \to \mathbb{R} $ defines the state of the system, where failure occurs when $ G_x \leq 0 $. The failure probability $ P_f $ is expressed as $ P_f = P(G_X \leq 0) = \int_{\mathbf{X}} 1_G(x) f_X(x) dx $, where $ 1_G(x) $ is the failure indicator function. Due to the complexity of realistic scenarios, analytical solutions are often unattainable, leading to the development of various numerical methods categorized into approximation, sampling, moment, probability preservation, and active learning reliability (ALR) methods.

This study focuses on advancing the ALR framework, particularly through the introduction of a new parallel Bayesian active learning reliability (BALR) method. The proposed method utilizes a multi-point look-ahead learning function based on a computationally efficient measure of residual uncertainty, specifically the integrated probability of misclassification (IPM). This approach allows for the quantification of the expected reduction in IPM when adding multiple new samples, facilitating a more effective multi-point enrichment process. Key contributions include the establishment of IPM as a global measure of uncertainty, the introduction of the k-point integrated probability of misclassification reduction (k-IPMR) learning function, and an adaptive scheme for determining the number of new samples per iteration. The integration of Bayesian inference, learning functions, and stopping conditions within this framework enhances both theoretical consistency and computational efficiency.

Methods

In the initial experimental design for developing a Kriging model, the authors emphasize the importance of a space-filling design to achieve reasonable accuracy. They define the sampling domain $ X_s $ according to the ‘four-sigma’ rule as $ X_s = \{ x \in \mathbb{R}^d : -4 \leq x_l \leq 4 \text{ for } l = 1, \ldots, d \} $. A set of $ n_0 $ uniform samples, where $ n_0 = \max(d + 1, 10) $, is generated using the Latinized centroidal Voronoi tessellation method, resulting in $ X_{n_0} = \{ x^{(i)} \}_{i=1}^{n_0} $.

Subsequently, the G-function is evaluated at these samples to obtain the corresponding responses $ Y_{n_0} = \{ y^{(i)} \}_{i=1}^{n_0} $. This process culminates in the collection of the initial experimental design data set $ D_{n_0} = \{ X_{n_0}, Y_{n_0} \} $, establishing $ n $ as $ n_0 $ for further analysis.

Discussion

In the discussion section of the research paper, the authors delve into the integration of Bayesian inference and active learning within the Bayesian Active Learning Reliability (BALR) framework. They begin by summarizing the Bayesian inference of failure probability, which utilizes a Kriging model to estimate the performance function $ G(x) $ as a Gaussian Process (GP). This approach allows for the quantification of epistemic uncertainty in the failure probability $ P_{f,n} $ due to incomplete knowledge of $ G(x) $. The authors emphasize the importance of designing goal-oriented learning functions and convergence criteria to minimize this uncertainty, as illustrated in their workflow diagram.

The section further elaborates on the multi-point Kriging update formulas, which facilitate the efficient incorporation of new samples into the existing experimental design without the need for re-optimizing kernel parameters. This computational efficiency is crucial for developing a multi-point learning function, termed $ k\text{-IPMR} $, which aims to reduce the integrated probability of misclassification (IPM) associated with the failure probability. The authors present propositions that establish the theoretical foundations for the $ k\text{-IPMR} $ function, including its bounds and the relationship between the IPM and the failure probability estimates. They conclude by acknowledging the computational challenges posed by the direct application of $ k\text{-IPMR} $ in multi-point enrichment processes and outline strategies to mitigate these challenges in subsequent sections.