DOI: https://doi.org/10.21105/joss.07754
تاريخ النشر: 2025-04-08
المؤلف: Jan Boelts وآخرون
الموضوع الرئيسي: الحوسبة العلمية وإدارة البيانات
نظرة عامة
تقدم هذه القسم نظرة عامة على الاستدلال القائم على المحاكاة (SBI)، وهي منهجية تسهل الاستدلال البايزي للمحاكيات من خلال تحديد المعلمات التي تتماشى مع المخرجات المحاكية والبيانات التجريبية. يميز SBI نفسه عن الأساليب البايزية التقليدية من خلال الحاجة فقط إلى الوصول إلى محاكيات النماذج، مما يلغي الحاجة إلى تقييمات دالة الاحتمالية وحسابات التدرج. تتيح هذه الميزة توسيع نطاق المحاكيات بشكل كبير وتمكن الاستدلال عبر ملاحظات متنوعة دون الحاجة إلى محاكيات إضافية أو إعادة تدريب، مما يخفف من عملية الاستدلال.
يقدم المؤلفون مجموعة أدوات sbi، وهي حزمة تعتمد على PyTorch مصممة لتنفيذ خوارزميات SBI متنوعة باستخدام الشبكات العصبية. تشمل هذه المجموعة مجموعة متنوعة من طرق الاستدلال، وهياكل الشبكات العصبية، وتقنيات أخذ العينات، وأدوات التشخيص، مع توفير إعدادات افتراضية قوية إلى جانب خيارات قابلة للتخصيص لكل خطوة من خطوات سير عمل SBI. بشكل عام، تمكن مجموعة أدوات sbi العلماء والمهندسين من الاستفادة من أساليب SBI المتقدمة مع المحاكيات ذات الصندوق الأسود، مما يعزز توافق المحاكيات مع البيانات الملاحظة ويوسع إمكانيات البحث.
نقاش
يسلط النقاش الضوء على أهمية الاستدلال البايزي في تقدير المعلمات من الملاحظات التجريبية، مع التأكيد على التحديات التي تواجهها عند استخدام المحاكيات العشوائية. تواجه الأساليب التقليدية مثل سلسلة ماركوف مونت كارلو (MCMC) قيودًا بسبب التقييمات البطيئة، وعدم القابلية للاشتقاق، والاحتمالات غير القابلة للحل. لمعالجة هذه القضايا، ظهرت تقدمات حديثة في خوارزميات الاستدلال القائم على المحاكاة (SBI) التي تستفيد من الشبكات العصبية. تسهل هذه الخوارزميات التوازي الضخم، وتلغي الحاجة إلى تقييمات التدرج، وتسمح بالاستدلال الموزع، مما يمكّن من استرجاع توزيع الخلفية بكفاءة بعد التدريب الأولي.
تم تطوير مجموعة أدوات sbi لتعزيز إمكانية الوصول وتطبيق هذه الخوارزميات SBI عبر مجالات البحث المختلفة. تدعم مجموعة متنوعة من المحاكيات وطرق الاستدلال، وتقدم واجهات عالية المستوى للممارسين وخيارات قابلة للتخصيص للمستخدمين المتقدمين. تشمل مجموعة الأدوات مجموعة واسعة من هياكل الشبكات العصبية، وأدوات أخذ العينات، وأدوات التشخيص، مما يعزز التعاون المجتمعي ويوسع نطاق تطبيقات الاستدلال البايزي. من خلال توفير إطار عمل مرن، تهدف sbi إلى تعزيز الاكتشاف العلمي والهندسة الحاسوبية، مما يجعل الاستدلال البايزي أكثر سهولة لكل من الباحثين في التعلم الآلي والممارسين في المجال.
DOI: https://doi.org/10.21105/joss.07754
Publication Date: 2025-04-08
Author(s): Jan Boelts et al.
Primary Topic: Scientific Computing and Data Management
Overview
The section provides an overview of simulation-based inference (SBI), a methodology that facilitates Bayesian inference for simulators by identifying parameters that align simulated outputs with empirical data. SBI distinguishes itself from traditional Bayesian approaches by requiring only access to model simulations, thus eliminating the need for likelihood function evaluations and gradient calculations. This characteristic allows for extensive parallelization of simulations and enables inference across various observations without additional simulations or retraining, effectively amortizing the inference process.
The authors introduce the sbi toolkit, a PyTorch-based package designed to implement various SBI algorithms utilizing neural networks. This toolkit encompasses a diverse array of inference methods, neural network architectures, sampling techniques, and diagnostic tools, while providing robust default settings alongside customizable options for each step of the SBI workflow. Overall, the sbi toolkit empowers scientists and engineers to leverage advanced SBI methods with black-box simulators, thereby enhancing the alignment of simulations with observed data and expanding research possibilities.
Discussion
The discussion highlights the significance of Bayesian inference in parameter estimation from empirical observations, emphasizing its challenges when utilizing stochastic simulators. Traditional methods like Markov-Chain Monte-Carlo (MCMC) face limitations due to slow evaluations, non-differentiability, and intractable likelihoods. To address these issues, recent advancements in simulation-based inference (SBI) algorithms leveraging neural networks have emerged. These algorithms facilitate massive parallelization, eliminate the need for gradient evaluations, and allow for amortized inference, enabling efficient posterior distribution retrieval after initial training.
The sbi toolkit has been developed to enhance the accessibility and application of these SBI algorithms across various research domains. It supports diverse simulators and inference methods, offering both high-level interfaces for practitioners and customizable options for advanced users. The toolkit includes a wide array of neural network architectures, samplers, and diagnostic tools, fostering community collaboration and broadening the scope of Bayesian inference applications. By providing a flexible framework, sbi aims to advance scientific discovery and computational engineering, making Bayesian inference more accessible to both machine learning researchers and domain practitioners.