DOI: https://doi.org/10.1214/26-ss156
تاريخ النشر: 2026-01-01
المؤلف: Nawaf Bou‐Rabee وآخرون
الموضوع الرئيسي: تقليل النماذج والشبكات العصبية
نظرة عامة
تقدم هذه المقالة إطارًا جديدًا لبناء عينات هاملتونية مونت كارلو (HMC) القابلة للتكيف محليًا، يسمى ضبط غيبس الذاتي (GIST). يعالج هذا الإطار بشكل مبتكر المعلمات الخوارزمية، مثل طول المسار، كمتغيرات مساعدة، يتم أخذ عينات منها بشكل شرطي بناءً على الحالة الحالية للنظام. يضمن هذا النهج القابلية للعكس من خلال انطواء يحافظ على القياس ضمن مخطط معدل متروبوليس. يعمل GIST على تعميم وتوحيد العديد من طرق HMC القابلة للتكيف الموجودة، بما في ذلك عينة عدم الدوران (NUTS)، وHMC العشوائي، وعينة المسار من القمة إلى القمة، مما يضعها كحالات محددة من إطار GIST.
تقدم المقالة أيضًا عينة عدم الدوران ذات الجانب الواحد كمثال عملي على كيفية تسهيل GIST تطوير خوارزميات HMC جديدة قابلة للتكيف. تظهر التقييمات التجريبية عبر نماذج مختلفة فعالية هذا النهج. بينما يوفر GIST إطارًا شاملاً لفهم وتطوير خوارزميات HMC القابلة للتكيف محليًا، فإنه يبرز أيضًا العديد من التحديات، بما في ذلك العبء الحسابي، وتعقيد التنفيذ، والحاجة إلى توزيعات شرطية فعالة لضبط المعلمات. بالإضافة إلى ذلك، لا يزال سلوك التقارب النظري لـ GIST مجالًا يتطلب مزيدًا من الاستكشاف، مما يشير إلى طرق واعدة للبحث المستقبلي.
مقدمة
تتناول مقدمة الورقة التحدي الحاسم لضبط المعلمات في خوارزميات سلسلة ماركوف مونت كارلو (MCMC)، وخاصة في هاملتونية مونت كارلو (HMC). تبرز التعقيدات المعنية في ضبط طول المسار، وحجم الخطوة، والمشروطات السابقة، والتي تؤثر بشكل كبير على الكفاءة الحسابية والمزج. تُعرض عينة عدم الدوران (NUTS) كتحسين كبير، مما يمكّن من ضبط طول المسار بشكل ذاتي من خلال خوارزمية تكرارية عشوائية تتجنب الدورانات في المسار، مما يعزز اعتمادها في البرمجة الاحتمالية.
تقترح الورقة إطار ضبط غيبس الذاتي (GIST) كنهج أكثر عمومية لضبط معلمات HMC بشكل تكيفي، بما في ذلك طول المسار وحجم الخطوة، بناءً على الحالة الحالية لسلسلة ماركوف. تعالج عينات GIST معلمات الضبط كمتغيرات مساعدة ضمن فضاء حالة موسع، مما يسمح بتوزيعات مشتركة تسهل تحديثات غيبس وخطوات متروبوليس. لا يشمل هذا الإطار فقط الاستراتيجيات القابلة للتكيف الموجودة، مثل NUTS وHMC العشوائي، بل يقدم أيضًا طرقًا جديدة لتكيف حجم الخطوة مع الحفاظ على القابلية للعكس. تختتم المقدمة بالاعتراف بالعبء الحسابي المحتمل والتحديات في اختيار توزيعات شرطية مناسبة لضبط المعلمات، مما يمهد الطريق للأقسام التالية التي تتناول الأسس النظرية والتطبيقات المحددة لإطار GIST.
طرق
في هذا القسم، يناقش المؤلفون طرق المتغيرات المساعدة، مع التركيز بشكل خاص على تعميم يقدم ويستبعد المتغيرات المساعدة في كل خطوة انتقال، مما يخلق إطارًا مرنًا لتصميم نوى انتقال قابلة للعكس بالنسبة لقياس مستهدف $\mu$. لا يشمل هذا النهج فقط الخوارزميات المعروفة مثل متروبوليس-هاستينغز وأخذ العينات الشريحية، بل يدمج أيضًا طرق هاملتونية مونت كارلو (HMC) القابلة للتكيف محليًا الموجودة. يؤكد المؤلفون أن تركيزهم هو على الطرق المعتمدة على الانطواء المتعلقة مباشرةً بـ HMC ذات الضبط الذاتي، مع استبعاد الفئات الأوسع من العينات المرفوعة وتقنيات تعزيز البيانات.
يتضمن الإطار توسيع فضاء الحالة $\mathcal{S}$ مع فضاء مساعد $\mathcal{V}$، مما يؤدي إلى توزيع مشترك محدد على فضاء المنتج $\mathcal{S} \times \mathcal{V}$. تتضمن خطوة الانتقال أخذ عينات من توزيع احتمالي شرطي، وتطبيق انطواء قابل للقياس ويحافظ على القياس $G$، وقبول الحالة الجديدة بناءً على احتمال قبول محسوب. يثبت المؤلفون أن نواة الانتقال الناتجة $\pi_{AV}$ قابلة للعكس بالنسبة للقياس المستهدف $\mu$، بناءً على الأعمال السابقة في هذا المجال وتقديم حالة محددة تبرز حجة التوازن التفصيلي ضمن إطار متروبوليس-هاستينغز. هذه الأسس النظرية ضرورية لضمان صحة طرق المتغيرات المساعدة المقترحة.
نقاش
يقدم قسم النقاش إطارًا شاملاً لخوارزميات هاملتونية مونت كارلو (HMC) ذات الضبط الذاتي، يسمى GIST (تقنيات أخذ العينات المعتمدة على الانطواء العامة). يتم وضع هذا الإطار ضمن السياق الأوسع لطرق المتغيرات المساعدة، مع التأكيد على قدرته على توحيد تقنيات أخذ العينات الكلاسيكية مثل متروبوليس-هاستينغز وأخذ العينات الشريحية مع الحفاظ على الصحة من خلال آلية قبول-رفض قياسية. يدمج عينة GIST بشكل مبتكر انطواء يحافظ على القياس لحساب الاقتراحات وضبط احتمالات القبول، مما يسمح بالتكيف المرن لمعايير الضبط مثل حجم الخطوة وطول المسار. يعتبر هذا التكيف أمرًا حيويًا لتعزيز كفاءة HMC، التي تعتمد تقليديًا على معلمات ثابتة قد لا تكون مثالية عبر سيناريوهات أخذ العينات المختلفة.
يسلط القسم الضوء أيضًا على القابلية للعكس لنواة انتقال GIST، مما يضمن الحفاظ على التوزيع المستهدف. يناقش أمثلة محددة، مثل طرق متروبوليس-هاستينغز القياسية وأخذ العينات الشريحية، موضحًا كيف يمكن تأطيرها ضمن نموذج GIST. علاوة على ذلك، يسهل الإطار تطوير عينات الجيل التالي من خلال السماح باستكشاف التفاعلات بين مختلف معلمات الضبط، مما يعالج التحديات الكامنة في HMC، مثل الحاجة إلى التفاضلية المستمرة لوظائف الطاقة المحتملة وترابط طول المسار وحجم الخطوة. بشكل عام، لا يقتصر إطار GIST على توحيد طرق HMC القابلة للتكيف الموجودة فحسب، بل يضع أيضًا الأساس للتقدم المستقبلي في تقنيات أخذ العينات.
DOI: https://doi.org/10.1214/26-ss156
Publication Date: 2026-01-01
Author(s): Nawaf Bou‐Rabee et al.
Primary Topic: Model Reduction and Neural Networks
Overview
This article introduces a novel framework for constructing locally adaptive Hamiltonian Monte Carlo (HMC) samplers, termed Gibbs self-tuning (GIST). The framework innovatively treats algorithmic parameters, such as path length, as auxiliary variables, which are sampled conditionally based on the current state of the system. This approach ensures reversibility through a measure-preserving involution within a Metropolis-adjusted scheme. GIST serves to generalize and unify several existing adaptive HMC methods, including the No-U-Turn Sampler (NUTS), randomized HMC, and the Apogee-to-Apogee Path Sampler, positioning them as specific instances of the GIST framework.
The article also presents the one-sided No-U-Turn Sampler as a practical example of how GIST can facilitate the development of new adaptive HMC algorithms. Empirical evaluations across various models demonstrate the effectiveness of this approach. While GIST provides a comprehensive framework for understanding and developing locally adaptive HMC algorithms, it also highlights several challenges, including computational overhead, implementation complexity, and the need for effective conditional distributions for tuning parameters. Additionally, the theoretical convergence behavior of GIST remains an area requiring further exploration, suggesting promising avenues for future research.
Introduction
The introduction of the paper addresses the critical challenge of tuning parameters in Markov chain Monte Carlo (MCMC) algorithms, particularly in Hamiltonian Monte Carlo (HMC). It highlights the complexities involved in adjusting path length, step size, and pre-conditioners, which significantly impact computational efficiency and mixing. The No-U-Turn Sampler (NUTS) is presented as a significant advancement, enabling self-tuning of path length through a stochastic recursive algorithm that avoids U-turns in the trajectory, thus enhancing its adoption in probabilistic programming.
The paper proposes the Gibbs self-tuning (GIST) framework as a more general approach for adaptively tuning HMC parameters, including path length and step size, based on the current state of the Markov chain. GIST samplers treat tuning parameters as auxiliary variables within an expanded state space, allowing for joint distributions that facilitate Gibbs updates and Metropolis steps. This framework not only encompasses existing adaptive strategies, such as NUTS and randomized HMC, but also introduces novel methods for step-size adaptivity while maintaining reversibility. The introduction concludes by acknowledging the potential computational overhead and challenges in selecting appropriate conditional distributions for tuning parameters, setting the stage for the subsequent sections that delve into the theoretical foundations and specific applications of the GIST framework.
Methods
In this section, the authors discuss auxiliary variable methods, particularly focusing on a generalization that introduces and discards auxiliary variables at each transition step, thereby creating a flexible framework for designing reversible transition kernels with respect to a target measure $\mu$. This approach not only encompasses well-known algorithms such as Metropolis-Hastings and slice sampling but also integrates existing locally adaptive Hamiltonian Monte Carlo (HMC) methods. The authors emphasize that their focus is on involution-based methods directly related to self-tuning HMC, while excluding broader classes of lifted samplers and data augmentation techniques.
The framework involves augmenting the state space $\mathcal{S}$ with an auxiliary space $\mathcal{V}$, leading to a joint distribution defined on the product space $\mathcal{S} \times \mathcal{V}$. The transition step involves sampling from a conditional probability distribution, applying a measurable and measure-preserving involution $G$, and accepting the new state based on a calculated acceptance probability. The authors establish that the resulting transition kernel $\pi_{AV}$ is reversible with respect to the target measure $\mu$, building on previous work in the field and providing a specific case that highlights the detailed balance argument within the Metropolis-Hastings framework. This theoretical foundation is crucial for ensuring the validity of the proposed auxiliary variable methods.
Discussion
The discussion section presents a comprehensive framework for self-tuning Hamiltonian Monte Carlo (HMC) algorithms, termed GIST (Generalized Involution-based Sampling Techniques). This framework is positioned within the broader context of auxiliary-variable methods, emphasizing its capacity to unify classical sampling techniques such as Metropolis-Hastings and slice sampling while maintaining correctness through a standard accept-reject mechanism. The GIST sampler innovatively incorporates a measure-preserving involution to compute proposals and adjust acceptance probabilities, allowing for flexible adaptation of tuning parameters like step size and path length. This adaptability is crucial for enhancing the efficiency of HMC, which traditionally relies on fixed parameters that may not be optimal across different sampling scenarios.
The section also highlights the reversibility of the GIST transition kernel, ensuring that the target distribution is preserved. It discusses specific examples, such as the standard Metropolis-Hastings and slice sampling methods, illustrating how they can be framed within the GIST paradigm. Furthermore, the framework facilitates the development of next-generation samplers by allowing for the exploration of interactions between various tuning parameters, thereby addressing the inherent challenges of HMC, such as the need for continuous differentiability of potential energy functions and the coupling of path length and step size. Overall, the GIST framework not only consolidates existing adaptive HMC methods but also lays the groundwork for future advancements in sampling techniques.