استقراء إشعاع النفاثات باستخدام المحولات الذاتية الانحدار
Extrapolating jet radiation with autoregressive transformers

شارك:
المجلة: SciPost Physics، المجلد: 20، العدد: 1
DOI: https://doi.org/10.21468/scipostphys.20.1.004
تاريخ النشر: 2026-01-12
المؤلف: Anja Butter وآخرون
الموضوع الرئيسي: دراسات فيزياء الجسيمات النظرية والتجريبية

نظرة عامة

تناقش هذه الفقرة تطبيق الشبكات التوليدية، وخاصة المحولات التلقائية، في سياق محاكاة الأحداث في مصادم الهادرونات الكبير (LHC). هذه الشبكات قادرة على توليد أحداث بعدد جزيئات متغير، مما يتماشى جيدًا مع مبادئ الديناميكا الكمية للكروموديناميكا (QCD) لإشعاع النفاثات. يبرز البحث قدرة المحولات على تعلم احتمال مفكك لإشعاع النفاثات، مما يمكّن من الاستقراء إلى أحداث ذات تعدد أعلى.

لتحسين أداء النموذج، يقترح المؤلفون استخدام تقنيات إعادة التقدير لبيانات التدريب وتنفيذ تعديلات على خسارة الاحتمال أثناء التدريب. تهدف هذه الطريقة إلى تحسين دقة النموذج التوليدي وتعميمه في محاكاة التفاعلات الجزيئية المعقدة، وبالتالي المساهمة في التقدم في أبحاث الفيزياء عالية الطاقة.

مقدمة

تناقش مقدمة هذه الورقة البحثية التأثير التحويلي لتقنيات التعلم الآلي الحديثة (ML) على اختبارات الدقة في فيزياء الجسيمات في مصادم الهادرونات الكبير (LHC). مع زيادة سطوع LHC، يتم تعزيز كل من الأساليب التجريبية والنظرية من خلال تطبيق الشبكات العصبية عبر مراحل مختلفة من المحاكاة، بما في ذلك أخذ عينات من فضاء الطور، وبدائل سعة التشتت، وتوليد الأحداث. تلعب الشبكات التوليدية، وخاصة الهياكل مثل تدفقات التطبيع، وشبكات الانتشار، والمحولات التلقائية، دورًا محوريًا في هذا التحول من خلال تمكين المحاكاة السريعة والدقيقة التي يمكن أن تضخم بيانات التدريب وتحسن تشفير الأنماط الحركية.

تتناول الورقة بشكل خاص التحدي المتمثل في استخدام الشبكات التوليدية لنمذجة إشعاع النفاثات من عمليات التشتت الصعبة في الديناميكا الكمية للكروموديناميكا (QCD). تبرز الطبيعة الاحتمالية لتقسيمات الجسيمات وضرورة وجود هيكل احتمال فضاء طور مفكك، والذي يتماشى مع توقعات QCD. يقترح المؤلفون محولًا تلقائيًا كهيكلهم التوليدي، قادرًا على الاستقراء إلى تعدد نفاثات أعلى مع الحفاظ على الخصائص العالمية لإشعاع النفاثات. تهدف الدراسة إلى إثبات أن هذا المحول التوليدي يمكنه التنبؤ بفعالية بتوزيعات النفاثات بما يتجاوز بيانات التدريب، مما يقدم نهجًا موحدًا لنمذجة تعدد النفاثات. ستفصل الأقسام اللاحقة الأسس QCD لمنهجيتهم، وتقدم التوقعات المستقرة، وتناقش تحسينات دقة النموذج التوليدي.

النتائج

في قسم النتائج، يحدد المؤلفون أولاً معيارًا لدقة نموذج المحول الخاص بهم في القسم 3.1، مشيرين إلى أن الشبكة التوليدية، في حالتها غير المعدلة، تفشل في الاستقراء بفعالية إلى أعداد النفاثات غير المرئية. لمعالجة هذه القيود، يقومون بتنفيذ نهج إعادة التقدير في القسم 3.2، والذي يعمل كأساس لاستقراء ناجح.

بعد ذلك، في القسمين 3.3 و3.4، يوضح المؤلفون أن تعديل خسارة الاحتمال – إما عن طريق تقصيرها أو تجاوزها – يمكّن الشبكة من توليد أعداد نفاثات أكبر من تلك التي تم مواجهتها أثناء التدريب. تشير هذه النتائج إلى أن التعديلات الاستراتيجية على دالة الخسارة ضرورية لتعزيز قدرات الاستقراء للنموذج في توليد بيانات غير مرئية.

المناقشة

في هذا القسم، يناقش المؤلفون تطوير نموذج محول تلقائي يهدف إلى توليد إشعاع نفاثات QCD، مستفيدين من الطبيعة العالمية لتقسيمات الجسيمات في الديناميكا الكمية للكروموديناميكا (QCD). يتم تدريب النموذج باستخدام خسارة احتمال مفككة، مما يسمح له ليس فقط بتكرار أنماط إشعاع النفاثات التي تم رؤيتها في بيانات التدريب ولكن أيضًا للاستقراء إلى سيناريوهات تتضمن عددًا أكبر من النفاثات من تلك التي تم مواجهتها أثناء التدريب. يؤكد المؤلفون على أهمية مجموعة بيانات Z+jets، التي تعرض نمط قياس متدرج في تعدد النفاثات، ويحددون المنهجية لاشتقاق احتمال فضاء طور مفكك ضروري لتدريب الشبكة التوليدية.

تتوسع المناقشة أكثر حول تقسيمات الجسيمات المتوازية التي تدعم توقعات QCD، مشددة على الهيكل التكراري لإشعاع النفاثات الذي يمكن محاكاته كعمليات ماركوف. يحدد المؤلفون نمطين متميزين للتدرج في معدلات النفاثات: التدرج بواسون والتدرج المتدرج، مع كون الأخير هو محور دراستهم. يوضحون بناء توزيع احتمال مفكك لتوليد الأحداث، والذي يتضمن كل من الشروط الحركية واحتمالات تقسيمات الجسيمات. تم تصميم الهيكل التلقائي للنموذج لالتقاط الخصائص العالمية لإشعاع النفاثات، مما يسمح بتوليد أحداث بتعدد نفاثات متنوع مع الحفاظ على سلامة الفيزياء الأساسية. يختتم المؤلفون بتحديد استراتيجيتهم التدريبية، والتي تشمل تقنيات للاستقراء إلى ما وراء الحد الأقصى للتعدد الموجود في مجموعة بيانات التدريب، مما يعزز قدرات النموذج التنبؤية.

Journal: SciPost Physics, Volume: 20, Issue: 1
DOI: https://doi.org/10.21468/scipostphys.20.1.004
Publication Date: 2026-01-12
Author(s): Anja Butter et al.
Primary Topic: Particle physics theoretical and experimental studies

Overview

The section discusses the application of generative networks, particularly autoregressive transformers, in the context of simulating events at the Large Hadron Collider (LHC). These networks are capable of generating events with variable particle counts, aligning well with the principles of Quantum Chromodynamics (QCD) jet radiation. The research highlights the ability of transformers to learn a factorized likelihood for jet radiation, enabling extrapolation to events with higher multiplicities.

To enhance the model’s performance, the authors propose utilizing bootstrapping techniques for training data and implementing modifications to the likelihood loss during training. This approach aims to improve the accuracy and generalization of the generative model in simulating complex particle interactions, thereby contributing to advancements in high-energy physics research.

Introduction

The introduction of this research paper discusses the transformative impact of modern machine learning (ML) techniques on precision tests of particle physics at the Large Hadron Collider (LHC). As LHC luminosity increases, both experimental and theoretical approaches are enhanced through the application of neural networks across various stages of simulation, including phase-space sampling, scattering amplitude surrogates, and event generation. Generative networks, particularly architectures such as normalizing flows, diffusion networks, and autoregressive transformers, play a pivotal role in this transformation by enabling rapid and accurate simulations that can amplify training data and improve the encoding of kinematic patterns.

The paper specifically addresses the challenge of using generative networks to model jet radiation from hard scattering processes in quantum chromodynamics (QCD). It highlights the probabilistic nature of parton splittings and the necessity for a factorized phase space probability structure, which aligns with QCD predictions. The authors propose an autoregressive transformer as their generative architecture, capable of extrapolating to higher jet multiplicities while maintaining universal characteristics of jet radiation. The study aims to demonstrate that this generative transformer can effectively predict jet distributions beyond the training data, thereby offering a unified approach to modeling jet multiplicities. Subsequent sections will detail the QCD foundations of their methodology, present extrapolated predictions, and discuss enhancements to the generative model’s accuracy.

Results

In the Results section, the authors first establish a benchmark for the accuracy of their transformer model in Section 3.1, highlighting that the generative network, in its unmodified state, fails to extrapolate effectively to unseen jet numbers. To address this limitation, they implement a bootstrap approach in Section 3.2, which serves as a foundation for successful extrapolation.

Subsequently, in Sections 3.3 and 3.4, the authors demonstrate that modifying the likelihood loss—either by truncating or overriding it—enables the network to generate larger jet numbers than those encountered during training. These findings suggest that strategic adjustments to the loss function are crucial for enhancing the model’s extrapolation capabilities in generating unseen data.

Discussion

In this section, the authors discuss the development of an autoregressive transformer model aimed at generating QCD jet radiation, leveraging the universal nature of parton splittings in Quantum Chromodynamics (QCD). The model is trained using a factorized likelihood loss, which allows it to not only replicate jet radiation patterns seen in the training data but also to extrapolate to scenarios involving a greater number of jets than those encountered during training. The authors emphasize the significance of the Z+jets dataset, which exhibits a staircase scaling pattern in jet multiplicities, and outline the methodology for deriving a factorized phase space probability that is essential for training the generative network.

The discussion further elaborates on the collinear parton splittings that underpin QCD predictions, highlighting the iterative structure of jet radiation that can be simulated as Markov processes. The authors identify two distinct scaling patterns for jet rates: Poisson scaling and staircase scaling, with the latter being the focus of their study. They detail the construction of a factorized probability distribution for event generation, which incorporates both kinematic conditions and the probabilities of parton splittings. The autoregressive structure of the model is designed to capture the universal features of jet radiation, allowing for the generation of events with varying jet multiplicities while maintaining the integrity of the underlying physics. The authors conclude by outlining their training strategy, which includes techniques for extrapolating beyond the maximum multiplicity present in the training dataset, thus enhancing the model’s predictive capabilities.

شارك: