DOI: https://doi.org/10.3389/frai.2026.1804338
PMID: https://pubmed.ncbi.nlm.nih.gov/42222846
تاريخ النشر: 2026-05-14
المؤلف: Akbar Anbar Jafari وآخرون
الموضوع الرئيسي: تكييف المجال والتعلم من عدد قليل من الأمثلة
نظرة عامة
تقدم البحث هياكل متداخلة ديناميكية (DNH)، وهو تقدم في نموذج التعلم المتداخل (NL)، يهدف إلى تعزيز قدرة نماذج التعلم الآلي على التكيف في البيئات غير الثابتة. يقدم DNH ثلاثة آليات مستوحاة من البيولوجيا: (1) إضافة مستويات بناءً على عتبات الخسارة الميتا، مقلدًا تكوين الأعصاب لدى البالغين؛ (2) تقليم المستويات مستندًا إلى مساهمات التدرج، مشابهًا للإزالة المشبكية؛ و(3) تعديل التردد المدفوع بإشارات المفاجأة المحلية، مما يعكس تكيفات التذبذبات العصبية. يتم رسم هذه الآليات بدقة على عمليات المرونة العصبية، مما يسمح بتصميم مبدئي يسهل التعلم المستمر.
تظهر التحليلات النظرية أن DNH تحقق حدود التقارب من $O(1/T + \delta^2)$ في الإعدادات الديناميكية، مع تحسينات في التعبير محدودة بـ $O(1/L_t) + \gamma \delta$ وندم تحت خطي من $O(\sqrt{T})$، مما يتناقض مع الندم الخطي للهياكل الثابتة. تؤكد التقييمات التجريبية عبر معايير مختلفة، بما في ذلك المقارنات مع طرق التعلم المستمر المعروفة مثل دمج الوزن المرن (EWC) وذكاء المشبك (SI)، الأداء المتفوق لـ DNH. تؤكد دراسات الإزالة الشاملة مساهمات المكونات الفردية، بينما تشير تحليلات تكلفة الحوسبة إلى زيادة تدريب بنسبة 18% دون تكاليف استدلال إضافية، مما يظهر كفاءة وفعالية DNH في التكيف مع البيئات المتغيرة.
طرق
في هذا القسم، يضع المؤلفون هياكلهم المتداخلة الديناميكية (DNH) المقترحة مقابل طرق الهياكل الديناميكية الموجودة في الشبكات العصبية. يبرزون الفروقات الرئيسية، مؤكدين أنه بينما تركز الأساليب السابقة مثل بحث هيكل الشبكة (NAS) على تحسين الهياكل الثابتة بشكل غير متصل، فإن DNH يمكّن من التكيف عبر الإنترنت أثناء التدريب والاستدلال. على عكس الشبكات العصبية التقدمية، التي لا تقوم بالتقليم ويمكن أن تؤدي إلى نمو غير محدود، يتضمن DNH آلية تقليم تحافظ على الكفاءة. كما يقارن المؤلفون DNH مع طرق توسيع الشبكة الديناميكية وEvoNet، مشيرين إلى أن DNH تستخدم تحسين ميتا قائم على التدرج مع ضمانات تقارب نظرية، وهو تقدم كبير مقارنة بالطرق الاستدلالية والعشوائية المستخدمة من قبل هذه البدائل. تكمن ابتكارات DNH في دمجها لهياكل تحسين متداخلة، وتحسين ميتا قائم على التدرج للقرارات الهيكلية، وتعديل التردد للتكيف عبر مقاييس زمنية متعددة، مما يسهل التعلم مدى الحياة من خلال التطور الذاتي.
تشمل الإعدادات التجريبية تنفيذ نماذج DNH باستخدام PyTorch، مع توسيع هيكل HOPE من إطار NL. يتم تهيئة النسخة ذات التطور الذاتي، DNH-HOPE، بمستويين ويمكن أن تتكيف حتى خمسة مستويات، باستخدام تعديل التردد ومعلمات تعلم ميتا محددة. يضع المؤلفون مجموعة شاملة من المعايير للمقارنة، بما في ذلك نماذج ثابتة وديناميكية متنوعة، بأحجام تتراوح من 340M إلى 1.3B معلمة، تم تدريبها على مجموعات بيانات واسعة لنمذجة اللغة. كما يلتزمون بإمكانية إعادة الإنتاج من خلال توفير بروتوكولات معمارية وتدريب مفصلة لتجارب التعلم المستمر الخاصة بهم.
نتائج
تدعم نتائج الدراسة التحليلات النظرية المقدمة في الأقسام السابقة. على وجه التحديد، يتم إثبات حد التقارب الذي تم تأسيسه في النظرية 1، المشار إليه بـ $O(1/T + \delta^2)$، من خلال منحنيات التدريب المستقرة لنموذج DNH-HOPE، التي تحافظ على الأداء حتى في ظل تغيرات التوزيع، على عكس المعايير الثابتة التي تظهر زيادة في التباين.
علاوة على ذلك، ينعكس حد التعبير من النظرية 2 في التحسينات الملحوظة في PPL، حيث يوضح المصطلح $O(1/L_t)$ فعالية إضافة المستويات الديناميكية—تحديدًا، تعديل $L_t$ استجابةً لطول السياق—الذي يقلل بشكل كبير من خطأ التقريب، خاصة في السيناريوهات ذات السياقات الطويلة. أخيرًا، يرتبط حد الندم تحت الخطي الذي تم توضيحه في النظرية 3، الممثل بـ $O(\sqrt{T})$ مقارنةً بندم خطي، بالتحسينات الملحوظة في النقل العكسي (BWT)، حيث حقق DNH تحسينًا ملحوظًا بمقدار 4.2 نقطة مقارنةً بـ HOPE الثابت، مما يمنع تراكم النسيان.
مناقشة
تقدم ورقة البحث تقدمًا كبيرًا في إطار هياكل متداخلة ديناميكية (DNH)، الذي يوسع نموذج التعلم المتداخل الثابت (NL) من خلال تقديم هيكل رسم بياني موجه غير دوري متغير زمنيًا. يسمح هذا الهيكل الجديد بإضافة مستويات مستقلة وتقليم، مما يسهل التعلم مدى الحياة ويعزز تعبير النموذج في البيئات غير الثابتة. يرسم المؤلفون أوجه التشابه بين آليات DNH والعمليات العصبية الحيوية، مثل تكوين الأعصاب لدى البالغين لإضافة المستويات والتقليم المشبكي من أجل الكفاءة، مما يرسخ نهجهم في مبادئ المرونة العصبية.
تشمل المساهمات النظرية إثباتات التقارب، والتعبير، وحدود الندم المحددة لـ DNH تحت تغيرات التوزيع، والتي تتجاوز التحليل الثابت لـ NL. تظهر التقييمات التجريبية أداء DNH المتفوق مقابل معايير التعلم المستمر المختلفة عبر معايير متعددة، بما في ذلك Split ImageNet وCORe50، مما يبرز فعاليتها في التكيف مع تغيرات توزيعات البيانات. تختتم الورقة بإطار شامل لتحسين الميتا الذي يحكم تطور DNH، مما يضمن التكيف المستقر دون نسيان كارثي، وت outlines اتجاهات البحث المستقبلية لاستكشاف المزيد من آثار الهياكل الديناميكية في التعلم الآلي.
القيود
تناقش قسم القيود قيود إطار التعلم المتداخل الثابت (NL)، الذي ينظم النماذج كسلسلة من مشاكل التحسين المتداخلة مع ترددات تحديث ثابتة لكل مكون. تشكل هذه البنية الثابتة، التي تم إنشاؤها عند التهيئة، تحديات في البيئات الديناميكية حيث تتغير توزيعات البيانات بمرور الوقت، خاصة في سيناريوهات التعلم المستمر. يمكن أن تؤدي صلابة الإطار إلى مشكلات مثل “فقدان الذاكرة الأمامية” في نماذج اللغة الكبيرة (LLMs)، مما يحد من قدرتها على التكيف خارج مراحل التدريب المحددة مسبقًا. رياضيًا، يتم تقييد تعبير النموذج بعمقه الأولي وترددات مستويات التحسين غير المتطورة، مما يؤدي إلى معدلات تقارب دون المستوى في السياقات المتغيرة. تشير النتائج التجريبية من وحدة HOPE في NL إلى تحسينات في التفكير في السياقات الطويلة، ومع ذلك يبقى الأداء محدودًا بسبب الطبيعة غير المرنة للمستويات المحددة.
بالإضافة إلى ذلك، يتناول القسم قيود القابلية للتوسع والقيود النظرية، خاصة فيما يتعلق بالحفاظ على المعرفة الدقيقة وسط التغييرات الهيكلية الخشنة. يتم تقديم تحليل رسمي، يربط آليات الهيكل العصبي الديناميكي (DNH) بعمليات المرونة العصبية، مثل تكوين الأعصاب لدى البالغين والمرونة المشبكية. يبرز هذا التحليل الأسس البيولوجية لآليات DNH، مما يقترح طرقًا محتملة للعمل المستقبلي لتعزيز التكيف والأداء في بيئات التعلم المتطورة.
DOI: https://doi.org/10.3389/frai.2026.1804338
PMID: https://pubmed.ncbi.nlm.nih.gov/42222846
Publication Date: 2026-05-14
Author(s): Akbar Anbar Jafari et al.
Primary Topic: Domain Adaptation and Few-Shot Learning
Overview
The research presents Dynamic Nested Hierarchies (DNH), an advancement of the Nested Learning (NL) paradigm, aimed at enhancing the adaptability of machine learning models in non-stationary environments. DNH introduces three biologically-inspired mechanisms: (1) level addition based on meta-loss thresholds, mimicking adult neurogenesis; (2) level pruning informed by gradient contributions, akin to synaptic elimination; and (3) frequency modulation driven by local surprise signals, reflecting neural oscillation adaptations. These mechanisms are rigorously mapped to neuroplasticity processes, allowing for a principled design that facilitates continual learning.
Theoretical analyses demonstrate that DNH achieves convergence bounds of $O(1/T + \delta^2)$ in dynamic settings, with expressivity improvements bounded by $O(1/L_t) + \gamma \delta$ and sublinear regret of $O(\sqrt{T})$, contrasting with the linear regret of static architectures. Empirical evaluations across various benchmarks, including comparisons with established continual learning methods such as Elastic Weight Consolidation (EWC) and Synaptic Intelligence (SI), affirm DNH’s superior performance. Comprehensive ablation studies validate the contributions of individual components, while computational cost analyses indicate an 18% training overhead without additional inference costs, showcasing DNH’s efficiency and effectiveness in adapting to changing environments.
Methods
In this section, the authors position their proposed Dynamic Nested Hierarchies (DNH) against existing dynamic architecture methods in neural networks. They highlight key differences, emphasizing that while prior approaches like Network Architecture Search (NAS) focus on offline optimization of static architectures, DNH enables online adaptation during training and inference. Unlike Progressive Neural Networks, which do not prune and can lead to unbounded growth, DNH incorporates a pruning mechanism that maintains efficiency. The authors also contrast DNH with Dynamic Network Expansion methods and EvoNet, noting that DNH employs gradient-based meta-optimization with theoretical convergence guarantees, a significant advancement over the heuristic and stochastic methods used by these alternatives. The innovation of DNH lies in its combination of nested optimization structures, gradient-based meta-optimization for structural decisions, and frequency modulation for multi-timescale adaptation, facilitating lifelong learning through self-evolution.
The experimental setup involves implementing DNH models using PyTorch, specifically extending the HOPE architecture from the NL framework. The self-evolving variant, DNH-HOPE, is initialized with two levels and can adapt up to five levels, utilizing frequency modulation and specific meta-learning parameters. The authors establish a comprehensive set of baselines for comparison, including various static and dynamic models, with sizes ranging from 340M to 1.3B parameters, trained on extensive datasets for language modeling. They also commit to reproducibility by providing detailed architectural and training protocols for their continual learning experiments.
Results
The results of the study substantiate the theoretical analyses presented in the preceding sections. Specifically, the convergence bound established in Theorem 1, denoted as $O(1/T + \delta^2)$, is evidenced by the stable training curves of the DNH-HOPE model, which maintain performance even amidst distribution shifts, in contrast to static baselines that demonstrate increased variance.
Furthermore, the expressivity bound from Theorem 2 is reflected in the observed improvements in PPL, where the term $O(1/L_t)$ elucidates the efficacy of dynamic level addition—specifically, the adjustment of $L_t$ in response to context length—which significantly mitigates approximation error, particularly in long-context scenarios. Lastly, the sublinear regret bound articulated in Theorem 3, represented as $O(\sqrt{T})$ compared to a linear regret, correlates with the observed improvements in backward transfer (BWT), with DNH achieving a notable 4.2 point enhancement over static HOPE, thereby preventing the accumulation of forgetting.
Discussion
The research paper presents significant advancements in the Dynamic Nested Hierarchies (DNH) framework, which extends the static Nested Learning (NL) paradigm by introducing a dynamic, time-varying directed acyclic graph (DAG) structure. This novel architecture allows for autonomous level addition and pruning, facilitating lifelong learning and enhancing model expressivity in non-stationary environments. The authors draw parallels between DNH mechanisms and neurobiological processes, such as adult neurogenesis for level addition and synaptic pruning for efficiency, thereby grounding their approach in principles of neuroplasticity.
Theoretical contributions include proofs of convergence, expressivity, and regret bounds specific to DNH under distribution shifts, which surpass the static analysis of NL. Empirical evaluations demonstrate DNH’s superior performance against various continual learning baselines across multiple benchmarks, including Split ImageNet and CORe50, highlighting its effectiveness in adapting to changing data distributions. The paper concludes with a comprehensive meta-optimization framework that governs the evolution of DNH, ensuring stable adaptation without catastrophic forgetting, and outlines future research directions to further explore the implications of dynamic hierarchies in machine learning.
Limitations
The section on limitations discusses the constraints of the static nested learning (NL) framework, which organizes models as a series of nested optimization problems with fixed update frequencies for each component. This static structure, established at initialization, poses challenges in dynamic environments where data distributions change over time, particularly in continual learning scenarios. The framework’s rigidity can lead to issues such as “anterograde amnesia” in large language models (LLMs), restricting their ability to adapt beyond predetermined training phases. Mathematically, the expressivity of the model is constrained by its initial depth and the non-evolving frequencies of the optimization levels, resulting in suboptimal convergence rates in varying contexts. Empirical findings from the NL’s HOPE module indicate improvements in long-context reasoning, yet performance remains limited due to the inflexible nature of the defined levels.
Additionally, the section addresses scalability and theoretical limitations, particularly regarding the preservation of fine-grained knowledge amidst coarse-grained structural changes. A formal analysis is presented, mapping the mechanisms of dynamic neural hierarchy (DNH) to neuroplasticity processes, such as adult neurogenesis and synaptic plasticity. This analysis highlights the biological underpinnings of the DNH mechanisms, suggesting potential avenues for future work to enhance adaptability and performance in evolving learning environments.