DOI: https://doi.org/10.1016/j.bulsci.2025.103791
تاريخ النشر: 2026-01-05
المؤلف: Danilo Costarellı وآخرون
الموضوع الرئيسي: الشبكات العصبية والتطبيقات
نظرة عامة
في هذه الورقة البحثية، يحدد المؤلفون حدودًا حادة لمشغلات الشبكات العصبية من نوع كانتوروفيتش ضمن فضاءات سوبوليف-أورليتش وأورليتش، موفرين تقديرات قوية (في معيار لوكسمبورغ) وتقديرات ضعيفة (في المعنى الوظيفي المعياري). يتم اشتقاق التقديرات القوية للفضاءات الناتجة عن دوال φ التي هي دوال N أو تلبي شرط ∆′، مما يؤدي إلى نتائج تقارب في فضاءات أورليتش المختلفة، بما في ذلك الحالة الأسية. التقديرات الضعيفة، التي تم تحقيقها تحت شروط أقل صرامة على دالة φ، مدعومة بأدوات وتقنيات جديدة، لا سيما عدم المساواة أورليتش مينكوفسكي، التي تسهل التقديرات القوية الموحدة، وإصدار أضعف من هذه عدم المساواة لتطبيقات أوسع.
تقدم الورقة فضاءً جديدًا \( W^{1,\phi}(I) \)، الذي هو كثيف معياري في \( L^{\phi}(I) \) ويسمح بتقديرات حدودية تحت افتراضات أكثر عمومية بشأن دوال φ. بالإضافة إلى ذلك، يستكشف المؤلفون العلاقات بين فئات أورليتش-ليبشيتز الضعيفة والقوية ويقدمون توصيفًا لفئات ليبشيتز من حيث معدلات تقارب المشغلات. تسلط النتائج الضوء على حدة التقديرات وتقترح أن فضاءات سوبوليف-أورليتش تقدم إطارًا أكثر عمومية من فضاءات سوبوليف الكلاسيكية. يناقش المؤلفون أيضًا الآثار العملية لتقريب أورليتش، لا سيما بالنسبة للدوال ذات القمم المحلية أو النمو الفائق، ويقترحون اتجاهات بحث مستقبلية، بما في ذلك توسيع هذه النتائج إلى إعدادات متعددة الأبعاد.
مقدمة
تستعرض مقدمة هذه الورقة البحثية التطور التاريخي وأهمية الشبكات العصبية الاصطناعية (NNs)، التي ظهرت في أوائل القرن العشرين كنموذج حسابي مستوحى من الدماغ البشري. لقد توسع دراسة NNs بشكل كبير منذ الخمسينيات، مما أثر على مجالات مختلفة مثل علوم الأعصاب وعلوم الحاسوب. يركز البحث الحديث بشكل خاص على مشغلات الشبكات العصبية، التي اكتسبت اهتمامًا بسبب قدرتها على تقريب الدوال. تشير الورقة إلى الأعمال الأساسية حول مشغلات NN، لا سيما التعريف الذي قدمه كاردالياغيت وإيفرارد، الذي يميز الشبكات العصبية ذات التغذية الأمامية كمشغلات خطية إيجابية.
تهدف الورقة إلى تحديد حدود حادة لمشغلات NN كانتوروفيتش ضمن إطار فضاءات أورليتش، موسعة الدراسات السابقة حول معدلات التقريب. تناقش تطور التعريفات لمشغلات NN، مع تسليط الضوء على الانتقال من المشغلات النقطية إلى تلك المناسبة لتقريب الدوال في فضاءات \( L^p \). يؤكد المؤلفون على أهمية نسخة كانتوروفيتش من مشغلات NN، التي تستخدم المتوسطات التكاملية المحلية لتخفيف الاعتماد النقطي. تمهد المقدمة الطريق لاستكشاف مفصل للسلوك الحدودي ومعدلات التقارب لهذه المشغلات، باستخدام أدوات من فضاءات سوبوليف-أورليتش ومعالجة الآثار الأوسع لتقنية التقريب في الفضاءات الوظيفية.
نقاش
في هذا القسم، يناقش المؤلفون خصائص وآثار مشغلات الشبكات العصبية (NN) من نوع كانتوروفيتش المعرفة باستخدام دالة سيغمويدالية $\sigma$. يتم تمييز المشغلات بواسطة شروط محددة (S1)-(S3) التي تضمن أن الدالة $\sigma$ فردية، مقعرة للمدخلات غير السلبية، ولها سلوك حدّي معين عندما $x \to -\infty$. يتم إظهار أن دالة الكثافة $\phi_\sigma$ المستمدة من $\sigma$ غير متناقصة لـ $x < 0$ وغير متزايدة لـ $x \geq 0$، وتنتمي إلى الفضاء $L^1(\mathbb{R})$. يثبت المؤلفون أن مشغلات NN كانتوروفيتش معرفة جيدًا ومحدودة للدوال القابلة للتكامل محليًا، مما يؤدي إلى نتائج مهمة بشأن خصائص تقاربها في فضاءات سوبوليف-أورليتش. يقدم القسم أيضًا نظريات التقارب المعياري والتقديرات الحدية لمشغلات NN كانتوروفيتش، مع التأكيد على أهمية تقعر دوال φ المعنية. تظهر النظريات المقدمة أنه تحت ظروف معينة، بما في ذلك شرط $\Delta'$ لدوال φ، تظهر المشغلات تقاربًا في المعايير المعيارية، والتي يمكن أن تكون أضعف من المعايير التقليدية في لوكسمبورغ. تسمح هذه المرونة بتطبيقات أوسع للنتائج، موسعة التحليل إلى حالات حيث لا تلبي دوال φ الشروط الأكثر صرامة مثل $\Delta'$ أو $\Delta^2$. تسهم النتائج في فهم أعمق لسلوك مشغلات الشبكات العصبية في الفضاءات الوظيفية، لا سيما في سياق فضاءات أورليتش.
DOI: https://doi.org/10.1016/j.bulsci.2025.103791
Publication Date: 2026-01-05
Author(s): Danilo Costarellı et al.
Primary Topic: Neural Networks and Applications
Overview
In this research paper, the authors establish sharp bounds for Kantorovich-type neural network operators within Sobolev-Orlicz and Orlicz spaces, providing both strong estimates (in the Luxemburg norm) and weak estimates (in the modular functional sense). The strong estimates are derived for spaces generated by φ-functions that are N-functions or satisfy the ∆′-condition, leading to convergence results in various Orlicz spaces, including the exponential case. The weak estimates, achieved under less stringent conditions on the φ-function, are supported by new tools and techniques, notably the Orlicz Minkowski inequality, which facilitates unified strong estimates, and a weaker version of this inequality for broader applicability.
The paper introduces a new space \( W^{1,\phi}(I) \), which is modularly dense in \( L^{\phi}(I) \) and allows for asymptotic estimates under more general assumptions regarding φ-functions. Additionally, the authors explore the relationships between weak and strong Orlicz-Lipschitz classes and provide a characterization of Lipschitz classes in terms of the convergence rates of the operators. The findings highlight the sharpness of the estimates and suggest that Sobolev-Orlicz spaces offer a more general framework than classical Sobolev spaces. The authors also discuss the practical implications of Orlicz approximation, particularly for functions with localized peaks or super-polynomial growth, and propose future research directions, including extending these results to multidimensional settings.
Introduction
The introduction of this research paper outlines the historical development and significance of artificial neural networks (NNs), which emerged in the early 1900s as a computational model inspired by the human brain. The study of NNs has expanded significantly since the 1950s, impacting various fields such as neuroscience and computer science. A particular focus of recent research is on neural network operators, which have gained attention due to their potential for approximating functions. The paper references foundational work on NN operators, particularly the definition introduced by Cardaliaguet and Euvrard, which characterizes feed-forward neural networks as positive linear operators.
The paper aims to establish sharp bounds for NN Kantorovich operators within the framework of Orlicz spaces, extending previous studies on approximation rates. It discusses the evolution of definitions for NN operators, highlighting the transition from pointwise operators to those suitable for approximating functions in \( L^p \) spaces. The authors emphasize the importance of the Kantorovich version of NN operators, which utilize local integral averages to mitigate pointwise dependence. The introduction sets the stage for a detailed exploration of asymptotic behavior and convergence rates of these operators, utilizing tools from Sobolev-Orlicz spaces and addressing the broader implications for approximation theory in functional spaces.
Discussion
In this section, the authors discuss the properties and implications of Kantorovich neural network (NN) operators defined using a sigmoidal function $\sigma$. The operators are characterized by specific conditions (S1)-(S3) that ensure the function $\sigma$ is odd, concave for non-negative arguments, and has a certain asymptotic behavior as $x \to -\infty$. The density function $\phi_\sigma$ derived from $\sigma$ is shown to be non-decreasing for $x < 0$ and non-increasing for $x \geq 0$, and it belongs to the space $L^1(\mathbb{R})$. The authors establish that the Kantorovich NN operators are well-defined and bounded for locally integrable functions, leading to significant results regarding their convergence properties in Sobolev-Orlicz spaces. The section further introduces modular convergence theorems and asymptotic estimates for the Kantorovich NN operators, emphasizing the importance of the convexity of the involved $\phi$-functions. Theorems presented demonstrate that under certain conditions, including the $\Delta'$ condition for $\phi$-functions, the operators exhibit convergence in modular norms, which can be weaker than the traditional Luxemburg norms. This flexibility allows for broader applications of the results, extending the analysis to cases where the $\phi$-functions do not satisfy the stricter $\Delta'$ or $\Delta^2$ conditions. The findings contribute to a deeper understanding of the behavior of neural network operators in functional spaces, particularly in the context of Orlicz spaces.