DOI: https://doi.org/10.1016/j.cam.2026.117540
تاريخ النشر: 2026-02-24
المؤلف: Danilo Costarellı وآخرون
الموضوع الرئيسي: الشبكات العصبية والتطبيقات
نظرة عامة
تقدم هذه الورقة خوارزميتين تستفيدان من مشغلات الشبكة العصبية متعددة الأبعاد (NN) التي يتم تنشيطها بواسطة دوال سيغمويدية من نوع الظل الزائدي، تهدف إلى نمذجة وتعزيز بيانات الاستشعار عن بعد، وخاصة الصور الرقمية. تركز الخوارزمية الأولى على نمذجة الإشارات متعددة الأبعاد، بينما تتناول الثانية إعادة قياس البيانات وتعزيزها. يتم مناقشة الأساس النظري الذي يدعم هذه الخوارزميات، بما في ذلك تعقيدها الحسابي التقاربي. تظهر النتائج التجريبية أن الطرق المعتمدة على الشبكة العصبية تتفوق بشكل كبير على تقنيات الاستيفاء التقليدية، مثل الاستيفاء الثنائي والثلاثي الأبعاد، خاصة من حيث مؤشر التشابه الهيكلي (SSIM).
تشير النتائج إلى أن أداء الخوارزميات المقترحة مرتبط ارتباطًا وثيقًا بتباين ومتوسط الصور، حيث يرتبط التباين الأعلى بنتائج أفضل في SSIM. على سبيل المثال، حققت صورة برلين، التي تتميز بأعلى تباين، درجات SSIM متفوقة مقارنة بصورة غرناطة، التي كانت ذات أقل تباين. تشمل اتجاهات البحث المستقبلية دمج مشغلات الشبكة العصبية مع طرق الانعكاس بايزي باستخدام تقنيات سلسلة ماركوف مونت كارلو المتقدمة لتعزيز دقة استرجاع المتغيرات الجيوفيزيائية. بالإضافة إلى ذلك، يخطط المؤلفون لمزيد من التحقيق في الجوانب النظرية لخوارزميات الشبكة العصبية، مع التركيز على التقارب وتقديرات خطأ التقريب المتعلقة بإصدار مستمر من نسبة ذروة الإشارة إلى الضوضاء (PSNR).
مقدمة
تناقش مقدمة هذه الورقة تطور وأهمية الشبكات العصبية الاصطناعية (NN)، التي تم تصميمها على غرار هيكل ووظيفة الدماغ البشري. تم تصورها في البداية في أوائل القرن العشرين، أصبحت الشبكات العصبية محورية في الذكاء الاصطناعي وتعلم الآلة، مع تطبيقات متنوعة في مجالات مثل معالجة اللغة الطبيعية، ورؤية الكمبيوتر، والتخصصات النظرية مثل نظرية التقريب والتحليل العددي. إحدى الميزات الرئيسية للشبكات العصبية هي قدرتها على تقريب الدوال، والتي تم تسليط الضوء عليها من خلال العمل الأساسي لكايبينكو على الشبكات العصبية ذات الطبقة الواحدة مع دوال تنشيط سيغمويدية. وقد دفع ذلك إلى مزيد من الاستكشاف في الطرق الإنشائية، وخاصة دراسة مشغلات الشبكة العصبية، التي تستند إلى مشغلات خطية إيجابية ونظرية التقريب.
تركز الورقة على عائلة من مشغلات الشبكة العصبية من نوع كانتوروفيتش متعددة الأبعاد، التي تعمم مشغلات الشبكة العصبية الكلاسيكية وقابلة للتطبيق في معالجة الصور والإشارات. يؤكد المؤلفون على أهمية هذه المشغلات في نمذجة البيانات الواقعية، وخاصة الصور الرقمية الممثلة كدوال خطوة ثنائية المتغيرات. توضح خوارزميات مثل خوارزمية كانتوروفيتش العينية (SK) فعاليتها في تقليل الضوضاء وتنعيم الصور. الهدف الرئيسي من هذا البحث هو تطوير خوارزمية إعادة بناء الصور استنادًا إلى مشغلات كانتوروفيتش الشبكية العصبية، مدعومة بنتائج نظرية تشمل نظريات التقارب. تهدف الخوارزميات المقترحة إلى تقريب نماذج البيانات وتعزيز البيانات من خلال إعادة القياس، مما يعالج التحديات العملية في تطبيقات متنوعة، بما في ذلك الطب والهندسة.
النتائج
في هذا القسم، يناقش المؤلفون خصائص التقريب لمشغلات الشبكة العصبية (NN) من نوع كانتوروفيتش، التي تُعرف لفئة من الدوال السيغمويدية غير المتناقصة الممثلة بـ \( D \). تلبي هذه الدوال شروطًا محددة، بما في ذلك كونها قابلة للقياس ولها خصائص تناظر ونمو معينة. يتم تقديم دالة الكثافة \( \phi_\sigma \)، التي تعتبر أساسية لتعريف مشغلات كانتوروفيتش NN \( K_n \) للدوال القابلة للقياس المحدودة على فترة محددة. كما يتم تقديم الامتداد متعدد المتغيرات لهذه المشغلات، مما يسمح بتقريب الدوال المعرفة على مجالات متعددة الأبعاد.
تشمل النتائج الرئيسية التقارب النقطي، والتقارب المتجانس، و\( L^p \) لمشغلات \( K_n(f, x) \) إلى الدالة \( f(x) \) مع اقتراب \( n \) من اللانهاية، خاصة عندما تكون \( f \) مستمرة. تؤكد النظريات أن هذه المشغلات معرفة جيدًا للدوال في فضاءات \( L^p \) وتوفر حدودًا على معدلات التقارب بناءً على معيار الاستمرارية للدالة. بالإضافة إلى ذلك، يسلط القسم الضوء على البحث المستمر في مشغلات الشبكة العصبية، بما في ذلك التوسعات والتعميمات الأخيرة، مما يشير إلى منطقة حيوية من الدراسة ضمن نظرية التقريب.
نقاش
في هذا القسم، يناقش المؤلفون تنفيذ مشغلات الشبكة العصبية (NN) من نوع كانتوروفيتش لنمذجة البيانات، وإعادة القياس، وتعزيز صور الاستشعار عن بعد (RS)، كجزء من مشروع “RETINA”. تستفيد الخوارزميات من خصائص هذه المشغلات، خاصة للصور ذات التدرج الرمادي الممثلة كدوال بقيم سطوع بكسل. يقدم المؤلفون كودًا زائفًا لخوارزميتين: واحدة لنمذجة البيانات وأخرى لإعادة القياس/تعزيز الصور. يتم التأكيد على اختيار الدالة السيغمويدية، وبشكل خاص دالة الظل الزائدي، لفعاليتها في تحقيق دقة عالية في التقريبات. يتم تحليل التعقيد الحسابي للخوارزميات، مما يكشف عن تعقيد كبير قدره $O(N M n^4 / S^2)$، والذي يتم تبريره من خلال الدقة العالية للنتائج.
كما يقدم المؤلفون اختبارات عددية تقارن أداء خوارزمياتهم ضد طرق الاستيفاء التقليدية مثل الاستيفاء الثنائي والثلاثي الأبعاد. تشمل مقاييس التقييم المستخدمة نسبة ذروة الإشارة إلى الضوضاء (PSNR) ومؤشر التشابه الهيكلي (SSIM)، مع نتائج تشير إلى أن الطرق المعتمدة على الشبكة العصبية تتفوق في أداء SSIM. تختتم الورقة بالتأكيد على الحاجة إلى تحسين التعقيد الحسابي وت outlines العمل المستقبلي الذي سيجمع بين طرق الانعكاس بايزي مع النهج NN لتعزيز دقة استرجاع المتغيرات الجيوفيزيائية. بالإضافة إلى ذلك، يخطط المؤلفون لمزيد من التحقيق في الجوانب النظرية لخوارزميات الشبكة العصبية، بما في ذلك التقارب وتقديرات خطأ التقريب.
DOI: https://doi.org/10.1016/j.cam.2026.117540
Publication Date: 2026-02-24
Author(s): Danilo Costarellı et al.
Primary Topic: Neural Networks and Applications
Overview
This paper presents two algorithms leveraging multidimensional neural network (NN) operators activated by hyperbolic tangent sigmoidal functions, aimed at modeling and enhancing remote sensing data, particularly digital images. The first algorithm focuses on modeling multidimensional signals, while the second addresses data rescaling and enhancement. The theoretical foundation supporting these algorithms is discussed, including their asymptotic computational complexity. Experimental results demonstrate that the NN-based methods significantly outperform traditional interpolation techniques, such as bilinear and bicubic interpolation, particularly in terms of the Structural Similarity Index (SSIM).
The findings indicate that the performance of the proposed algorithms is closely linked to the variance and mean of the images, with higher variance correlating with better SSIM results. For instance, the Berlin image, characterized by the highest variance, achieved superior SSIM scores compared to the Granada image, which had the lowest variance. Future research directions include integrating the NN operators with Bayesian inversion methods using advanced Monte Carlo Markov Chain techniques to enhance the accuracy of geophysical variable retrieval. Additionally, the authors plan to further investigate the theoretical aspects of the NN algorithms, focusing on convergence and approximation error estimates related to a continuous version of the Peak Signal-to-Noise Ratio (PSNR).
Introduction
The introduction of this paper discusses the evolution and significance of artificial neural networks (NNs), which are modeled after the human brain’s structure and function. Initially conceptualized in the early 20th century, NNs have become pivotal in artificial intelligence and machine learning, with diverse applications in fields such as natural language processing, computer vision, and theoretical disciplines like Approximation Theory and Numerical Analysis. A key feature of NNs is their function approximation capability, highlighted by Cybenko’s foundational work on single-layer NNs with sigmoidal activation functions. This prompted further exploration into constructive methods, particularly the study of NN operators, which are rooted in positive linear operators and Approximation Theory.
The paper focuses on a family of multidimensional Kantorovich-type NN operators, which generalize classic NN operators and are applicable to image and signal processing. The authors emphasize the relevance of these operators in modeling real-world data, particularly digital images represented as two-variable step functions. The introduction of algorithms such as the Sampling Kantorovich (SK) algorithm demonstrates their effectiveness in noise reduction and image smoothing. The primary objective of this research is to develop an image reconstruction algorithm based on NN Kantorovich operators, supported by theoretical results including convergence theorems. The proposed algorithms aim to approximate data models and enhance data through rescaling, thereby addressing practical challenges in various applications, including medicine and engineering.
Results
In this section, the authors discuss the approximation properties of Kantorovich neural network (NN) operators, which are defined for a class of non-decreasing sigmoidal functions denoted as \( D \). These functions satisfy specific conditions, including being measurable and having certain symmetry and growth properties. The density function \( \phi_\sigma \) is introduced, which is essential for defining the Kantorovich NN operators \( K_n \) for bounded measurable functions over a specified interval. The multivariate extension of these operators is also presented, allowing for the approximation of functions defined over multidimensional domains.
Key results include pointwise, uniform, and \( L^p \) convergence of the operators \( K_n(f, x) \) to the function \( f(x) \) as \( n \) approaches infinity, particularly when \( f \) is continuous. Theorems establish that these operators are well-defined for functions in \( L^p \) spaces and provide bounds on the convergence rates based on the modulus of continuity of the function. Additionally, the section highlights the ongoing research in neural network operators, including recent extensions and generalizations, indicating a vibrant area of study within approximation theory.
Discussion
In this section, the authors discuss the implementation of Kantorovich neural network (NN) operators for data modeling, rescaling, and enhancement of remote sensing (RS) images, as part of the “RETINA” project. The algorithms leverage the properties of these operators, particularly for gray scale images represented as functions with pixel luminance values. The authors provide pseudo-code for two algorithms: one for modeling data and another for rescaling/enhancing images. The choice of the sigmoidal function, specifically the hyperbolic tangent function, is emphasized for its effectiveness in achieving high accuracy in approximations. The computational complexity of the algorithms is analyzed, revealing a significant complexity of $O(N M n^4 / S^2)$, which is justified by the high accuracy of the results.
The authors also present numerical tests comparing the performance of their algorithms against traditional interpolation methods like bilinear and bicubic interpolation. The evaluation metrics used include Peak Signal-to-Noise Ratio (PSNR) and Structural Similarity Index (SSIM), with results indicating that the NN-based methods excel in SSIM performance. The paper concludes by highlighting the need for optimization of computational complexity and outlines future work that will integrate Bayesian inversion methods with the NN approach to enhance the accuracy of geophysical variable retrieval. Additionally, the authors plan to further investigate the theoretical aspects of the NN algorithms, including convergence and approximation error estimates.