DOI: https://doi.org/10.2478/jaiscr-2026-0012
تاريخ النشر: 2026-02-25
المؤلف: Zirui Pei وآخرون
الموضوع الرئيسي: تكييف المجال والتعلم من عدد قليل من الأمثلة
نظرة عامة
تقدم ورقة البحث نهجًا جديدًا للتعلم من عدد قليل من الأمثلة (FSL) من خلال تطوير شبكة تشابه ديناميكية قابلة للتفسير بصريًا (VEDSNet). يعالج هذا النموذج التحديات المتعلقة بالقدرة على التفسير والأداء في الشبكات العصبية، لا سيما في التطبيقات ذات المخاطر العالية مثل التشخيص الطبي والقيادة الذاتية. تتميز VEDSNet بهندسة خفيفة الوزن تحتوي على حوالي 6.8 مليون معلمة، مبنية على هيكل ViT-Tiny. تتضمن وحدة تحليل الميزات (FDM) التي تولد تمثيلات ذات معنى دلالي من خلال التعلم المتوازي للميزات، مما يوفر رؤى بصرية بديهية في عملية اتخاذ القرار للنموذج. بالإضافة إلى ذلك، تعزز وحدة القياس الديناميكي (DMM) التمييز مع بيانات محدودة من خلال استخدام استراتيجية قياس مزدوجة متكيفة مع العينة، بينما تعمل أيضًا على تحسين الكفاءة عندما تزداد توفر البيانات.
في تقييم VEDSNet عبر أربعة مجموعات بيانات مرجعية—Mini-ImageNet وCIFAR-FS وTiered-ImageNet وCUB-200-2011—تظهر أداءً تنافسيًا في التصنيف مقارنةً بأساليب FSL المعتمدة. تحسن FDM بشكل كبير من دقة التنبؤ من خلال استخراج الميزات البارزة، بينما تساعد DMM في التخفيف من الإفراط في التكيف، مما يؤدي إلى تحسين نتائج التصنيف. تؤكد النتائج فعالية هذه المكونات في تحقيق أداء FSL قوي وقابل للتفسير. تهدف الأعمال المستقبلية إلى توسيع تطبيق VEDSNet لمختلف أنماط البيانات، بما في ذلك الفيديو والنص، مما يزيد من مرونته وأدائه عبر مجالات تطبيق متنوعة ويدفع المجال نحو مزيد من التقدم في FSL القابل للتفسير.
مقدمة
تناقش مقدمة ورقة البحث هذه تقدم نماذج التعلم العميق في رؤية الكمبيوتر، لا سيما في سياق التعلم من عدد قليل من الأمثلة (FSL)، الذي يهدف إلى تقليل الاعتماد على مجموعات بيانات موسومة كبيرة. يبرز المؤلفون التحديات التي تطرحها ندرة البيانات في التطبيقات العملية، مثل التشخيص الطبي، ويحددون الهيكل النموذجي لأنظمة FSL، والذي يتضمن مستخرج ميزات ووظيفة قياس التشابه. يتم انتقاد أساليب FSL الحالية إما للاعتماد على تمثيلات ميزات منخفضة الدقة تحد من التقاط الميزات الدقيقة أو لتفكيك الميزات إلى تمثيلات دقيقة على حساب قابلية تفسير النموذج. يمكن أن تؤدي هذه الافتقار إلى الشفافية إلى مشكلات ثقة في التطبيقات الحرجة، حيث قد تستند النماذج إلى ميزات غير ذات صلة.
لمعالجة هذه التحديات، يقترح المؤلفون شبكة التشابه الديناميكية القابلة للتفسير بصريًا (VEDSNet)، وهي إطار عمل خفيف الوزن لـ FSL مبني على هيكل Vision Transformer (ViT-Tiny). تتضمن VEDSNet وحدتين مبتكرتين: وحدة تحليل الميزات (FDM)، التي تعزز القابلية للتفسير من خلال تفكيك الميزات البصرية إلى مكونات موزونة بالاهتمام، ووحدة القياس الديناميكي (DMM)، التي تحسن حسابات التشابه بناءً على توفر البيانات. يضمن هذا النهج التكيفي دقة تصنيف عالية مع الحفاظ على الكفاءة الحاسوبية، مما يجعله مناسبًا للبيئات ذات الموارد المحدودة. تشمل المساهمات الرئيسية للدراسة تطوير إطار عمل FSL قابل للتفسير، وهيكل قابل للتدريب من البداية إلى النهاية، واستراتيجية تشابه ديناميكية تعزز بشكل جماعي أداء النموذج وقابليته للتفسير.
طرق
استخدم البحث جهاز كمبيوتر مزودًا ببطاقة رسومات RTX 4090 لتقييم نموذج على 2000 حلقة من مهام التصنيف ذات 5 طرق، باستخدام حجم مجموعة الدعم $K = 1$ أو $5$ وحجم مجموعة الاستعلام $M = 15$. تم تعديل الشبكة الأساسية، ViT-Tiny، المدربة مسبقًا على ImageNet-21k، عن طريق إزالة رأس التصنيف الخاص بها وتطبيق تبديل الأبعاد لاستعادة ميزات التسلسل إلى خرائط ميزات مكانية، مما أسفر عن 320 خريطة ميزات. تم تقسيم عملية التدريب إلى مرحلتين: التدريب المسبق لوحدة قياس المسافة الميزات (FDM) مع هيكل ثابت لمدة 60 دورة، تليها ضبط دقيق شامل للنموذج بأكمله على مدى 30 دورة، باستخدام خسارة الانتروبيا المتقاطعة ومختلف تعزيزات البيانات.
أشارت النتائج التجريبية إلى أن إطار عمل VEDSNet المقترح حقق أداءً تنافسيًا في مهام 1-shot و5-shot عبر مجموعات بيانات متعددة، بما في ذلك Mini-ImageNet وCIFAR-FS وTiered-ImageNet، مع الحفاظ على هيكل خفيف الوزن. أظهرت دراسات الإزالة أن نهج القياس الهجين الديناميكي تفوق على التكوينات التقليدية، مما عزز بشكل كبير دقة التصنيف في كل من إعدادات 1-shot و5-shot. تؤكد هذه النتائج على قوة النموذج وقدراته على التعميم في مهام التعلم من عدد قليل من الأمثلة (FSL)، مما يثبت فعاليته مقارنةً بأساليب الحالة الفنية المتقدمة.
مناقشة
في مناقشة التعلم من عدد قليل من الأمثلة (FSL)، يبرز البحث التحديات المتعلقة بتدريب المصنفات ببيانات موسومة محدودة، حيث تكافح الطرق التقليدية للتعلم العميق. لمعالجة ندرة البيانات، ظهرت تقنيات مثل تعلم القياس والتعلم الانتقالي كاستراتيجيات فعالة. يستخدم التعلم الانتقالي المعرفة من مجال مصدر يحتوي على بيانات وفيرة لتعزيز الأداء في مجال هدف يحتوي على تعليقات محدودة. يشير البحث إلى أن النماذج المتقدمة عادةً ما تستخدم نهج “التدريب المسبق ثم الضبط الدقيق”، والذي يمكن أن يكون حساسًا للتشابه الدلالي بين المهام المصدر والهدف. في الوقت نفسه، يركز تعلم القياس على تحسين مساحة التضمين لتحسين فصل الفئات، مع مساهمة هياكل مختلفة مثل الشبكات التوأمية والشبكات النموذجية في التقدم في هذا المجال.
تقدم الورقة VEDSNet، وهو إطار عمل FSL قابل للتفسير يستخدم آلية الانتباه الذاتي لتعزيز أداء التصنيف مع توفير تفسيرات بصرية للتنبؤات. تتضمن VEDSNet وحدة تحليل الميزات (FDM) ووحدة القياس الديناميكي (DMM) لاستخراج الميزات المعلوماتية وحساب التشابهات بين العينات. تم تصميم هيكل النموذج لتحقيق توازن بين القوة التمييزية والكفاءة الحاسوبية، باستخدام نموذج تدريب من مرحلتين يجمع بين تنظيم الانتباه مع أهداف التصنيف. تظهر النتائج التجريبية أداء VEDSNet المتفوق عبر مجموعات بيانات مرجعية متعددة، مما يبرز قوته وفعاليته في مهام FSL، لا سيما في التطبيقات ذات المخاطر العالية مثل الرعاية الصحية حيث تكون القابلية للتفسير أمرًا حاسمًا.
القيود
تسلط القيود المتعلقة بالت visualization المجمع الضوء على التحديات الحرجة ضمن هيكل النموذج الحالي. كما هو موضح في الشكل 11، يمكن للنموذج أن يولد استجابات تشابه مضللة عندما تتداخل المناطق المهيمنة بصريًا ولكن غير ذات صلة دلاليًا في صور الاستعلام والدعم. يحدث هذا الظاهرة عندما تركز آلية اكتشاف الميزات (FDM) على أنماط كبيرة من القوام أو الشكل التي تبدو مرتبطة بصريًا، مما يؤدي إلى تركيز مفرط على التشابهات السطحية بدلاً من العلاقات الدلالية الحقيقية. وبالتالي، يمكن أن يؤدي ذلك إلى ارتباطات خاطئة بين فئات الكائنات المختلفة، لا سيما عندما يشبه المظهر السياقي لكائن ما مظهر كائن آخر تحت ظروف بصرية مماثلة.
بالإضافة إلى ذلك، على الرغم من أن مجموعات الميزات متماسكة دلاليًا بشكل عام، إلا أنها لا تحافظ دائمًا على استقلالية كاملة. يمكن أن تؤدي التنشيطات المتداخلة بين هذه المجموعات إلى تفاقم تأثير المناطق الغامضة، مما يعقد التصنيف في بيئات بصرية معقدة أو مزدحمة. للتخفيف من هذه المشكلات، يمكن أن تستكشف الأبحاث المستقبلية دمج أهداف تفكيك واعية للسياق أو استراتيجيات تنظيم تبايني تعاقب بشكل خاص على التوافقات المضللة بين الفئات. ستعمل هذه التقدمات على تحسين قوة وموثوقية قابلية تفسير النموذج في سيناريوهات التعلم من عدد قليل من الأمثلة الصعبة.
DOI: https://doi.org/10.2478/jaiscr-2026-0012
Publication Date: 2026-02-25
Author(s): Zirui Pei et al.
Primary Topic: Domain Adaptation and Few-Shot Learning
Overview
The research paper presents a novel approach to few-shot learning (FSL) through the development of a visually explainable dynamic similarity network (VEDSNet). This model addresses the challenges of explainability and performance in neural networks, particularly in high-stakes applications such as medical diagnosis and autonomous driving. VEDSNet features a lightweight architecture with approximately 6.8 million parameters, built on a ViT-Tiny backbone. It incorporates a Feature Decomposition Module (FDM) that generates semantically meaningful representations through parallel feature learning, providing intuitive visual insights into the model’s decision-making process. Additionally, the Dynamic Metric Module (DMM) enhances discrimination with limited data by employing a sample-adaptive dual-metric strategy, while also optimizing efficiency when data availability increases.
In the evaluation of VEDSNet across four benchmark datasets—Mini-ImageNet, CIFAR-FS, Tiered-ImageNet, and CUB-200-2011—it demonstrates competitive classification performance compared to established FSL methods. The FDM significantly improves prediction accuracy by extracting salient features, while the DMM helps mitigate overfitting, leading to enhanced classification outcomes. The results affirm the effectiveness of these components in achieving robust and interpretable FSL performance. Future work aims to broaden the applicability of VEDSNet to various data modalities, including video and text, thereby increasing its versatility and performance across diverse application domains and further advancing the field of explainable FSL.
Introduction
The introduction of this research paper discusses the advancements of deep learning models in computer vision, particularly in the context of few-shot learning (FSL), which aims to reduce reliance on large labeled datasets. The authors highlight the challenges posed by data scarcity in practical applications, such as medical diagnosis, and outline the typical architecture of FSL systems, which includes a feature extractor and a similarity metric function. Existing FSL methods are critiqued for either relying on low-resolution feature representations that limit subtle feature capture or for decomposing features into fine-grained representations at the expense of model explainability. This lack of transparency can lead to trust issues in critical applications, as models may base decisions on irrelevant features.
To address these challenges, the authors propose the Visually Explainable Dynamic Similarity Network (VEDSNet), a lightweight FSL framework built on a Vision Transformer (ViT-Tiny) backbone. VEDSNet incorporates two innovative modules: the Feature Decomposition Module (FDM), which enhances interpretability by breaking down visual features into attention-weighted components, and the Dynamic Metric Module (DMM), which optimizes similarity calculations based on data availability. This adaptive approach ensures high classification accuracy while maintaining computational efficiency, making it suitable for resource-constrained environments. The main contributions of the study include the development of an explainable FSL framework, an end-to-end trainable architecture, and a dynamic similarity strategy that collectively enhance model performance and interpretability.
Methods
The research employed a computer with an RTX 4090 GPU to evaluate a model on 2,000 episodes of 5-way classification tasks, utilizing a support set size of $K = 1$ or $5$ and a query set size of $M = 15$. The backbone network, ViT-Tiny, pre-trained on ImageNet-21k, was modified by removing its classification head and applying dimension permutation to restore sequence features into spatial feature maps, resulting in 320 feature maps. The training process was divided into two phases: pre-training the Feature Distance Metric (FDM) with a fixed backbone for 60 epochs, followed by end-to-end fine-tuning of the entire model over 30 epochs, employing cross-entropy loss and various data augmentations.
The experimental results indicated that the proposed VEDSNet framework achieved competitive performance in 1-shot and 5-shot tasks across multiple datasets, including Mini-ImageNet, CIFAR-FS, and Tiered-ImageNet, while maintaining a lightweight architecture. Ablation studies demonstrated that the dynamic hybrid metric approach outperformed traditional configurations, significantly enhancing classification accuracy in both 1-shot and 5-shot settings. These findings underscore the model’s robustness and generalization capabilities in few-shot learning (FSL) tasks, validating its efficacy compared to state-of-the-art methods.
Discussion
In the discussion of few-shot learning (FSL), the paper highlights the challenges of training classifiers with limited labeled data, where traditional deep learning methods struggle. To address data scarcity, techniques such as metric learning and transfer learning have emerged as effective strategies. Transfer learning utilizes knowledge from a source domain with abundant data to enhance performance in a target domain with limited annotations. The paper notes that state-of-the-art models typically employ a “pre-train then fine-tune” approach, which can be sensitive to the semantic similarity between source and target tasks. Meanwhile, metric learning focuses on optimizing the embedding space to improve class separation, with various architectures like Siamese Networks and Prototypical Networks contributing to advancements in this area.
The paper introduces VEDSNet, an explainable FSL framework that employs a self-attention mechanism to enhance classification performance while providing visual explanations of predictions. VEDSNet incorporates a Feature Decomposition Module (FDM) and a Dynamic Metric Module (DMM) to extract informative features and compute similarities between samples. The model’s architecture is designed to balance discriminative power and computational efficiency, utilizing a two-stage training paradigm that combines attention regularization with classification objectives. Experimental results demonstrate VEDSNet’s superior performance across multiple benchmark datasets, showcasing its robustness and effectiveness in FSL tasks, particularly in high-stakes applications like healthcare where explainability is crucial.
Limitations
The limitations of the aggregated visualization highlight critical challenges within the current model architecture. As demonstrated in Figure 11, the model can generate misleading similarity responses when visually dominant yet semantically irrelevant regions overlap in the query and support images. This phenomenon occurs when the feature detection mechanism (FDM) focuses on large texture or shape patterns that appear visually correlated, leading to an overemphasis on superficial similarities rather than genuine semantic relationships. Consequently, this can result in erroneous associations between different object categories, particularly when one object’s contextual appearance resembles another’s under similar visual conditions.
Additionally, while the feature groups are generally semantically coherent, they do not always maintain complete independence. Overlapping activations among these groups can exacerbate the influence of ambiguous regions, further complicating classification in visually complex or cluttered environments. To mitigate these issues, future research could explore the integration of context-aware disentanglement objectives or contrastive regularization strategies that specifically penalize misleading cross-category alignments. Such advancements would significantly improve the robustness and reliability of the model’s explainability in challenging few-shot learning scenarios.