نموذج محول الرؤية الهجين وشبكة الأعصاب البيانية مع انتباه متكيف حسب المنطقة لتحسين توقع سرطان الجلد Hybrid vision transformer and graph neural network model with region-adaptive attention for enhanced skin cancer prediction

شارك:
المجلة: Scientific Reports، المجلد: 16، العدد: 1
DOI: https://doi.org/10.1038/s41598-025-32502-z
PMID: https://pubmed.ncbi.nlm.nih.gov/41654513
تاريخ النشر: 2026-02-07
المؤلف: Aswani Dogga وآخرون
الموضوع الرئيسي: كشف وإدارة الميلانوما الجلدية

نظرة عامة

تقدم البحث نهجًا جديدًا لاكتشاف وتشخيص سرطان الجلد باستخدام محول رؤية هجين (ViT) مدمج مع شبكة عصبية بيانية (GNN) وانتباه متكيف حسب المنطقة. يتناول هذا النموذج التحديات التي تطرحها العلاقات المكانية المعقدة والمعلومات السياقية العالمية في صور الديرموسكوبي، والتي تعتبر حاسمة للتشخيص الدقيق. تلتقط مكون ViT الاعتمادات العالمية داخل الصور، بينما تعزز GNN استخراج الميزات من خلال الاستفادة من العلاقات المكانية لآفات الجلد. بالإضافة إلى ذلك، يركز انتباه المنطقة المتكيف على المناطق ذات الصلة التشخيصية، مما يحسن تصنيف الآفات.

يتضمن الإطار المقترح تحليلًا متعدد المقاييس للآفات، مع الأخذ في الاعتبار التباينات في الحجم واللون والملمس. لتعزيز القابلية للتعميم عبر درجات لون البشرة وظروف التصوير المتنوعة، يتم استخدام تقنيات التعلم الميتا. يظهر النموذج أداءً متفوقًا مقارنةً بالخوارزميات الحالية المتطورة في التعلم العميق على مجموعات بيانات سرطان الجلد المرجعية، محققًا دقة تصنيف محسنة وقابلية للتفسير. يضع هذا التقدم الهيكل كأداة واعدة لطب الجلد السريري.

مقدمة

تتناول مقدمة هذه الورقة البحثية القضية الحرجة لسرطان الجلد، وخاصة الميلانوما، التي تُعتبر واحدة من أكثر أشكال السرطان فتكًا. الكشف المبكر والتشخيص الدقيق أمران أساسيان لتحسين معدلات البقاء، ومع ذلك، يعتمد طب الجلد السريري التقليدي بشكل كبير على الفحوصات البصرية الذاتية التي يمكن أن تؤدي إلى أخطاء. لتخفيف هذه القيود، تسلط الورقة الضوء على الاهتمام المتزايد بتقنيات التعلم العميق لاكتشاف سرطان الجلد تلقائيًا، وخاصة من خلال استخدام الشبكات العصبية التلافيفية (CNNs). ومع ذلك، تواجه CNNs تحديات مثل المجالات الاستقبالية المحدودة والصعوبات في التقاط الارتباطات بعيدة المدى، مما يدفع لاستكشاف محولات الرؤية (ViTs) كبديل. على الرغم من مزاياها في الفهم السياقي العالمي، تكافح ViTs في نمذجة التفاعلات المكانية بين مناطق الآفات الفرعية.

لمعالجة هذه التحديات، يقترح المؤلفون نموذجًا جديدًا لتوقع سرطان الجلد يدمج محول رؤية هجين (ViT) مع شبكة عصبية بيانية (GNN) ويشمل آلية انتباه متكيف حسب المنطقة (RAA). يهدف هذا الهيكل الهجين إلى تعزيز تمثيل الآفات الجلدية غير النمطية من خلال ترميز التفاعلات المكانية مع الاستفادة من قدرات رسم الاعتماد العالمي لـ ViTs. لا يحسن النموذج المقترح دقة التصنيف من خلال التركيز على المناطق ذات الصلة التشخيصية فحسب، بل يتعلم أيضًا بوضوح العلاقات المكانية والطوبولوجية بين مكونات الآفات. يتم التحقق من صحة الإطار مقابل مجموعات بيانات متعددة من العالم الحقيقي، بما في ذلك HAM10000 و ISIC، مما يظهر دقة تنافسية وتعميم فعال عبر مجموعات متنوعة. تشمل المساهمات الرئيسية تحويلًا مبتكرًا من التضمينات إلى الرسم البياني، ووحدة دمج الانتباه التي تجمع بين نقاط القوة في ViT و GNN، وميزات تفسيرية قوية من خلال SHAP و Grad-CAM، مما يضمن الشفافية وثقة الأطباء في التشخيصات الآلية.

طرق

في هذا القسم، يقدم المؤلفون منهجية جديدة تدمج محول رؤية هجين (ViT) مع شبكة عصبية بيانية (GNN) لتعزيز توقع سرطان الجلد. يستخدم النموذج المقترح انتباهًا متكيفًا حسب المنطقة (RAA) لالتقاط العلاقات المعقدة بين الآفات، والتي تعتبر حاسمة للتشخيص التفريقي. تم تصميم الإطار لتحسين كل من دقة التوقعات وقابليتها للتفسير من خلال نهج شامل يتضمن استخراج الميزات العالمية، ونمذجة العلاقات المكانية، وآليات الانتباه المتكيف.

تتكون المنهجية من خمسة مكونات رئيسية: تنظيف البيانات، استخراج الميزات عبر محول الرؤية، نمذجة العلاقات المكانية من خلال الشبكات العصبية البيانية، تطبيق الانتباه المتكيف حسب المنطقة، وتحليل متعدد المقاييس للآفات مدعومًا بتحسين التعلم الميتا. يتم تقييم فعالية النموذج المقترح بناءً على مقاييس مثل الدقة، والصلابة، وقابلية التفسير، والتعميم عبر مجموعات بيانات متنوعة، مما يبرز إمكانيته في معالجة قيود الطرق التقليدية المعتمدة على المحولات في تحليل الصور الطبية.

نقاش

تناقش الورقة البحثية تطوير هيكل هجين جديد يدمج محولات الرؤية (ViTs) مع الشبكات العصبية البيانية (GNNs) لتصنيف سرطان الجلد. لا يعزز هذا النهج فقط قدرة النموذج على التقاط الميزات العالمية والمحلية لآفات الجلد، بل يتضمن أيضًا آلية انتباه متكيف حسب المنطقة (RAA) لتحسين قابلية التفسير. تم تصميم الهيكل لتحسين طبقات الانتباه بشكل مشترك، مما يسمح بتبادل المعلومات بشكل فعال بين مكونات ViT و GNN. يتم التحقق من صحة النموذج المقترح مقابل مجموعات بيانات مرجعية متعددة، مما يظهر دقة قوية ويوفر تبريرات بصرية ذات صلة سريريًا من خلال وحدات الشرح المدمجة مثل SHAP و Grad-CAM.

تسلط مراجعة الأدبيات الضوء على المنهجيات الحالية في اكتشاف سرطان الجلد، مصنفة إياها إلى نماذج قائمة على CNN، ونماذج قائمة على المحولات، ونماذج هجينة. بينما أظهرت CNNs دقة عالية، إلا أنها تكافح مع الاعتمادات بعيدة المدى والعلاقات المكانية. على العكس من ذلك، غالبًا ما تتجاهل نماذج المحولات، على الرغم من فعاليتها في التقاط الميزات العالمية، التفاصيل الدقيقة الضرورية للتشخيص الدقيق. تحدد الورقة الفجوات في البحث الحالي، وخاصة نقص قابلية التفسير في النماذج الحالية، وتقترح حلاً يجمع بين نقاط القوة في ViTs و GNNs. يهدف الهيكل إلى تعزيز أداء التصنيف مع ضمان أن تكون قرارات النموذج قابلة للتفسير، مما يلبي الحاجة الملحة لرؤى قابلة للتنفيذ في الممارسة الجلدية.

القيود

تسلط القيود في البحث الحالي الضوء على ضرورة المزيد من التحقق، خاصة فيما يتعلق بألوان البشرة غير الممثلة، والتي قد تؤثر على قابلية تعميم النتائج. يُقترح العمل المستقبلي لتعزيز المنهجية من خلال دمج التصوير الديرموسكوبي ثلاثي الأبعاد لتسهيل تحليل العمق، وبالتالي توفير فهم أكثر شمولاً للموضوع.

بالإضافة إلى ذلك، يقترح المؤلفون تقليمًا منهجيًا للرؤوس الانتباه الزائدة وحواف الشبكة العصبية البيانية لتحسين كفاءة النموذج. كما يقترحون استكشاف التكميم بدقة مختلطة لتحقيق تسريع INT8 على الأجهزة المدمجة، بالإضافة إلى تطبيق تقنيات تقطير المعرفة لتطوير هياكل طلابية مبسطة مصممة للبيئات المقيدة. تهدف هذه التحسينات المقترحة إلى توسيع وتعزيز مساهمات الدراسة الحالية وسيتم تناولها في الأبحاث المستقبلية.

Journal: Scientific Reports, Volume: 16, Issue: 1
DOI: https://doi.org/10.1038/s41598-025-32502-z
PMID: https://pubmed.ncbi.nlm.nih.gov/41654513
Publication Date: 2026-02-07
Author(s): Aswani Dogga et al.
Primary Topic: Cutaneous Melanoma Detection and Management

Overview

The research presents a novel approach for the detection and diagnosis of skin cancer using a Hybrid Vision Transformer (ViT) integrated with a Graph Neural Network (GNN) and Region-Adaptive Attention. This model addresses the challenges posed by complex spatial relationships and global contextual information in dermoscopy images, which are critical for accurate diagnosis. The ViT component captures global dependencies within the images, while the GNN enhances feature extraction by leveraging the spatial relationships of skin lesions. Additionally, Region-Adaptive Attention focuses on diagnostically relevant areas, improving lesion categorization.

The proposed framework incorporates a multiscale analysis of lesions, considering variations in size, color, and texture. To enhance generalizability across diverse skin tones and imaging conditions, meta-learning techniques are employed. The model demonstrates superior performance compared to existing state-of-the-art deep learning algorithms on benchmark skin cancer datasets, achieving improved classification accuracy and interpretability. This advancement positions the architecture as a promising tool for clinical dermatology.

Introduction

The introduction of this research paper addresses the critical issue of skin cancer, particularly melanoma, which is recognized as one of the most lethal forms of cancer. Early detection and accurate diagnosis are essential for improving survival rates, yet traditional clinical dermatology relies heavily on subjective visual examinations that can lead to errors. To mitigate these limitations, the paper highlights the growing interest in deep learning techniques for automatic skin cancer detection, specifically through the use of convolutional neural networks (CNNs). However, CNNs face challenges such as limited receptive fields and difficulties in capturing long-range correlations, prompting the exploration of Vision Transformers (ViTs) as an alternative. Despite their advantages in global contextual understanding, ViTs struggle with modeling spatial interactions among lesion sub-regions.

To address these challenges, the authors propose a novel skin cancer prediction model that integrates a Hybrid Vision Transformer (ViT) with a Graph Neural Network (GNN) and incorporates a Region-Adaptive Attention (RAA) mechanism. This hybrid architecture aims to enhance the representation of atypical skin lesions by encoding spatial interactions while leveraging the global dependency mapping capabilities of ViTs. The proposed model not only improves classification accuracy through focused attention on diagnostically relevant areas but also explicitly learns spatial and topological relationships among lesion components. The framework is validated against multiple real-world datasets, including HAM10000 and ISIC, demonstrating competitive accuracy and effective generalization across diverse cohorts. Key contributions include an innovative embeddings-to-graph transformation, an attention fusion module that combines ViT and GNN strengths, and robust interpretability features through SHAP and Grad-CAM, ensuring transparency and clinician trust in automated diagnoses.

Methods

In this section, the authors introduce a novel methodology that integrates a Hybrid Vision Transformer (ViT) with a Graph Neural Network (GNN) to enhance skin cancer prediction. The proposed model employs Region-Adaptive Attention (RAA) to capture the intricate relationships between lesions, which are crucial for differential diagnosis. The framework is designed to improve both the accuracy and interpretability of predictions through a comprehensive approach that includes global feature extraction, spatial connection modeling, and adaptive attention mechanisms.

The methodology comprises five key components: data cleansing, feature extraction via the vision transformer, spatial relations modeling through graph neural networking, application of region adaptive attention, and a multi-scale analysis of lesions supported by meta-learning optimization. The effectiveness of the proposed model is evaluated based on metrics such as accuracy, robustness, interpretability, and generalization across various datasets, highlighting its potential to address the limitations of traditional transformer-based methods in medical image analysis.

Discussion

The research paper discusses the development of a novel hybrid architecture that integrates Vision Transformers (ViTs) with Graph Neural Networks (GNNs) for skin cancer classification. This approach not only enhances the model’s ability to capture both global and local features of skin lesions but also incorporates a Region-Adaptive Attention (RAA) mechanism to improve interpretability. The architecture is designed to optimize attention layers jointly, allowing for effective information sharing between the ViT and GNN components. The proposed model is validated against multiple benchmark datasets, demonstrating robust accuracy and providing clinically relevant visual justifications through integrated explainability modules like SHAP and Grad-CAM.

The literature review highlights existing methodologies in skin cancer detection, categorizing them into CNN-based, transformer-based, and hybrid models. While CNNs have shown high accuracy, they struggle with long-range dependencies and spatial relationships. Conversely, transformer models, although effective in capturing global features, often overlook fine-grained details crucial for accurate diagnosis. The paper identifies gaps in current research, particularly the lack of interpretability in existing models, and proposes a solution that combines the strengths of ViTs and GNNs. The architecture aims to enhance classification performance while ensuring that the model’s decisions are interpretable, addressing the critical need for actionable insights in dermatological practice.

Limitations

The limitations of the current research highlight the necessity for further validation, particularly concerning underrepresented skin tones, which may affect the generalizability of the findings. Future work is proposed to enhance the methodology by incorporating 3D dermoscopic imaging to facilitate depth analysis, thereby providing a more comprehensive understanding of the subject matter.

Additionally, the authors suggest systematic pruning of redundant attention heads and graph neural network edges to optimize model efficiency. They also propose exploring mixed-precision quantization to achieve INT8 speed-ups on embedded hardware, as well as applying knowledge distillation to develop streamlined student architectures tailored for constrained environments. These proposed improvements aim to extend and reinforce the contributions of the present study and will be addressed in subsequent research.