تحسين التعلم العميق القائم على الانتباه الهجين لتصنيف نضج الأفوكادو على الأجهزة ذات الموارد المحدودة Enhanced hybrid attention deep learning for avocado ripeness classification on resource constrained devices

شارك:
المجلة: Scientific Reports، المجلد: 15، العدد: 1
DOI: https://doi.org/10.1038/s41598-025-87173-7
PMID: https://pubmed.ncbi.nlm.nih.gov/39880865
تاريخ النشر: 2025-01-29
المؤلف: Sumitra Nuanmeesri
الموضوع الرئيسي: الزراعة الذكية والذكاء الاصطناعي

نظرة عامة

تقدم ورقة البحث نموذج شبكة عصبية تلافيفية هجينة مع انتباه (HACNN) مبتكر مصمم لتصنيف نضج الأفوكادو على الأجهزة ذات الموارد المحدودة. يدمج نموذج HACNN آليات انتباه متعددة، بما في ذلك وحدات الانتباه المكاني والقنوي والذاتي، لتعزيز استخراج الميزات المحلية مع التقاط العلاقات العالمية داخل البيانات. يتناول هذا النهج قيود وحدة انتباه الكتلة التلافيفية (CBAM)، التي تفتقر إلى الوعي بالسياق العالمي، مما يحسن قدرة النموذج على تمييز الميزات المعقدة من مجموعة بيانات تحتوي على 14,000 صورة تمثل خمس فئات من النضج (صلب، كسر، ناضج، زائد النضج، متعفن).

تظهر النتائج التجريبية أن نموذج HACNN المعتمد على التعلم الانتقالي باستخدام بنية EfficientNet-B3 يحقق معدلات دقة مثيرة للإعجاب تبلغ 96.18% و92.64% و91.25% للتدريب والتحقق والاختبار، على التوالي، مع الحفاظ على بصمة ذاكرة قدرها 59.81 ميغابايت ووقت استدلال قدره 280.67 مللي ثانية على هاتف ذكي. على الرغم من أن نموذج ShuffleNetV1 يقدم استهلاكًا أقل للموارد، إلا أن دقته في الاختبار البالغة 82.89% تعتبر غير كافية للتطبيقات العملية. من ناحية أخرى، يظهر نموذج MobileNetV3 Large كبديل قابل للتطبيق، حيث يحقق دقة اختبار تبلغ 91.04% مع تقليل استخدام الذاكرة (26.52 ميغابايت) ووقت استدلال أسرع (86.94 مللي ثانية). تؤكد هذه النتائج على إمكانية نموذج HACNN في تعزيز دقة تصنيف نضج الأفوكادو مع ضمان الجدوى للنشر في بيئات ذات موارد منخفضة.

طرق

تقدم الدراسة نموذج شبكة عصبية تلافيفية هجينة مع انتباه (HACNN)، والذي يشمل خمس عمليات رئيسية: جمع البيانات، تطبيع الصور، زيادة الصور، النمذجة المعتمدة على CNN مع الانتباه الهجين، وتقييم النموذج. تلعب كل من هذه العمليات دورًا حاسمًا في تعزيز أداء النموذج وموثوقيته. يتم تمثيل إطار البحث المقترح بصريًا في الشكل 1، موضحًا النهج المنهجي المتبع لتطوير وتقييم نموذج HACNN.

نقاش

في قسم النقاش من ورقة البحث، يستعرض المؤلفون فعالية نماذج الشبكات العصبية التلافيفية (CNN) المختلفة في تصنيف نضج الأفوكادو والفواكه الأخرى. يبرزون أن MobileNetV2 حقق أعلى دقة تبلغ 95.5% لتصنيف نضج دوريان Monthong، بينما وصلت ResNet-18 إلى 99.7% لنضج الأفوكادو عبر خمس مراحل. يؤكد المؤلفون على أهمية ميزات اللون في كشف النضج، مشيرين إلى أن النماذج التي تتضمن آليات الانتباه، مثل الانتباه القنوي والمكاني، حسنت بشكل كبير أداء التصنيف من خلال التركيز على الميزات ذات الصلة. على سبيل المثال، أظهر نموذج CNN مع الانتباه الهجين (HACNN) نتائج متفوقة مقارنةً بالشبكات العصبية التلافيفية التقليدية، خاصة في دقة التدريب والتحقق.

تناقش الورقة أيضًا تحسين الشبكات العصبية التلافيفية من خلال معدلات التعلم التكيفية، وخاصة مُحسِّن Adam، الذي يوازن بين سرعة التقارب والثبات. أجرى المؤلفون تقييمًا شاملاً لسبعة وخمسين نموذجًا، كاشفين أن نموذج TL-HACNN، وخاصة مع EfficientNet-B3، تفوق على الآخرين في دقة التدريب والتحقق والاختبار، محققًا أكثر من 91% دقة عبر جميع المقاييس. أكدت دراسة الإزالة أيضًا فعالية آليات الانتباه، حيث أسفرت مجموعة الانتباه القنوي والمكاني عن أعلى دقة. بشكل عام، تؤكد النتائج على إمكانيات الهياكل المتقدمة للشبكات العصبية التلافيفية وآليات الانتباه في تعزيز تصنيف نضج الفواكه، مما قد يكون له آثار كبيرة على الممارسات الزراعية وإدارة سلسلة التوريد.

Journal: Scientific Reports, Volume: 15, Issue: 1
DOI: https://doi.org/10.1038/s41598-025-87173-7
PMID: https://pubmed.ncbi.nlm.nih.gov/39880865
Publication Date: 2025-01-29
Author(s): Sumitra Nuanmeesri
Primary Topic: Smart Agriculture and AI

Overview

The research paper presents an innovative Hybrid Attention Convolutional Neural Network (HACNN) model designed for classifying avocado ripeness on resource-constrained devices. The HACNN model integrates multiple attention mechanisms, including Spatial, Channel, and Self-Attention Modules, to enhance local feature extraction while capturing global relationships within the data. This approach addresses the limitations of the Convolutional Block Attention Module (CBAM), which lacks global context awareness, thereby improving the model’s ability to discern intricate features from a dataset of 14,000 images representing five ripeness classes (Firm, Breaking, Ripe, Overripe, Rotten).

The experimental results demonstrate that the transfer learning HACNN utilizing the EfficientNet-B3 architecture achieves impressive accuracy rates of 96.18%, 92.64%, and 91.25% for training, validation, and testing, respectively, while maintaining a memory footprint of 59.81 MB and an inference time of 280.67 ms on a smartphone. Although the ShuffleNetV1 model offers lower resource consumption, its testing accuracy of 82.89% is deemed inadequate for practical applications. Conversely, the MobileNetV3 Large model emerges as a viable alternative, achieving a test accuracy of 91.04% with reduced memory usage (26.52 MB) and faster inference time (86.94 ms). These findings underscore the HACNN model’s potential to enhance avocado ripeness classification accuracy while ensuring feasibility for deployment in low-resource environments.

Methods

The study introduces a Hybrid Attention Convolutional Neural Network (HACNN) model, which encompasses five key processes: data collection, image normalization, image augmentation, hybrid attention CNN-based modeling, and model evaluation. Each of these processes plays a critical role in enhancing the model’s performance and robustness. The framework of the proposed research is visually represented in Figure 1, illustrating the systematic approach taken to develop and assess the HACNN model.

Discussion

In the discussion section of the research paper, the authors review the efficacy of various Convolutional Neural Network (CNN) models in classifying the ripeness of avocados and other fruits. They highlight that MobileNetV2 achieved the highest accuracy of 95.5% for Monthong durian ripeness classification, while ResNet-18 reached 99.7% for avocado ripeness across five stages. The authors emphasize the importance of color features in ripeness detection, noting that models incorporating attention mechanisms, such as channel and spatial attention, significantly improved classification performance by focusing on relevant features. For instance, the hybrid attention CNN model (HACNN) demonstrated superior results compared to traditional CNNs, particularly in training and validation accuracy.

The paper also discusses the optimization of CNNs through adaptive learning rates, particularly the Adam optimizer, which balances convergence speed and stability. The authors conducted a comprehensive evaluation of fifty-seven models, revealing that the TL-HACNN model, particularly with EfficientNet-B3, outperformed others in training, validation, and testing accuracy, achieving over 91% accuracy across all metrics. The ablation study further confirmed the effectiveness of attention mechanisms, with the combination of channel and spatial attention yielding the highest accuracy. Overall, the findings underscore the potential of advanced CNN architectures and attention mechanisms in enhancing fruit ripeness classification, which could have significant implications for agricultural practices and supply chain management.

شارك: