DOI: https://doi.org/10.1007/s00170-026-18080-y
تاريخ النشر: 2026-04-20
المؤلف: Michele Trovato وآخرون
الموضوع الرئيسي: تكييف المجال والتعلم من عدد قليل من الأمثلة
نظرة عامة
تتناول ورقة البحث دمج التعلم الآلي (ML) ضمن التصنيع الإضافي (AM)، مع التركيز بشكل خاص على منهجية التعلم المستمر الجديدة المسماة الانحدار التدريجي عبر الإنترنت (PORR). يتناول هذا النهج تحدي النسيان الكارثي في مهام التعلم المتزايد من خلال تحسين شبكة الأعصاب التلافيفية المدربة مسبقًا (CNN)، وتحديدًا MobileNetV3، للتعرف على العيوب في انصهار المسحوق من البوليمرات. تستخدم الدراسة مجموعة بيانات مفتوحة الوصول للتحقق من فعالية PORR، مما يظهر قدرته على تحسين الموارد الحاسوبية مع الحفاظ على دقة عالية وتقليل وقت التدريب.
تكشف النتائج أن PORR لا يحافظ فقط على المعرفة المكتسبة سابقًا ولكنه يعززها أيضًا خلال التحديثات المتزايدة، محققًا أداءً متفوقًا مقارنة باستراتيجيات أخرى مثل ذاكرة الحلقات التدرجية (GEM) وGDumb. بالمقابل، تظهر طرق مثل التعلم بدون نسيان (LwF) وتوحيد الوزن المرن (EWC) قدرات نقل محدودة إلى الوراء. تؤكد الدراسة على أهمية اختيار استراتيجيات التعلم المستمر المناسبة ونماذج استخراج الميزات المصممة لتناسب مجموعات البيانات المحددة والقيود الحاسوبية. تشير النتائج إلى أن الكشف المبكر عن العيوب يمكن أن يحسن بشكل كبير من جودة العملية ويقلل التكاليف في AM، مما يمهد الطريق لتطبيقات مستقبلية للنموذج المقترح في سيناريوهات التعرف على العيوب المختلفة في هذا المجال.
مقدمة
تسلط مقدمة ورقة البحث الضوء على أهمية التصنيع الإضافي (AM) عبر مختلف الصناعات نظرًا لقدرتها على إنتاج مكونات معقدة وخفيفة الوزن ومخصصة بكفاءة. يعزز دمج التعلم الآلي (ML) في عمليات AM تطوير المنتجات من خلال تمكين الكشف والتنبؤ بالعيوب مثل الشقوق والفراغات، مما يسهل تحسين العملية في الموقع. يتم استخدام تقنيات ML الشائعة، بما في ذلك الشبكات العصبية التلافيفية العميقة وآلات الدعم الناقل، للتصنيف القائم على الصور والصيانة التنبؤية. ومع ذلك، تواجه تنفيذات ML في AM تحديات تتعلق بتدريب النموذج، والنشر، والطبيعة الديناميكية لمتطلبات الإنتاج، مما يمكن أن يؤدي إلى مشكلات مثل النسيان الكارثي في النماذج الثابتة.
لمعالجة هذه التحديات، تقترح الدراسة نهجًا جديدًا للتعلم المستمر (CL)، يسمى الانحدار التدريجي عبر الإنترنت (PORR)، والذي يسمح بإجراء تعديلات في الوقت الحقيقي على نماذج ML دون المساس بالمهام المكتسبة سابقًا. يركز هذا الأسلوب على تحسين نموذج MobileNetV3، وهو شبكة أعصاب تلافيفية مدربة مسبقًا، ويتم التحقق منه باستخدام مجموعة بيانات مفتوحة الوصول تتعلق بالعيوب في انصهار المسحوق (PBF) من البوليمرات. يتم تقييم فعالية النهج المقترح بناءً على الدقة، ووقت التدريب، واستخدام وحدة المعالجة المركزية، واستهلاك الذاكرة العشوائية، مما يمهد الطريق لمزيد من الاستكشاف في الأقسام اللاحقة من الورقة.
الطرق
في هذا القسم، يحدد المؤلفون الطرق المرجعية المختارة لتقييم أداء نهجهم المقترح PORR. تم اختيار خمسة طرق متطورة بناءً على شعبيتها وفعاليتها في أبحاث التعلم المستمر (CL): إعادة تجربة متوازنة، GDumb، التعلم بدون نسيان، توحيد الوزن المرن، وذاكرة الحلقات التدرجية. تم تسهيل تنفيذ هذه الطرق من خلال مكتبة التعلم المستمر Avalanche، التي توفر الوصول إلى المعايير المعتمدة.
يبرز المؤلفون أن طرق إعادة التجربة ملحوظة لقدرتها على الحفاظ على مخزن بيانات صغير، مما يمكّن النموذج من التعلم من كل من البيانات الجديدة والبيانات التي تم مواجهتها سابقًا. بالإضافة إلى ذلك، يقدمون متغيرًا عبر الإنترنت لمهمة التعلم المتزايد مصمم خصيصًا للكشف عن العيوب، وهيكلها حول 30 تجربة، كل منها يتكون من 100 نقطة بيانات. يهدف هذا الإعداد إلى محاكاة بيئة تعلم عبر الإنترنت أكثر واقعية.
النتائج
يقدم قسم النتائج تحليلًا شاملاً لمختلف طرق التعلم المتزايد من الفئات (CIL) المطبقة على مجموعة بيانات، باستخدام MNV3Large وMNV3Small كنماذج استخراج ميزات مدربة مسبقًا. تلخص النتائج، الموضحة في الجدول 5، اثني عشر تركيبة منهجية، بما في ذلك طريقة PORR المقترحة. تشمل المقاييس الرئيسية التي تم تقييمها الدقة، ووقت التدريب، واستخدام وحدة المعالجة المركزية، والحد الأقصى لتخصيص الذاكرة العشوائية، مع تنظيم البيانات لتسهيل المقارنة بين الطرق.
تشير التحليلات إلى أن طرق GEM وPORR، خاصة عند اقترانها بـ MNV3Large، تظهر أعلى أداء في سياق الكشف عن العيوب ضمن مجموعة بيانات PBF-LB/P، مما يحقق فعالية نهج PORR مع الحفاظ على استخدام معتدل للموارد الحاسوبية. بالمقابل، أظهرت طرق مثل GDumb مع MNV3Small، جنبًا إلى جنب مع جميع تقنيات توحيد الوزن المرن (EWC) وطرق التعلم بدون نسيان (LwF)، أداءً دون المستوى، حيث حققت معدلات دقة أقل من 70%، مع تحقيق طرق LwF فقط 50% دقة. تؤكد هذه النتائج على التبادلات بين الموارد الحاسوبية والدقة المتأصلة في منهجيات CIL التي تم تقييمها، مما يبرز تفوق طريقة PORR المقترحة في هذا السياق التجريبي.
المناقشة
تؤكد قسم المناقشة في الورقة على أهمية التصنيع الإضافي (AM) في سياق الصناعة 4.0، مع تسليط الضوء على قدراته التحويلية من خلال تعزيز التخصيص، والمرونة، والتكامل مع الذكاء الاصطناعي (AI). توضح الورقة المزايا المميزة لـ AM مقارنة بالتصنيع التقليدي، مثل القدرة على إنتاج أشكال معقدة وتقليل الوقت إلى السوق من خلال النماذج الأولية السريعة. تفصل العملية الخاصة بانصهار المسحوق من البوليمرات (PBF-LB/P)، التي تستخدم ليزر عالي الطاقة لذوبان مسحوق البوليمر طبقة تلو الأخرى، وتحدد المعلمات الحرجة للعملية التي تؤثر على جودة الأجزاء، بما في ذلك سمك الطبقة وسرعة المسح.
علاوة على ذلك، تستكشف الورقة تطبيق التعلم الآلي (ML) في مراقبة وتحسين عملية PBF-LB/P. تناقش تقنيات ML المختلفة للكشف عن العيوب، مع التأكيد على أهمية المراقبة في الوقت الحقيقي والتحديات التي تطرحها التباينات الهندسية في الأجزاء المنتجة. يقترح المؤلفون نهجًا جديدًا للتعلم المستمر (CL) لتعزيز التعرف على العيوب في AM، مع معالجة مشكلة النسيان الكارثي في نماذج ML التقليدية. من خلال استخدام استراتيجية قائمة على التمثيل باستخدام نماذج مدربة مسبقًا، يهدف النهج المقترح إلى التكيف تدريجيًا مع البيانات الجديدة مع الاحتفاظ بالمعرفة المكتسبة سابقًا، مما يحسن من كفاءة ودقة تصنيف العيوب في عمليات AM.
DOI: https://doi.org/10.1007/s00170-026-18080-y
Publication Date: 2026-04-20
Author(s): Michele Trovato et al.
Primary Topic: Domain Adaptation and Few-Shot Learning
Overview
The research paper discusses the integration of Machine Learning (ML) within Additive Manufacturing (AM), particularly focusing on a novel Continual Learning methodology termed Progressive Online Ridge Regression (PORR). This approach addresses the challenge of catastrophic forgetting in class-incremental learning tasks by fine-tuning a pre-trained Convolutional Neural Network (CNN), specifically MobileNetV3, for defect recognition in Powder Bed Fusion of Polymers. The study utilizes an open-access dataset to validate the effectiveness of PORR, demonstrating its ability to optimize computational resources while maintaining high accuracy and minimizing training time.
The findings reveal that PORR not only preserves previously learned knowledge but also enhances it during incremental updates, achieving superior performance compared to other strategies such as Gradient Episodic Memory (GEM) and GDumb. In contrast, methods like Learning without Forgetting (LwF) and Elastic Weight Consolidation (EWC) show limited backward transfer capabilities. The research emphasizes the significance of selecting appropriate Continual Learning strategies and feature extraction models tailored to specific datasets and computational constraints. The results indicate that early defect detection can significantly improve process quality and reduce costs in AM, paving the way for future applications of the proposed model in various defect-recognition scenarios within the field.
Introduction
The introduction of the research paper highlights the significance of Additive Manufacturing (AM) across various industries due to its capability to produce complex, lightweight, and customized components efficiently. The integration of Machine Learning (ML) into AM processes enhances product development by enabling the detection and prediction of defects such as cracks and porosity, thereby facilitating in situ process optimization. Common ML techniques, including Deep Convolutional Neural Networks and Support Vector Machines, are employed for image-based classification and predictive maintenance. However, the implementation of ML in AM faces challenges related to model training, deployment, and the dynamic nature of production requirements, which can lead to issues like catastrophic forgetting in static models.
To address these challenges, the study proposes a novel Continual Learning (CL) approach, termed Progressive Online Ridge Regression (PORR), which allows for real-time adjustments to ML models without compromising previously learned tasks. This method focuses on fine-tuning the MobileNetV3 model, a pre-trained Convolutional Neural Network, and is validated using an open-access dataset related to defects in Powder Bed Fusion (PBF) of Polymers. The effectiveness of the proposed approach is assessed based on accuracy, training time, CPU usage, and RAM consumption, setting the stage for further exploration in subsequent sections of the paper.
Methods
In this section, the authors outline the benchmark methods selected to evaluate the performance of their proposed PORR approach. Five state-of-the-art methods were chosen based on their popularity and effectiveness in continual learning (CL) research: Balanced Experience Replay, GDumb, Learning without Forgetting, Elastic Weight Consolidation, and Gradient Episodic Memory. The implementation of these methods was facilitated by the continual learning library Avalanche, which provides access to established benchmarks.
The authors highlight that Experience Replay methods are notable for their capability to maintain a small data buffer, enabling the model to learn from both new and previously encountered data. Additionally, they introduce an online variant of the class-incremental task specifically designed for defect detection, structured around 30 experiences, each comprising 100 data points. This setup aims to simulate a more realistic online learning environment.
Results
The results section presents a comprehensive analysis of various Class Incremental Learning (CIL) methods applied to a dataset, utilizing MNV3Large and MNV3Small as pre-trained feature extraction models. The findings, summarized in Table 5, detail twelve methodological combinations, including the proposed PORR method. Key metrics evaluated include accuracy, training time, CPU usage, and maximum RAM allocation, with the data organized to facilitate comparison among the methods.
The analysis indicates that the GEM and PORR methods, particularly when paired with MNV3Large, demonstrate the highest performance in the context of defect detection within the PBF-LB/P dataset, validating the effectiveness of the PORR approach while maintaining moderate computational resource usage. Conversely, methods such as GDumb with MNV3Small, along with all Elastic Weight Consolidation (EWC) and Learning without Forgetting (LwF) techniques, exhibited suboptimal performance, achieving accuracy rates below 70%, with LwF methods yielding only 50% accuracy. These results underscore the computational and accuracy trade-offs inherent in the evaluated CIL methodologies, highlighting the superiority of the proposed PORR method in this experimental context.
Discussion
The discussion section of the paper emphasizes the significance of Additive Manufacturing (AM) within the context of Industry 4.0, highlighting its transformative capabilities through enhanced personalization, flexibility, and integration with Artificial Intelligence (AI). The paper outlines the distinct advantages of AM over traditional manufacturing, such as the ability to produce complex geometries and the reduction of time-to-market through rapid prototyping. It details the process of Powder Bed Fusion of Polymers (PBF-LB/P), which utilizes high-powered lasers to melt polymer powders layer by layer, and identifies critical process parameters that influence part quality, including layer thickness and scan speed.
Furthermore, the paper explores the application of Machine Learning (ML) in monitoring and improving the PBF-LB/P process. It discusses various ML techniques for defect detection, emphasizing the importance of real-time monitoring and the challenges posed by geometric variability in produced parts. The authors propose a novel Continual Learning (CL) approach to enhance defect recognition in AM, specifically addressing the issue of catastrophic forgetting in traditional ML models. By employing a Representation-Based strategy using pre-trained models, the proposed method aims to incrementally adapt to new data while retaining previously learned knowledge, thus improving the efficiency and accuracy of defect classification in AM processes.
