DOI: https://doi.org/10.1038/s41598-026-41981-7
PMID: https://pubmed.ncbi.nlm.nih.gov/41933052
تاريخ النشر: 2026-04-03
المؤلف: Somya Rakesh Goyal
الموضوع الرئيسي: أبحاث هندسة البرمجيات
نظرة عامة
تقدم ورقة البحث نهجًا جديدًا لتوقع عيوب البرمجيات من خلال طريقة تُسمى توقع عيوب البرمجيات القائم على زيادة العينة التوليدية (GeNSDP). تتناول هذه الطريقة التحديات التي تطرحها بيانات العيوب غير المتوازنة، والتي يمكن أن تؤثر سلبًا على أداء متنبئي العيوب. تستخدم GeNSDP نموذجًا توليديًا خفيف الوزن لإنشاء حالات اصطناعية من بيانات الفئة الأقل، والتي تُستخدم بعد ذلك في إطار تعلم عميق لتوقع العيوب. تقيم الدراسة النموذج باستخدام مجموعات بيانات ناسا وPROMISE، محققةً درجة متوسطة مثيرة للإعجاب في منطقة تحت المنحنى (AUC) تبلغ 99.1% ومقياس F يبلغ 0.92. ومن الجدير بالذكر أن GeNSDP تتفوق على تقنيات زيادة العينة التقليدية، مثل زيادة العينة العشوائية (ROS) وSMOTE وCOSTE، بنسبة 30.1%، وعلى نماذج الأساس المختارة بنسبة 14.1%. تؤكد التحليلات الإحصائية، بما في ذلك اختبار ANOVA مع اختبارات Bonferroni اللاحقة عند مستوى ثقة 95%، فعالية النموذج في إدارة عدم التوازن بين الفئات وضمان توقعات موثوقة للعيوب.
في الختام، تقدم الدراسة GeNSDP كطريقة مبتكرة لتعلم عدم التوازن بين الفئات تستفيد من شبكة خصومة توليدية أحادية البعد (GAN) لزيادة العينة الخفيفة. من خلال توليد نقاط بيانات اصطناعية تعكس توزيع مجموعة البيانات الأصلية، تعزز GeNSDP التنوع وتخفف من خطر الإفراط في التكيف في نموذج توقع عيوب البرمجيات. تُستخدم البيانات المعالجة مسبقًا بعد ذلك في بنية تعلم عميق لتدريب وتوقع وحدات البرمجيات المعيبة، مما يشير إلى تقدم كبير في مجال توقع عيوب البرمجيات. قد تركز الأعمال المستقبلية على تحسين النموذج واستكشاف قابليته للتطبيق عبر سياقات هندسة البرمجيات المختلفة.
مقدمة
تناقش مقدمة ورقة البحث أهمية توقع عيوب البرمجيات (SDP) كنشاط حاسم في تطوير البرمجيات، يهدف إلى تحديد الوحدات المعيبة قبل الاختبار. يسمح هذا النهج الاستباقي بتخصيص أكثر كفاءة لموارد الاختبار، مما يقلل في النهاية من تكاليف ووقت التطوير. تسلط الورقة الضوء على التحديات التي تطرحها مجموعات البيانات غير المتوازنة، حيث تتفوق الفئة الأقل “المعرضة للعيوب” بشكل كبير على الفئة “الخالية من العيوب”، مما يؤدي إلى ضعف أداء التنبؤ لنماذج التعلم الآلي (ML). لمعالجة هذه المشكلة، تعتبر تقنيات تعلم عدم التوازن بين الفئات (CIL) ضرورية، وتصنف إلى حلول على مستوى البيانات، ومستوى الخوارزمية، وحلول هجينة. يتم التأكيد على طرق أخذ العينات من البيانات، وخاصة زيادة العينة، على أنها أكثر فعالية من تقليل العينة، حيث تساعد في الحفاظ على المعلومات القيمة أثناء موازنة مجموعة البيانات.
تستعرض الورقة طرق CIL المختلفة وفعاليتها في تحسين نتائج SDP. تُلاحظ تقنيات زيادة العينة التقليدية مثل زيادة العينة العشوائية (ROS) وتقنية زيادة العينة الاصطناعية للأقليات (SMOTE) لقيودها، مثل احتمال الإفراط في التكيف والتمثيل غير الكافي لتوزيعات الميزات الأساسية. تُقدم التطورات الحديثة، بما في ذلك طريقة COSTE والشبكات التوليدية الخصومية (GANs)، كبدائل واعدة تعزز التنوع والواقعية في توليد البيانات الاصطناعية. تمهد المقدمة الطريق للنموذج المقترح، الذي يدمج GAN مبسطة مع شبكة عصبية عميقة (DNN) لتوليد ميزات اصطناعية، بهدف توفير حل خفيف وفعال لتحسين SDP في سياق مجموعات البيانات غير المتوازنة.
الطرق
توضح قسم المنهجية الإطار التجريبي والأساس النظري لنموذج GeNSDP، مع التركيز على تحليله المقارن مع تقنيات زيادة العينة المعتمدة للتعامل مع عدم التوازن بين الفئات في نماذج SDP (معالجة البيانات الإحصائية). تقيم الدراسة أربع طرق بارزة لزيادة العينة: زيادة العينة العشوائية (ROS)، تقنية زيادة العينة الاصطناعية للأقليات (SMOTE)، MAHAKIL، وتقنية زيادة العينة المعتمدة على التعقيد (COSTE). باستخدام عشرة مجموعات بيانات مختارة، يتم استخدام منطقة تحت المنحنى (AUC) كمقياس تقييم رئيسي نظرًا لصلابته ضد الانحراف. تشير النتائج إلى أن طريقة GeNSDP المقترحة تحقق أعلى وسيلة AUC وتظهر تشتتًا أقل مقارنة بالطرق الأخرى، مما يدل على تفوقها.
للتحقق من هذه النتائج إحصائيًا، أجرى المؤلفون اختبار ANOVA للقياسات المتكررة مع اختبارات Bonferroni اللاحقة، بعد تقييمات الطبيعية والكراتية باستخدام اختبارات Shapiro-Wilk وMauchly، على التوالي. تؤكد النتائج ملاءمة الاختبار البارامترية، حيث استوفت مجموعة البيانات الشروط اللازمة. تدعم التحليلات الإحصائية، الموضحة في الأشكال 11 و12، النتائج التجريبية، مما يعزز الاستنتاج بأن طريقة GeNSDP تتفوق بشكل كبير على تقنيات زيادة العينة التقليدية في تحسين أداء SDP، مع مكسب ملحوظ قدره 37.3% في AUC مقارنة بـ ROS.
النتائج
تقدم الدراسة نموذجًا جديدًا، GeNSDP، الذي يظهر أداءً متفوقًا مقارنة بنماذج الأساس المعتمدة في سياق زيادة عينة البيانات. تشير النتائج الرئيسية إلى أن النموذج، الذي تم اختباره على مجموعات بيانات متعددة من مستودعات PROMISE وNASA، يحقق منطقة تحت منحنى ROC (AUC) تبلغ 99.1%، ودقة تبلغ 97.6%، ومقياس F يبلغ 0.92. ومن الجدير بالذكر أن النموذج المقترح يظهر تحسينات كبيرة على أربع تقنيات تقليدية لزيادة العينة—زيادة العينة العشوائية (ROS) وCOSTE وSMOTE وMAHAKIL—مع تحسينات في AUC قدرها 37.3% و26.4% و28.4% و28.5%، على التوالي.
علاوة على ذلك، يتفوق نموذج GeNSDP على الطرق التقليدية لزيادة العينة بنسبة 30.1% في AUC ويتفوق على النماذج المعتمدة على GAN بنسبة 14.1%. يكشف مقارنة تجريبية مع النماذج الحديثة أن GeNSDP يتجاوز أداء GAN + Random Forest وGAN + متعلم شبه مشرف وGAN + AdaBoost وGAN + BertCode بفروق قدرها 18.0% و14.6% و13.9% و9.9% في AUC، على التوالي. تدعم صلابة النتائج التحقق الإحصائي من خلال ANOVA المتكرر واختبارات Bonferroni اللاحقة، مما يبرز الصرامة المنهجية والموثوقية التجريبية للإطار المقترح.
المناقشة
تسلط قسم المناقشة في الورقة الضوء على النهج المبتكر لاستخدام شبكة خصومة توليدية خفيفة الوزن أحادية البعد (GAN) لزيادة العينة في توقع عيوب البرمجيات (SDP) لمعالجة قضايا عدم التوازن بين الفئات. غالبًا ما تؤدي تقنيات زيادة العينة التقليدية، مثل زيادة العينة العشوائية (ROS) وSMOTE، إلى تشويه توزيع البيانات وإفراط في التكيف للمتصنف. بالمقابل، يتعلم النموذج المقترح، GeNSDP، بفعالية توزيع الاحتمالات الأساسي للفئة الأقل، مما يولد عينات اصطناعية متنوعة وواقعية تعزز مجموعة بيانات التدريب دون تكرار البيانات الموجودة. تعتبر هذه الطريقة مفيدة بشكل خاص للوحدات المعرضة للعيوب، التي غالبًا ما توجد في أشكال غير خطية ومعقدة في فضاء الميزات.
تظهر التقييمات التجريبية لـ GeNSDP عبر عشرة مجموعات بيانات متاحة للجمهور فعاليتها في تحسين دقة توقع العيوب. حقق النموذج متوسط منطقة تحت المنحنى (AUC) قدره 99.1%، مع دقة عالية (97.6%) ومقياس F (0.92)، مما يشير إلى أداء قوي حتى في وجود عدم التوازن بين الفئات. ومن الجدير بالذكر أن الدراسة تؤكد على قابلية تعميم النموذج والتحقق الإحصائي، مما يظهر تفوقه على الطرق التقليدية لزيادة العينة والنهج المعتمدة على GAN الموجودة. يوضح دمج قيم شابلي أيضًا عملية اتخاذ القرار للنموذج، مما يكشف أن زيادة العينة التوليدية لا تعالج فقط عدم التوازن بين الفئات ولكن تعزز أيضًا أهمية الميزات في توقع العيوب، مما يساهم في الفعالية العامة للنموذج التنبؤي.
القيود
تقدم الدراسة نموذج زيادة عينة توليدية (GeNSDP) يهدف إلى معالجة عدم التوازن بين الفئات في توقع عيوب البرمجيات (SDP)، لكنها تعترف بعدة قيود. أولاً، قد تؤدي خطوات المعالجة المسبقة، وخاصة إعادة أخذ العينات، إلى إدخال تحيز، ويشكل إجراء زيادة العينة قبل تقسيم التدريب والاختبار خطر تسرب البيانات. على الرغم من أن الدراسة التزمت ببروتوكولات صارمة للتخفيف من هذا الخطر، يُوصى بالتحقق المستقل لتعزيز الموثوقية. ثانيًا، قد لا تعكس اعتماد النموذج على تسميات العيوب المتاحة الجودة الفعلية للبرمجيات، حيث قد يتجاهل العيوب الكامنة أو غير المبلغ عنها.
بالإضافة إلى ذلك، على الرغم من أن التجارب استخدمت مجموعات بيانات معيارية عامة معتمدة، لا يزال تطبيق النموذج على أنظمة صناعية كبيرة النطاق أو مشاريع عبر مجالات مختلفة غير مؤكد. يُلاحظ أن مكون الشبكة الخصومية التوليدية (GAN) بسيط، حيث يستخدم مولد هوية بدلاً من الانخراط في تعلم خصومي حقيقي. علاوة على ذلك، فإن قابلية توسيع النموذج محدودة عند التعامل مع بيانات متعددة الأبعاد أو ضوضاء، وأداؤه التنبؤي يعتمد على جودة المدخلات الاصطناعية، التي تفتقر إلى آليات تنظيم وضبط متطورة.
DOI: https://doi.org/10.1038/s41598-026-41981-7
PMID: https://pubmed.ncbi.nlm.nih.gov/41933052
Publication Date: 2026-04-03
Author(s): Somya Rakesh Goyal
Primary Topic: Software Engineering Research
Overview
The research paper presents a novel approach to software defect prediction through a method called Generative oversampling-based Software Defect Prediction (GeNSDP). This method addresses the challenges posed by imbalanced defect data, which can adversely affect the performance of defect predictors. GeNSDP utilizes a lightweight generative model to create synthetic instances of minority class data, which are then employed in a deep learning framework for defect prediction. The study evaluates the model using NASA and PROMISE datasets, achieving an impressive average Area Under the Curve (AUC) score of 99.1% and an F-measure of 0.92. Notably, GeNSDP outperforms traditional oversampling techniques, such as Random Oversampling (ROS), SMOTE, and COSTE, by 30.1%, and selected baseline models by 14.1%. Statistical analysis, including an ANOVA test with Bonferroni post-hoc testing at a 95% confidence level, confirms the model’s effectiveness in managing class imbalance and ensuring reliable defect predictions.
In conclusion, the study introduces GeNSDP as an innovative class imbalance learning method that leverages a 1D Generative Adversarial Network (GAN) for lightweight oversampling. By generating synthetic data points that reflect the original dataset’s distribution, GeNSDP enhances diversity and mitigates the risk of overfitting in the software defect prediction model. The preprocessed data is subsequently utilized in a deep learning architecture to train and predict faulty software modules, indicating a significant advancement in the field of software defect prediction. Future work may focus on further refining the model and exploring its applicability across different software engineering contexts.
Introduction
The introduction of the research paper discusses the significance of Software Defect Prediction (SDP) as a crucial activity in software development, aimed at identifying defective modules prior to testing. This proactive approach allows for more efficient allocation of testing resources, ultimately reducing development costs and time. The paper highlights the challenges posed by imbalanced datasets, where the minority ‘fault-prone’ class is significantly outnumbered by the ‘fault-free’ class, leading to impaired predictive performance of Machine Learning (ML) models. To address this issue, Class Imbalance Learning (CIL) techniques are essential, categorized into data-level, algorithmic-level, and hybrid solutions. Data sampling methods, particularly oversampling, are emphasized as more effective than undersampling, as they help maintain valuable information while balancing the dataset.
The paper reviews various CIL methods and their effectiveness in improving SDP outcomes. Traditional oversampling techniques like Random Oversampling (ROS) and Synthetic Minority Over-sampling Technique (SMOTE) are noted for their limitations, such as potential overfitting and inadequate representation of underlying feature distributions. Recent advancements, including the COSTE method and Generative Adversarial Networks (GANs), are presented as promising alternatives that enhance the diversity and realism of synthetic data generation. The introduction sets the stage for the proposed model, which integrates a simplified GAN with a Deep Neural Network (DNN) to generate synthetic features, aiming to provide a lightweight and effective solution for improving SDP in the context of imbalanced datasets.
Methods
The methodology section outlines the experimental framework and theoretical basis for the GeNSDP model, emphasizing its comparative analysis with established oversampling techniques for handling class imbalance in SDP (Statistical Data Processing) models. The study evaluates four prominent oversampling methods: Random Over Sampling (ROS), Synthetic Minority Oversampling TEchnique (SMOTE), MAHAKIL, and Complexity based OverSampling TEchnique (COSTE). Using ten selected datasets, the Area Under the Curve (AUC) is employed as the primary evaluation metric due to its robustness against skewness. The results indicate that the proposed GeNSDP method achieves the highest median AUC and exhibits lower dispersion compared to the other methods, demonstrating its superiority.
To validate these findings statistically, the authors conducted a Repeated Measures ANOVA with Bonferroni Post-hoc tests, following normality and sphericity assessments using the Shapiro-Wilk and Mauchly’s tests, respectively. The results confirm the appropriateness of parametric testing, as the dataset met the necessary conditions. The statistical analysis, illustrated in Figures 11 and 12, corroborates the empirical results, reinforcing the conclusion that the GeNSDP method significantly outperforms the conventional oversampling techniques in improving SDP performance, with a notable gain of 37.3% in AUC over ROS.
Results
The study presents a novel model, GeNSDP, which demonstrates superior performance compared to established baselines in the context of data oversampling. Key findings indicate that the model, tested on multiple datasets from the PROMISE and NASA repositories, achieves an Area Under the ROC Curve (AUC) of 99.1%, an accuracy of 97.6%, and an F-measure of 0.92. Notably, the proposed model shows significant improvements over four conventional oversampling techniques—Random Oversampling (ROS), COSTE, SMOTE, and MAHAKIL—with enhancements in AUC of 37.3%, 26.4%, 28.4%, and 28.5%, respectively.
Furthermore, the GeNSDP model surpasses traditional oversampling methods by 30.1% in AUC and outperforms GAN-based models by 14.1%. An empirical comparison with state-of-the-art models reveals that GeNSDP exceeds the performance of GAN + Random Forest, GAN + semi-supervised learner, GAN + AdaBoost, and GAN + BertCode by margins of 18.0%, 14.6%, 13.9%, and 9.9% in AUC, respectively. The robustness of the results is supported by statistical validation through Repeated ANOVA and Bonferroni Post-hoc Tests, underscoring the methodological rigor and empirical reliability of the proposed framework.
Discussion
The discussion section of the paper highlights the innovative approach of using a lightweight 1D Generative Adversarial Network (GAN) for oversampling in software defect prediction (SDP) to address class imbalance issues. Traditional oversampling techniques, such as Random Over Sampling (ROS) and SMOTE, often lead to data distribution distortion and classifier overfitting. In contrast, the proposed model, GeNSDP, effectively learns the underlying probability distribution of the minority class, generating diverse and realistic synthetic samples that enhance the training dataset without duplicating existing data. This method is particularly beneficial for defect-prone modules, which often exist on complex, non-linear manifolds in feature space.
The empirical evaluation of GeNSDP across ten publicly available datasets demonstrates its effectiveness in improving defect prediction accuracy. The model achieved an average Area Under the Curve (AUC) of 99.1%, with high accuracy (97.6%) and F-measure (0.92), indicating robust performance even in the presence of class imbalance. Notably, the study emphasizes the model’s generalizability and statistical validation, showcasing its superiority over conventional oversampling methods and existing GAN-based approaches. The integration of Shapley values further elucidates the model’s decision-making process, revealing that generative oversampling not only addresses class imbalance but also enhances the significance of features in defect prediction, thereby contributing to the overall effectiveness of the predictive model.
Limitations
The study introduces a generative oversampling model (GeNSDP) aimed at addressing class imbalance in software defect prediction (SDP), yet it acknowledges several limitations. Firstly, the preprocessing steps, particularly resampling, may introduce bias, and conducting oversampling prior to the train-test split risks data leakage. Although the study adhered to strict protocols to mitigate this risk, independent validation is recommended to enhance reliability. Secondly, the model’s reliance on available defect labels may not accurately reflect actual software quality, as it may overlook latent or unreported defects.
Additionally, while the experiments utilized established public benchmark datasets, the model’s applicability to large-scale industrial systems or projects across various domains remains uncertain. The generative adversarial network (GAN) component is noted to be simplistic, employing an identity generator rather than engaging in true adversarial learning. Furthermore, the model’s scalability is limited when dealing with multi-dimensional or noisy data, and its predictive performance is contingent upon the quality of the synthetic inputs, which lack sophisticated regularization and tuning mechanisms.