DOI: https://doi.org/10.1016/j.jocs.2025.102588
تاريخ النشر: 2025-04-08
المؤلف: Geethu Joy وآخرون
الموضوع الرئيسي: البحث العلمي والاكتشافات
نظرة عامة
تناقش هذه القسم ضبط المعلمات لخوارزمية اليراعة (FA)، وهي امتداد للعمل السابق الذي قام به جوى وآخرون (2024)، والذي تم تقديمه في المؤتمر الدولي للعلوم الحاسوبية (ICCS 2024). تستكشف الدراسة ثلاث طرق ضبط متميزة: طريقة مونت كارلو، وطريقة كوازي-مونت كارلو، وأخذ العينات من الهيبركيوب اللاتيني. يتم تطبيق FA، المجهزة بهذه المعلمات المضبوطة، على ستة مشاكل تحسين مختلفة، مما يسمح بتحليل كيفية تأثير إعدادات المعلمات على جودة الحلول المثلى.
تستخدم الدراسة اختبارات فرضية إحصائية صارمة، بما في ذلك اختبارات t لستودنت، واختبارات F، واختبارات فريدمان غير المعلمية، وتحليل التباين (ANOVA)، لتقييم النتائج. تشير النتائج إلى أن أداء FA لا يتأثر باختيار طريقة الضبط، وأن قيم المعلمات المضبوطة تظهر درجة كبيرة من الاستقلال عن الطرق المستخدمة. وهذا يشير إلى أن FA متعددة الاستخدامات وفعالة عبر تحديات التحسين المختلفة، حيث يمكن أن تكون أي من طرق الضبط الثلاث مناسبة لتحسين المعلمات.
مقدمة
تسلط مقدمة الورقة الضوء على أهمية مشاكل التحسين في مجالات العلوم والهندسة المختلفة، مشددة على ضرورة وجود خوارزميات تحسين متقدمة لتحقيق حلول مثلى تحت قيود غير خطية متعددة. تشير إلى الاتجاه المتزايد لاستخدام الخوارزميات المستوحاة من الطبيعة بسبب فعاليتها ومرونتها وسهولة تنفيذها، مع توثيق أكثر من 540 خوارزمية من هذا النوع في الأدبيات. ومع ذلك، يمكن أن يختلف أداء هذه الخوارزميات بشكل كبير وغالبًا ما يعتمد على الضبط الدقيق لمعاملاتها، وهو أمر حاسم لتطبيقها الناجح في السيناريوهات الواقعية.
تستند الورقة إلى الأبحاث السابقة المتعلقة بضبط المعلمات، مع التركيز بشكل خاص على خوارزمية اليراعة (FA) وتقييم تأثيرات طرق الضبط المختلفة—مونت كارلو (MC)، كوازي-مونت كارلو (QMC)، وأخذ العينات من الهيبركيوب اللاتيني (LHS)—على معلماتها. تستخدم الدراسة ستة دوال مرجعية لتقييم أداء هذه الطرق الضبط، مستفيدة من اختبارات إحصائية مثل اختبارات t لستودنت، واختبارات F، واختبارات فريدمان، وتحليل التباين (ANOVA) لتحليل النتائج. يتم توضيح تنظيم الورقة، مع تفاصيل مراجعة الأدبيات، وتقديم FA وطرق الضبط، واختبارات المعايير، والنتائج العددية، والمناقشات الختامية للبحوث المستقبلية.
طرق
في هذا القسم، يصف المؤلفون إعداد التجربة المستخدمة لتقييم أداء خوارزمية اليراعة (FA) مع المعلمات المضبوطة بواسطة ثلاث طرق مختلفة: مونت كارلو (MC)، كوازي-مونت كارلو (QMC)، وأخذ العينات من الهيبركيوب اللاتيني (LHS). تشمل معلمات FA التي يتم النظر فيها حجم السكان ($n$)، الذي يتراوح من 20 إلى 40 (حتى 100 إذا لزم الأمر)، بالإضافة إلى المعلمات $\beta$ (عادة ما يتم تعيينها إلى 1، ضمن نطاق 0.1 إلى 1)، $\gamma$ (عادة ما تكون بين 0.1 و 1، تتراوح من 0.01 إلى 10)، و$\theta$ (عادة 0.97، مع قيم بين 0.9 و 0.99). يتم تعيين الحد الأقصى لعدد التكرارات ($t_{\text{max}}$) بين 100 و 1000. يتم تقديم ملخص لهذه النطاقات المعلمات في الجدول 1.
تم إجراء المحاكاة باستخدام MATLAB R2023a على نظام Windows 11 مزود بوحدات معالجة مركزية متعددة النواة (2.40 جيجاهرتز) وذاكرة وصول عشوائي سعتها 8 جيجابايت. خضعت كل طريقة ضبط لـ 10 تجارب مستقلة، حيث استخدم كل تجربة إعداد معلمات فريد تم إنشاؤه بواسطة الطريقة المعنية. ضمن كل تجربة، تم تنفيذ FA 50 مرة لمعالجة نفس مشكلة التحسين، وتم تسجيل أفضل نتيجة من هذه التكرارات. أدى ذلك إلى إجمالي 500 تحقيق محاكاة عبر التجارب العددية، مما يسمح بتحليل قوي للاختلافات في الأداء بين طرق الضبط. تم تطبيق اختبارات إحصائية لاحقًا لتقييم أهمية الاختلافات في قيم الملاءمة التي تم الحصول عليها لكل دالة مرجعية.
مناقشة
يتناول قسم المناقشة في ورقة البحث التعقيدات والتحديات المرتبطة بضبط المعلمات في الخوارزميات، مع التركيز بشكل خاص على خوارزمية اليراعة (FA). يسلط الضوء على غياب طريقة ضبط مثالية عالمية، مصنفًا الأساليب الحالية إلى عشرة أنواع متميزة، بما في ذلك الضبط اليدوي، المسح المنهجي، الضبط التجريبي، وطرق التعلم الآلي، من بين أمور أخرى. يحدد المؤلفون ثلاثة مشاكل مفتوحة رئيسية في ضبط المعلمات: عدم العالمية للمعلمات المضبوطة عبر مشاكل مختلفة، والجهد الحاسوبي العالي المطلوب للضبط، وغياب الرؤى النظرية حول استراتيجيات الضبط الفعالة. تهدف الورقة إلى التحقيق فيما إذا كان اختيار طريقة الضبط يؤثر على جودة الحل وقيم المعلمات لـ FA عبر معايير تحسين مختلفة.
يستخدم المؤلفون طرق إحصائية، بما في ذلك اختبارات t لستودنت المزدوجة، واختبارات F، واختبارات فريدمان، وتحليل التباين (ANOVA)، لتحليل أداء FA عند ضبطها باستخدام طرق مونت كارلو (MC)، كوازي-مونت كارلو (QMC)، وأخذ العينات من الهيبركيوب اللاتيني (LHS). تشير النتائج إلى عدم وجود اختلافات كبيرة في القيم الموضوعية التي تم الحصول عليها من طرق الضبط المختلفة عبر دوال مرجعية متنوعة، مما يشير إلى أن أداء FA قوي تجاه اختيار طريقة الضبط. بالإضافة إلى ذلك، يكشف تحليل قيم المعلمات (الجاذبية $\beta$، معامل القياس $\gamma$، وقوة الاضطراب $\alpha$) عن عدم وجود اختلافات كبيرة بين طرق الضبط، مما يعني أن FA يمكن ضبطها بفعالية باستخدام أي من الطرق الثلاث دون التأثير على الأداء. بشكل عام، تؤكد النتائج على مرونة FA والحاجة إلى اعتبار دقيق لطريقة الضبط فيما يتعلق بمشكلة التحسين المحددة المعنية.
DOI: https://doi.org/10.1016/j.jocs.2025.102588
Publication Date: 2025-04-08
Author(s): Geethu Joy et al.
Primary Topic: Scientific Research and Discoveries
Overview
This section discusses the parameter tuning of the Firefly Algorithm (FA), an extension of previous work by Joy et al. (2024), which was presented at the International Conference on Computational Science (ICCS 2024). The study explores three distinct tuning methods: the Monte Carlo method, the Quasi-Monte Carlo method, and Latin Hypercube Sampling. The FA, equipped with these tuned parameters, is applied to six different optimization problems, allowing for an analysis of how parameter settings affect the quality of optimal solutions.
The research employs rigorous statistical hypothesis tests, including Student’s t-tests, F-tests, non-parametric Friedman tests, and ANOVA, to evaluate the results. Findings indicate that the performance of the FA remains unaffected by the choice of tuning method, and the tuned parameter values exhibit a significant degree of independence from the methods employed. This suggests that the FA is versatile and effective across various optimization challenges, with any of the three tuning methods being suitable for parameter optimization.
Introduction
The introduction of the paper highlights the significance of optimization problems in various scientific and engineering fields, emphasizing the necessity for advanced optimization algorithms to achieve optimal solutions under multiple nonlinear constraints. It notes the growing trend of employing nature-inspired algorithms due to their effectiveness, flexibility, and ease of implementation, with over 540 such algorithms documented in the literature. However, the performance of these algorithms can vary widely and is often contingent on the fine-tuning of their parameters, which is crucial for their successful application in real-world scenarios.
The paper builds on previous research regarding parameter tuning, specifically focusing on the Firefly algorithm (FA) and evaluating the effects of different tuning methods—Monte Carlo (MC), Quasi-Monte Carlo (QMC), and Latin Hypercube Sampling (LHS)—on its parameters. The study employs six benchmark functions to assess the performance of these tuning methods, utilizing statistical tests such as Student’s t-tests, F-tests, Friedman tests, and ANOVA to analyze the results. The organization of the paper is outlined, detailing the literature review, introduction of the FA and tuning methods, benchmark tests, numerical results, and concluding discussions for future research.
Methods
In this section, the authors describe the experimental setup used to evaluate the performance of the Firefly Algorithm (FA) with parameters tuned by three different methods: Monte Carlo (MC), Quasi-Monte Carlo (QMC), and Latin Hypercube Sampling (LHS). The FA parameters under consideration include the population size ($n$), which ranges from 20 to 40 (up to 100 if necessary), as well as the parameters $\beta$ (typically set to 1, within the range of 0.1 to 1), $\gamma$ (typically between 0.1 and 1, ranging from 0.01 to 10), and $\theta$ (typically 0.97, with values between 0.9 and 0.99). The maximum number of iterations ($t_{\text{max}}$) is set between 100 and 1000. A summary of these parameter ranges is provided in Table 1.
The simulations were conducted using MATLAB R2023a on a Windows 11 system equipped with multi-core CPUs (2.40 GHz) and 8 GB of RAM. Each tuning method underwent 10 independent runs, with each run employing a unique parameter setting generated by the respective method. Within each run, the FA was executed 50 times to address the same optimization problem, and the best outcome from these iterations was recorded. This resulted in a total of 500 simulation realizations across the numerical experiments, allowing for a robust analysis of the differences in performance among the tuning methods. Statistical tests were subsequently applied to assess the significance of the differences in fitness values obtained for each benchmark function.
Discussion
The discussion section of the research paper addresses the complexities and challenges associated with parameter tuning in algorithms, particularly focusing on the Firefly Algorithm (FA). It highlights the absence of a universally optimal tuning method, categorizing existing approaches into ten distinct types, including manual tuning, systematic scanning, empirical tuning, and machine learning-based methods, among others. The authors identify three primary open problems in parameter tuning: the non-universality of tuned parameters across different problems, the high computational effort required for tuning, and the lack of theoretical insights into effective tuning strategies. The paper aims to investigate whether the choice of tuning method affects the solution quality and the parameter values of the FA across various optimization benchmarks.
The authors employ statistical methods, including paired Student’s t-tests, F-tests, Friedman tests, and ANOVA, to analyze the performance of the FA when tuned using Monte Carlo (MC), Quasi-Monte Carlo (QMC), and Latin Hypercube Sampling (LHS) methods. The results indicate no significant differences in the objective values obtained from the different tuning methods across various benchmark functions, suggesting that the performance of the FA is robust to the choice of tuning method. Additionally, the analysis of parameter values (attractiveness $\beta$, scaling parameter $\gamma$, and perturbation strength $\alpha$) reveals no significant variations among the tuning methods, implying that the FA can be effectively tuned using any of the three methods without compromising performance. Overall, the findings underscore the flexibility of the FA and the need for careful consideration of the tuning method in relation to the specific optimization problem at hand.