DOI: https://doi.org/10.1007/s12532-026-00310-9
تاريخ النشر: 2026-06-10
المؤلف: Charlie Vanaret وآخرون
الموضوع الرئيسي: أبحاث خوارزميات التحسين المتقدمة
نظرة عامة
تقدم ورقة البحث إطارًا موحدًا لطرق تحسين القيود غير الخطية، مع التركيز بشكل خاص على البرمجة التربيعية المتسلسلة (SQP) وطرق النقطة الداخلية، التي تشترك في مكونات خوارزمية شائعة. يتكون هذا الإطار من ثمانية كتل أساسية تسهل تنظيم ومقارنة استراتيجيات التحسين المختلفة. يقدم المؤلفون Uno، وهو حل برمجي C++ معياري ينفذ هذا الإطار، مما يسمح للمستخدمين بدمج استراتيجيات تحسين مختلفة بسهولة دون الحاجة إلى برمجة مكثفة. يهدف Uno إلى تبسيط تطوير طرق التحسين، ودعم التجريب مع استراتيجيات جديدة، وتقليل عبء الصيانة المرتبط بالحلول المتعددة. لقد أظهر الحل أداءً تنافسيًا ضد الحلول المعروفة مثل filter-SQP و IPOPT على مجموعة مرجعية من 429 مشكلة صغيرة من مجموعة CUTE.
في الختام، يؤكد المؤلفون أن Uno يعمل كمنصة تجريبية متعددة الاستخدامات لمجتمع التحسين، مما يتيح النشر السريع واختبار استراتيجيات خوارزمية جديدة. ستتضمن التحسينات المستقبلية لـ Uno طرقًا إضافية مثل تقنيات كوازي-نيوتن وحلول خطية تكرارية، مما يوسع من قدراته. يعزز تصميم الإطار من دمج استراتيجيات التحسين الناشئة، مما يعزز الابتكار في مجال تحسين القيود غير الخطية. Uno متاح كبرنامج مفتوح المصدر، مما يعزز الوصول للباحثين والممارسين على حد سواء.
طرق
تناقش قسم الطرق تقنيات تحسين مختلفة، مع التركيز على طرق الفلترة وطرق التعامل مع عدم المساواة. تهدف طرق الفلترة إلى فصل تقليل دالة الهدف عن التقدم نحو القابلية، باستخدام آلية فلترة لتوجيه التكرارات بالقرب من المنطقة القابلة. يتم تعريف دالة الانخفاض على أنها $\phi(x) = \omega_1(x) + \xi(x)$، مع تقليل متوقع يتم إعطاؤه بواسطة $\phi^{(k)}(dx) = \omega_1^{(k)}(dx) + \xi^{(k)}(dx)$. يتم تحديد التكرارات التجريبية المقبولة من خلال مقارنة مقياس عدم القابلية التجريبية $\eta$ ومقياس الهدف $\phi$ مقابل فلتر $F$، مما يضمن التقارب إلى الحدود القابلة تحت ظروف معينة.
تُصنف طرق التعامل مع عدم المساواة إلى ثلاث فئات: طرق مقيدة بعدم المساواة، وطرق مقيدة بالمساواة، وطرق النقطة الداخلية. تحل طرق مقيدة بعدم المساواة، مثل البرمجة التربيعية المتسلسلة (SQP)، سلسلة من المشكلات التربيعية المقيدة بعدم المساواة باستخدام نهج مجموعة نشطة، بينما تقدر طرق مقيدة بالمساواة أولاً المجموعة النشطة من خلال مشكلة فرعية ذات دقة منخفضة قبل حل مشكلة مقيدة بالمساواة ذات دقة عالية. تعمل طرق النقطة الداخلية على تخفيف شروط التكميل باستخدام معلمة حاجز، مما يفرض إيجابية المتغيرات في كل تكرار. بالإضافة إلى ذلك، يتم مناقشة طرق البحث عن الخطوط وطرق منطقة الثقة، حيث تحدد طرق البحث عن الخطوط طول خطوة تجريبية للتكرارات، وتفرض طرق منطقة الثقة قيودًا على طول الخطوة لضمان التقارب دون الحاجة إلى هيسيان إيجابي محدد.
نتائج
في هذا القسم، يقدم المؤلفون تحليلًا مقارنًا لأداء إعدادات filtersqp و ipopt من Uno 2.2.0 مقابل عدة حلول رائدة، بما في ذلك filterSQP و IPOPT و SNOPT و MINOS و LANCELOT و LOQO و CONOPT. يعتمد التقييم على 429 مشكلة اختبار صغيرة مأخوذة من معيار CUTE، والتي تم إعادة صياغتها في AMPL. يتم تفصيل أبعاد هذه المشكلات الاختبارية في الجدول 1، على الرغم من أن الاسم الكامل لـ “nuffield” مختصر بسبب قيود المساحة.
تشير النتائج إلى أن IPOPT واجه فشلًا في حالات معينة، وهي “argauss” و “lewispol”، حيث انتهى بحالة “EXIT: المشكلة لديها عدد قليل جدًا من درجات الحرية.” وهذا يشير إلى قيود في قابلية تطبيق IPOPT على بعض هياكل المشكلات داخل المعيار. ملفات السجل لجميع الحلول المستخدمة في هذه الدراسة متاحة في مستودع GitHub المقدم، مما يسهل المزيد من التدقيق وتكرار النتائج.
نقاش
في هذا القسم، يقدم المؤلفون إطارًا شاملاً لمعالجة مشكلات تحسين القيود غير الخطية، مع التركيز بشكل خاص على صياغة المشكلة كـ \( \min_x f(x) \) مع القيود \( c(x) = 0 \) و \( x \geq 0 \). يقدمون Uno (تحسين غير خطي موحد)، وهو حل مفتوح المصدر معياري مصمم لدمج طرق تحسين متطورة مختلفة في هيكل متماسك. يسمح تصميم Uno بالجمع التلقائي لاستراتيجيات التحسين، مما يمكّن المستخدمين من التجريب مع نهج خوارزمي مختلفة دون الحاجة إلى برمجة مكثفة. يظهر المؤلفون أن Uno يعمل بشكل تنافسي ضد الحلول المعروفة على مجموعة فرعية من 429 مشكلة اختبار CUTE، مما يبرز قابليته للتوسع وتصميمه الخفيف.
تم بناء الإطار حول ثمانية كتل عامة منظمة في أربع طبقات: إعادة الصياغة، المشكلة الفرعية، حل المشكلة الفرعية، والعولمة. تتناول كل طبقة جوانب محددة من عملية التحسين، مثل تخفيف القيود وإدارة تقريبات هيسيان. يؤكد المؤلفون على أهمية شروط الأمثلية من الدرجة الأولى ودور استراتيجيات مختلفة، بما في ذلك دوال الجدارة وطرق الفلترة، في ضمان التقارب العالمي. كما يناقشون تنفيذ هذه الاستراتيجيات داخل Uno، موضحين هيكله والتوليد التلقائي لمجموعات الاستراتيجيات، مما يعزز من قابليته للاستخدام للباحثين والممارسين في مجال تحسين القيود غير الخطية.
DOI: https://doi.org/10.1007/s12532-026-00310-9
Publication Date: 2026-06-10
Author(s): Charlie Vanaret et al.
Primary Topic: Advanced Optimization Algorithms Research
Overview
The research paper presents a unifying framework for nonlinear constrained optimization methods, specifically focusing on Sequential Quadratic Programming (SQP) and interior-point methods, which share common algorithmic components. This framework consists of eight essential building blocks that facilitate the organization and comparison of various optimization strategies. The authors introduce Uno, a modular C++ solver that implements this framework, allowing users to easily combine different optimization strategies without extensive programming. Uno aims to streamline the development of optimization methods, support experimentation with novel strategies, and reduce the maintenance burden associated with multiple solvers. The solver has demonstrated competitive performance against established solvers such as filter-SQP and IPOPT on a benchmark set of 429 small problems from the CUTE collection.
In conclusion, the authors emphasize that Uno serves as a versatile experimentation platform for the optimization community, enabling rapid deployment and testing of new algorithmic strategies. Future enhancements to Uno will include additional methods such as quasi-Newton techniques and iterative linear solvers, further expanding its capabilities. The framework’s design promotes the integration of emerging optimization strategies, thereby fostering innovation in the field of nonlinear constrained optimization. Uno is available as open-source software, enhancing accessibility for researchers and practitioners alike.
Methods
The section on methods discusses various optimization techniques, focusing on filter methods and inequality handling methods. Filter methods aim to separate the reduction of the objective function from the progress towards feasibility, utilizing a filter mechanism to guide iterates closer to the feasible region. The decrease function is defined as $\phi(x) = \omega_1(x) + \xi(x)$, with a predicted reduction given by $\phi^{(k)}(dx) = \omega_1^{(k)}(dx) + \xi^{(k)}(dx)$. Acceptable trial iterates are determined by comparing the trial infeasibility measure $\eta$ and the objective measure $\phi$ against a filter $F$, ensuring convergence to feasible limits under certain conditions.
Inequality handling methods are categorized into three classes: inequality-constrained methods, equality-constrained methods, and interior-point methods. Inequality-constrained methods, such as sequential quadratic programming (SQP), solve a series of inequality-constrained quadratic problems using an active-set approach, while equality-constrained methods first estimate the active set through a low-fidelity subproblem before solving a high-fidelity equality-constrained problem. Interior-point methods relax complementarity conditions using a barrier parameter, enforcing positivity of variables at each iteration. Additionally, line-search and trust-region methods are discussed, where line-search methods determine a trial step length for iterates, and trust-region methods impose constraints on the step length to ensure convergence without requiring a positive definite Hessian.
Results
In this section, the authors present a comparative analysis of the performance of the filtersqp and ipopt presets from Uno 2.2.0 against several leading solvers, including filterSQP, IPOPT, SNOPT, MINOS, LANCELOT, LOQO, and CONOPT. The evaluation is based on 429 small test problems sourced from the CUTE benchmark, which have been reformulated in AMPL. The dimensions of these test problems are detailed in Table 1, although the full name of “nuffield” is abbreviated due to space constraints.
The results indicate that IPOPT encountered a failure on specific instances, namely “argauss” and “lewispol,” terminating with the status “EXIT: Problem has too few degrees of freedom.” This suggests limitations in IPOPT’s applicability to certain problem structures within the benchmark. The log files for all solvers utilized in this study are accessible in the provided GitHub repository, facilitating further scrutiny and replication of the findings.
Discussion
In this section, the authors present a comprehensive framework for addressing nonlinearly constrained optimization problems, specifically focusing on the formulation of the problem as \( \min_x f(x) \) subject to \( c(x) = 0 \) and \( x \geq 0 \). They introduce Uno (Unifying Nonlinear Optimization), a modular open-source solver designed to integrate various state-of-the-art optimization methods into a coherent structure. Uno’s architecture allows for the automatic combination of optimization strategies, enabling users to experiment with different algorithmic approaches without extensive programming. The authors demonstrate that Uno performs competitively against established solvers on a subset of 429 CUTE test problems, highlighting its extensibility and lightweight design.
The framework is built around eight generic building blocks organized into four layers: reformulation, subproblem, subproblem solver, and globalization. Each layer addresses specific aspects of the optimization process, such as constraint relaxation and the management of Hessian approximations. The authors emphasize the importance of first-order optimality conditions and the role of various strategies, including merit functions and filter methods, in ensuring global convergence. They also discuss the implementation of these strategies within Uno, detailing its architecture and the automatic generation of strategy combinations, which enhances its usability for practitioners and researchers in the field of nonlinearly constrained optimization.