خوارزمية بحث هجينة تعتمد على تعلم Q تدمج PRM وACO لتخطيط مسار الطائرات بدون طيار ثلاثية الأبعاد
A Q-learning-based hybrid search algorithm integrating PRM and ACO for 3D UAV path planning

شارك:
المجلة: Scientific Reports، المجلد: 16، العدد: 1
DOI: https://doi.org/10.1038/s41598-025-34880-w
PMID: https://pubmed.ncbi.nlm.nih.gov/41593259
تاريخ النشر: 2026-01-27
المؤلف: Siya Liu وآخرون
الموضوع الرئيسي: خوارزميات تخطيط المسار الروبوتي

نظرة عامة

تقدم ورقة البحث خوارزمية هجينة جديدة، PRM-QACO، مصممة لتعزيز تخطيط المسارات ثلاثية الأبعاد للطائرات بدون طيار (UAVs) في البيئات المعقدة. تدمج هذه الخوارزمية خريطة الطرق الاحتمالية (PRM) وتحسين مستعمرات النمل (ACO) مع مكون التعلم المعزز، وبالتحديد التعلم Q، لمعالجة قيود الطرق التقليدية التي غالبًا ما تنتج مسارات دون المستوى وتعاني من عدم كفاءة حسابية. تولد مكون PRM رسمًا بيانيًا عشوائيًا ثلاثي الأبعاد لتسهيل الاستكشاف، بينما يتم تعزيز ACO باستخدام استراتيجيات توجيهية لتحسين الكفاءة الموجهة نحو الهدف. يقوم نموذج التعلم Q بضبط عملية البحث ديناميكيًا بناءً على جودة المسارات المكتشفة، مما يحسن أداء الخوارزمية.

تظهر التجارب المحاكاة التي أجريت في MATLAB وAirSim عبر تضاريس مختلفة أن خوارزمية PRM-QACO تحسن بشكل كبير من طول المسار، ووقت التشغيل، وتقلل من عدد المنعطفات، وهو أمر حاسم للحفاظ على الطاقة وتجنب العقبات. تعترف الدراسة أنه على الرغم من تحقيق نتائج واعدة، فإن التنفيذ الحالي محدود لسيناريوهات UAV الفردية، وسيتركز العمل المستقبلي على توسيع الخوارزمية لتخطيط تعاوني متعدد UAV، والتحقق من صحتها في العالم الحقيقي، والتحليل النظري لخصائص التقارب. بشكل عام، يمثل إطار PRM-QACO تقدمًا كبيرًا في منهجيات تخطيط مسارات UAV، حيث يعالج التحديات الحرجة في هذا المجال.

مقدمة

تناقش مقدمة ورقة البحث التقدمات الكبيرة في الطائرات بدون طيار (UAVs)، وخاصة تلك التي تستخدم الذكاء الاصطناعي، والتي حولت مختلف القطاعات مثل النقل الذكي، والاستجابة للكوارث، واستكشاف الكواكب. يركز النقاش على الدور الحاسم لتخطيط المسارات في الملاحة الذاتية، والذي يهدف إلى إنشاء مسارات خالية من التصادم من نقطة البداية إلى الوجهة مع الالتزام بالقيود التشغيلية. تشمل الاعتبارات الرئيسية في تخطيط المسارات تقليل المسافة، وتجنب العقبات، وضمان الكفاءة الحسابية، وهي ضرورية لتعزيز استخدام الموارد وتقليل التكاليف التشغيلية في السيناريوهات المعقدة مثل التنقل الجوي الحضري.

تستعرض هذه الفقرة تصنيف طرق تخطيط المسارات الحالية إلى خوارزميات دقيقة، واستدلالية، وميتا-استدلالية. بينما تضمن الخوارزميات الدقيقة الأمثلية العالمية، يتم الإشارة إلى عدم عمليتها للمشاكل واسعة النطاق بسبب تعقيد الوقت الأسي. على الرغم من أن الخوارزميات الاستدلالية فعالة حسابيًا، إلا أنها غالبًا ما تفشل في البيئات الديناميكية بسبب الأمثل المحلية. بالمقابل، أظهرت الخوارزميات الميتا-استدلالية، المستوحاة من الظواهر الطبيعية، أداءً متفوقًا من خلال التوازن الفعال بين الاستكشاف والاستغلال. تشمل الأمثلة البارزة مُحسّن الذئب الرمادي (GWO) وتعديلات على خوارزمية مستعمرة النحل الاصطناعية (ABC) وخوارزمية بحث الدُخَان (CS)، التي حسنت من سرعة الحساب وجودة الحلول. تختتم المقدمة بتسليط الضوء على اتجاهات البحث المستمرة، بما في ذلك دمج استراتيجيات متعددة والنهج الهجينة، بهدف تعزيز قدرات تخطيط مسارات UAV بشكل أكبر.

طرق

في هذا القسم، يصف المؤلفون إعداد التجارب والتحليل الذي تم إجراؤه لتقييم خوارزميات تخطيط المسارات المختلفة للطائرات بدون طيار (UAVs) في أنواع تضاريس مختلفة. تم تنفيذ المحاكاة باستخدام MATLAB على خادم مزود بمعالج بسرعة 2.2 جيجاهرتز وذاكرة 32.0 جيجابايت. تم إنشاء فئتين من التضاريس: التضاريس القمة، التي تقدم تحديات تنقل أبسط، والتضاريس الوعرة، التي تتميز بميزات جبلية معقدة تعقد من تجنب العقبات. تضمنت التجارب تشغيل عدة خوارزميات، بما في ذلك طرق تحسين ذكاء السرب التقليدية وإصداراتها المحسنة، مثل تحسين سرب الجسيمات (PSO)، خريطة الطرق الاحتمالية (PRM)، خوارزمية A*، استراتيجية التعاون المتعدد المعتمدة على التعلم المعزز (RLMSCS)، التعلم Q، وPPSwarm.

تم تقييم فعالية الاستراتيجية المعتمدة على التعلم Q بشكل خاص من خلال تجارب مقارنة، حيث تم تنفيذ كل خوارزمية 20 مرة لضمان مقارنات قوية لتخطيط المسارات. تم تحليل النتائج من حيث طول المسار ووقت التشغيل، مما يوفر مقاييس مثل الحد الأدنى، والمتوسط، والحد الأقصى، والانحراف المعياري لكل خوارزمية عبر التضاريس المختلفة. سمح هذا النهج الشامل بتقييم دقيق لأداء الخوارزميات في البيئات الأبسط والأكثر تحديًا.

نقاش

في قسم النقاش من الورقة، يبرز المؤلفون قيود خوارزميات تحسين مستعمرات النمل التقليدية (ACO) في تخطيط المسارات ثلاثية الأبعاد، وخاصة بطء التقارب لديها وقابليتها للأمثل المحلية. لمعالجة هذه القضايا، قدمت التقدمات الأخيرة استراتيجيات متنوعة، بما في ذلك المعلمات التكيفية الديناميكية والدمج مع طرق تحسين أخرى. تم تحديد دمج التعلم المعزز (RL) مع ACO كمسار واعد لتعزيز أداء الخوارزمية، خاصة في سياق البيئات ثلاثية الأبعاد، حيث يمكن أن يؤدي إدارة الفيرومونات الذكية والتحكم في المعلمات التكيفية إلى تحسين نتائج تخطيط المسارات بشكل كبير.

تجمع خوارزمية PRM-QACO المقترحة بين نقاط القوة في خريطة الطرق الاحتمالية (PRM)، وACO، وRL لمعالجة تحديات تخطيط مسارات UAV في التضاريس المعقدة بشكل فعال. من خلال استخدام PRM لبناء الرسم البياني الأولي وACO لتحسين المسار، تعزز الخوارزمية الاستكشاف والاستغلال من خلال آلية تحديث الفيرومونات الديناميكية المستندة إلى RL. لا يحسن هذا النهج فقط مساحة البحث ولكن أيضًا يتضمن استراتيجية استدلالية مصقولة تأخذ في الاعتبار المسافات إلى كل من نقاط البداية والهدف، مما يؤدي إلى تحسين جودة المسار. يؤكد المؤلفون فعالية PRM-QACO من خلال محاكاة واسعة، مما يظهر قوتها وأدائها التنافسي مقارنة بخوارزميات تخطيط المسارات الحالية.

Journal: Scientific Reports, Volume: 16, Issue: 1
DOI: https://doi.org/10.1038/s41598-025-34880-w
PMID: https://pubmed.ncbi.nlm.nih.gov/41593259
Publication Date: 2026-01-27
Author(s): Siya Liu et al.
Primary Topic: Robotic Path Planning Algorithms

Overview

The research paper presents a novel hybrid algorithm, PRM-QACO, designed to enhance 3D path planning for unmanned aerial vehicles (UAVs) in complex environments. This algorithm integrates Probabilistic Roadmap (PRM) and Ant Colony Optimization (ACO) with a reinforcement learning component, specifically Q-learning, to address the limitations of traditional methods that often yield suboptimal paths and suffer from computational inefficiencies. The PRM component generates a 3D random graph to facilitate exploration, while the ACO is enhanced with directional heuristics to improve target-directed efficiency. The Q-learning module dynamically adjusts the search process based on the quality of paths discovered, optimizing the performance of the algorithm.

Simulation experiments conducted in MATLAB and AirSim across various terrains demonstrate that the PRM-QACO algorithm significantly improves path length, running time, and minimizes the number of turns, which is crucial for energy conservation and obstacle avoidance. The study acknowledges that while promising results were achieved, the current implementation is limited to single UAV scenarios, and future work will focus on extending the algorithm to multi-UAV collaborative planning, real-world validation, and theoretical analysis of convergence properties. Overall, the PRM-QACO framework represents a significant advancement in UAV path planning methodologies, addressing critical challenges in the field.

Introduction

The introduction of the research paper discusses the significant advancements in Unmanned Aerial Vehicles (UAVs), particularly those utilizing artificial intelligence, which have transformed various sectors such as intelligent transportation, disaster response, and planetary exploration. The focus is on the critical role of path planning in autonomous navigation, which aims to create collision-free routes from a starting point to a destination while adhering to operational constraints. Key considerations in path planning include minimizing distance, avoiding obstacles, and ensuring computational efficiency, which are essential for enhancing resource utilization and reducing operational costs in complex scenarios like urban air mobility.

The section outlines the classification of existing path planning methods into exact, heuristic, and metaheuristic algorithms. While exact algorithms guarantee global optimality, their impracticality for large-scale problems due to exponential time complexity is noted. Heuristic algorithms, although computationally efficient, often fall short in dynamic environments due to local optima. In contrast, metaheuristic algorithms, inspired by natural phenomena, have shown superior performance by effectively balancing exploration and exploitation. Notable examples include the Grey Wolf Optimizer (GWO) and adaptations of the Artificial Bee Colony (ABC) and Cuckoo Search (CS) algorithms, which have improved computational speed and solution quality. The introduction concludes by highlighting ongoing research trends, including multi-strategy fusion and hybrid approaches, aimed at further enhancing UAV path planning capabilities.

Methods

In this section, the authors describe the experimental setup and analysis conducted to evaluate various path planning algorithms for Unmanned Aerial Vehicles (UAVs) in different terrain types. The simulations were executed using MATLAB on a server with a 2.2 GHz CPU and 32.0 GB of memory. Two categories of terrains were constructed: peak terrains, which present simpler navigation challenges, and rugged terrains, characterized by complex mountainous features that complicate obstacle avoidance. The experiments involved running multiple algorithms, including classic swarm intelligence optimization methods and their enhanced versions, such as Particle Swarm Optimization (PSO), Probabilistic Roadmap (PRM), the A* algorithm, Reinforcement Learning-based Multi-Swarm Cooperative Strategy (RLMSCS), Q-learning, and PPSwarm.

The effectiveness of the Q-learning-based strategy was specifically assessed through comparative experiments, with each algorithm being executed 20 times to ensure robust path planning comparisons. The results were analyzed in terms of path length and running time, providing metrics such as minimum, mean, maximum, and standard deviation for each algorithm across the different terrains. This comprehensive approach allowed for a thorough evaluation of the algorithms’ performance in both simpler and more challenging environments.

Discussion

In the discussion section of the paper, the authors highlight the limitations of traditional Ant Colony Optimization (ACO) algorithms in 3D path planning, particularly their slow convergence and susceptibility to local optima. To address these issues, recent advancements have introduced various strategies, including dynamic adaptive parameters and hybridization with other optimization methods. The integration of reinforcement learning (RL) with ACO is identified as a promising avenue for enhancing algorithm performance, particularly in the context of 3D environments, where intelligent pheromone management and adaptive parameter control can significantly improve path planning outcomes.

The proposed PRM-QACO algorithm combines the strengths of Probabilistic Roadmap (PRM), ACO, and RL to effectively tackle the challenges of UAV path planning in complex terrains. By utilizing PRM for initial graph construction and ACO for path optimization, the algorithm enhances exploration and exploitation through a dynamic pheromone update mechanism informed by RL. This approach not only optimizes the search space but also incorporates a refined heuristic that considers the distances to both the start and target points, leading to improved path quality. The authors validate the effectiveness of PRM-QACO through extensive simulations, demonstrating its robustness and competitive performance compared to existing path planning algorithms.

شارك: