التعلم العميق المعزز في العمل: التحكم في الوقت الحقيقي للاهتزازات الناتجة عن الدوامات Deep reinforcement learning in action: Real-time control of vortex-induced vibrations

شارك:
المجلة: Physics of Fluids، المجلد: 38، العدد: 1
DOI: https://doi.org/10.1063/5.0303905
تاريخ النشر: 2026-01-01
المؤلف: Hussam Sababha وآخرون
الموضوع الرئيسي: ديناميكا السوائل وتحليل الاهتزاز

نظرة عامة

تقدم هذه الدراسة تطبيقًا تجريبيًا رائدًا للتعلم المعزز العميق (DRL) من أجل التحكم النشط في التدفق (AFC) المستهدف للاهتزازات الناتجة عن الدوامات (VIV) في أسطوانة دائرية عند عدد رينولدز مرتفع (Re = 3000) باستخدام التشغيل الدوراني. على عكس المحاكاة العددية السابقة عند أعداد رينولدز المنخفضة، تنجح هذه الأبحاث في تنفيذ التحكم في الوقت الحقيقي، مما يعالج التحديات العملية مثل تأخيرات المشغل. يتعلم وكيل DRL، عند استخدام تغذية راجعة للحالة (الإزاحة والسرعة للأسطوانة المتذبذبة)، استراتيجية تحكم دورانية منخفضة التردد تحقق حتى 80% من كبح الاهتزاز، مستفيدة من ظاهرة التثبيت التقليدية. ومع ذلك، فإن هذه الأداء محدود بسبب تأخيرات التشغيل.

لتحسين أداء التحكم، تضيف الدراسة تغذية راجعة للحالة مع إجراءات التحكم السابقة، مما يسمح لوكيل DRL بأخذ ديناميات المشغل في الاعتبار وتعلم استراتيجيات تحكم دورانية عالية التردد. تؤدي هذه التعديلات إلى تقليل الاهتزاز بنسبة تزيد عن 95%، مما يبرز أهمية دمج المعلومات الزمنية في تحسين التحكم تحت قيود واقعية. تؤكد النتائج على قابلية التكيف لـ DRL في AFC في البيئات التجريبية وتقترح اتجاهات بحث مستقبلية، بما في ذلك استراتيجيات حصاد الطاقة والتجارب عند أعداد رينولدز أعلى لمحاكاة الظروف الواقعية بشكل أفضل.

مقدمة

تناقش مقدمة الورقة الاهتزاز الناتج عن الدوامات (VIV) كظاهرة تفاعل بين السوائل والهياكل مهمة تحدث عندما تتخلص الدوامات من جسم مرن تتناغم مع تردده الطبيعي، مما يؤدي إلى اهتزازات قد تكون ضارة. هذه الظاهرة حاسمة في تطبيقات هندسية متنوعة، بما في ذلك المبادلات الحرارية، والرافعات البحرية، والهياكل العالية، مما يحفز أبحاثًا واسعة في استراتيجيات التحكم السلبية والنشطة للتخفيف من آثارها. الطرق السلبية، مثل تعديل هندسة الهيكل، فعالة من حيث التكلفة ولكنها غالبًا ما تكون غير كافية، بينما تظهر تقنيات التحكم النشط في التدفق، التي تستخدم الطاقة الخارجية للتأثير على ديناميات الدوامات، وعدًا في تقليل سعات VIV.

أدخلت التطورات الأخيرة في التعلم المعزز العميق (DRL) طرقًا مبتكرة للتحكم النشط في التدفق، مما يمكّن استراتيجيات تكيفية دون الحاجة إلى نمذجة صريحة لديناميات السوائل المعقدة. أظهرت دراسات ملحوظة فعالية DRL في تقليل VIV بشكل كبير في تكوينات متنوعة، محققة تخفيضات في الاهتزاز تصل إلى 99.6%. ومع ذلك، ركزت الأبحاث السابقة بشكل أساسي على أعداد رينولدز المنخفضة، مما يبرز فجوة في فهم قابلية تطبيق DRL في بيئات ذات أعداد رينولدز مرتفعة، والتي تمثل ظروف العالم الحقيقي بشكل أفضل. تهدف هذه الورقة إلى التحقيق تجريبيًا في التحكم في التدفق القائم على DRL من أجل كبح VIV في أسطوانة دائرية عند عدد رينولدز مرتفع (Re = 3000)، مع التأكيد على أهمية تأخير المشغل وتعديل جهد المشغل مباشرة لتحسين استراتيجيات التحكم. من المتوقع أن تعزز نتائج الدراسة من فهم وتنفيذ DRL في أنظمة السوائل العملية.

طرق

في هذا القسم، يصف المؤلفون النظام التجريبي المصمم للتحقيق في الاهتزازات الناتجة عن الدوامات (VIV) لأسطوانة اختبار تحت ظروف مسيطر عليها. يتكون الإعداد من أربعة مكونات رئيسية: أسطوانة الاختبار مع آلية تركيب، وآلية تشغيل، ونظام قياس، وبيئة اختبار. تسبق عملية التحقق التجريبي تصميم وحدة تحكم التعلم المعزز العميق (DRL)، مؤكدة أن النظام يظهر VIV دون تشغيل دوراني محدد.

تدرس الدراسة العلاقة بين السعة الثابتة غير البعدية، \( A/D \)، وسرعة التدفق المخفضة، \( U = V/(f_n D) \). تكشف النتائج، الموضحة في الشكل 4(أ)، عن ظاهرة تثبيت نموذجية تتميز باستجابات عالية السعة عند سرعات رياح مخفضة محددة تتماشى مع ترددات التخلص من الدوامات بالقرب من التردد الطبيعي للمهتز. يتم تحديد فرعين متميزين من الاستجابة: فرع أولي لـ \( 4.5 \leq U \leq 5.1 \) وفرع أدنى لـ \( 5.1 \leq U \leq 9.0 \). تصل استجابة السعة القصوى إلى حوالي \( A/D \approx 0.6 \)، وهو أقل من الدراسات السابقة، ويعزى ذلك إلى نسبة الكتلة الأعلى في هذا الإعداد التجريبي بسبب الوزن المضاف لمجموعة المحرك. يتم تقديم مزيد من التحقق من خلال رسم السعة القصوى \( A^*/D \) مقابل رقم سكوب-غريفين \( SG = 2\pi^3 St^2 (1 + m) \zeta \)، حيث \( St \approx 0.21 \)، \( m = 30.3 \)، و \( \zeta = 0.012 \).

نتائج

تقيم نتائج الدراسة أداء إطار التحكم الدوراني القائم على التعلم المعزز العميق (DRL)، مع التركيز بشكل خاص على تنفيذه باستخدام تغذية راجعة للحالة. تشير النتائج إلى تحليل مقارن بين استراتيجية DRL وطريقة التحكم الجيبية المفتوحة التقليدية.

بالإضافة إلى ذلك، يتم فحص تأثير تأخيرات المشغل داخل حلقة التحكم على فعالية سياسة التحكم DRL. يقترح المؤلفون منهجية للتخفيف من الآثار السلبية لهذه التأخيرات، مما يعزز الأداء العام لنظام التحكم. تسلط هذه المناقشة الضوء على قوة نهج DRL في مواجهة التحديات التشغيلية الواقعية.

مناقشة

في هذه الدراسة، يستقصي المؤلفون استخدام التعلم المعزز العميق (DRL) للتحكم في الاهتزازات الناتجة عن الدوامات (VIV) في أسطوانة دائرية تتعرض لتدفق عرضي عند أعداد رينولدز مرتفعة (Re = 3000). يتميز الإعداد التجريبي بأسطوانة مثبتة على نابض، قادرة على الاهتزاز استجابةً لتخلص الدوامات، الذي يحدث بتردد قريب من التردد الطبيعي للنظام، $f_n = \frac{1}{2\pi} \sqrt{\frac{K}{M}}$. يهدف وكيل DRL إلى كبح هذه الاهتزازات من خلال تطبيق حركة دورانية مسيطر عليها، $\Omega(t)$، بناءً فقط على قياسات المستشعرات لإزاحة الأسطوانة ومشتقاتها، دون معرفة مسبقة بمعلمات التدفق أو قوى الرفع.

تكشف النتائج الرئيسية أن التنفيذ الأولي لسياسة DRL، التي استخدمت فقط تغذية راجعة للحالة، حقق تقليلًا تقريبًا بنسبة 80% في سعة الاهتزاز. ومع ذلك، كانت هذه الأداء محدودة بديناميات المشغل، وبشكل خاص تأخيرات استجابة المحرك، مما قيد الوكيل لاستراتيجيات التحكم منخفضة التردد. لتحسين الأداء، قام المؤلفون بتعزيز تمثيل الحالة بإجراءات المحرك السابقة، مما سمح للوكيل بأخذ هذه التأخيرات في الاعتبار بشكل أفضل. أدت هذه التعديلات إلى اكتشاف استراتيجيات تحكم عالية التردد، مما أسفر عن كبح الاهتزاز بنسبة تزيد عن 95%. تبرز الدراسة أهمية دمج المعلومات الزمنية في أطر DRL لتحسين التحكم في التطبيقات العملية، مما يمهد الطريق لأبحاث مستقبلية حول حصاد الطاقة من VIV واستكشافات إضافية عند أعداد رينولدز أعلى.

Journal: Physics of Fluids, Volume: 38, Issue: 1
DOI: https://doi.org/10.1063/5.0303905
Publication Date: 2026-01-01
Author(s): Hussam Sababha et al.
Primary Topic: Fluid Dynamics and Vibration Analysis

Overview

This study presents a pioneering experimental application of deep reinforcement learning (DRL) for active flow control (AFC) targeting vortex-induced vibrations (VIV) in a circular cylinder at a high Reynolds number (Re = 3000) using rotary actuation. Unlike previous low-Reynolds-number numerical simulations, this research successfully implements real-time control, addressing practical challenges such as actuator delays. The DRL agent, when utilizing state feedback (displacement and velocity of the oscillating cylinder), learns a low-frequency rotary control strategy that achieves up to 80% vibration suppression, leveraging the traditional lock-on phenomenon. However, this performance is limited due to actuation delays.

To enhance control performance, the study augments the state feedback with past control actions, allowing the DRL agent to account for actuator dynamics and learn high-frequency rotary control strategies. This adjustment results in over 95% vibration attenuation, demonstrating the importance of incorporating temporal information in optimizing control under realistic constraints. The findings underscore the adaptability of DRL for AFC in experimental settings and suggest future research directions, including energy harvesting strategies and experiments at even higher Reynolds numbers to better simulate real-world conditions.

Introduction

The introduction of the paper discusses vortex-induced vibration (VIV) as a significant fluid-structure interaction phenomenon that occurs when vortices shed from an elastic body resonate with its natural frequency, leading to potentially damaging oscillations. This phenomenon is critical in various engineering applications, including heat exchangers, marine risers, and tall structures, prompting extensive research into both passive and active control strategies to mitigate its effects. Passive methods, such as modifying structural geometry, are cost-effective but often insufficient, while active flow control techniques, which utilize external energy to influence vortex dynamics, show promise in reducing VIV amplitudes.

Recent advancements in deep reinforcement learning (DRL) have introduced innovative approaches to active flow control, enabling adaptive strategies without the need for explicit modeling of complex fluid dynamics. Notable studies have demonstrated DRL’s effectiveness in significantly reducing VIV in various configurations, achieving vibration reductions of up to 99.6%. However, previous research has primarily focused on low Reynolds numbers, highlighting a gap in understanding DRL’s applicability in high-Reynolds-number environments, which are more representative of real-world conditions. This paper aims to experimentally investigate DRL-based flow control for VIV suppression in a circular cylinder at a high Reynolds number (Re = 3000), emphasizing the importance of actuator delay and the direct modulation of actuator voltage for improved control strategies. The study’s findings are expected to enhance the understanding and implementation of DRL in practical fluid systems.

Methods

In this section, the authors describe the experimental system designed to investigate vortex-induced vibrations (VIV) of a test cylinder under controlled conditions. The setup comprises four key components: the test cylinder with a mounting mechanism, an actuation mechanism, a measurement system, and a testing environment. The experimental verification process precedes the design of a deep reinforcement learning (DRL) controller, confirming that the system exhibits VIV without prescribed rotary actuation.

The study examines the relationship between the dimensionless steady-state amplitude, \( A/D \), and the reduced flow speed, \( U = V/(f_n D) \). The results, illustrated in Figure 4(a), reveal a typical lock-in phenomenon characterized by large-amplitude responses at specific reduced wind speeds that align with vortex shedding frequencies near the oscillator’s natural frequency. Two distinct branches of response are identified: an initial branch for \( 4.5 \leq U \leq 5.1 \) and a lower branch for \( 5.1 \leq U \leq 9.0 \). The peak amplitude response reaches approximately \( A/D \approx 0.6 \), which is lower than previous studies, attributed to the higher mass ratio in this experimental setup due to the motor assembly’s added weight. Further validation is provided by plotting the peak amplitude \( A^*/D \) against the Skop-Griffin number \( SG = 2\pi^3 St^2 (1 + m) \zeta \), where \( St \approx 0.21 \), \( m = 30.3 \), and \( \zeta = 0.012 \).

Results

The results of the study evaluate the performance of a Deep Reinforcement Learning (DRL)-based rotary control framework, specifically focusing on its implementation using state feedback. The findings indicate a comparative analysis between the DRL strategy and the established open-loop lock-on sinusoidal control method.

Additionally, the impact of actuator delays within the control loop on the efficacy of the DRL control policy is examined. The authors propose a methodology to mitigate the adverse effects of these delays, thereby enhancing the overall performance of the control system. This discussion highlights the robustness of the DRL approach in the presence of real-world operational challenges.

Discussion

In this study, the authors investigate the use of deep reinforcement learning (DRL) for controlling vortex-induced vibrations (VIV) in a circular cylinder subjected to a transverse flow at high Reynolds numbers (Re = 3000). The experimental setup features a cylinder mounted on a spring, capable of oscillating in response to vortex shedding, which occurs at a frequency near the system’s natural frequency, $f_n = \frac{1}{2\pi} \sqrt{\frac{K}{M}}$. The DRL agent aims to suppress these vibrations by applying a controlled rotational motion, $\Omega(t)$, based solely on sensor measurements of the cylinder’s displacement and its derivatives, without prior knowledge of flow parameters or lift forces.

Key findings reveal that the initial implementation of the DRL policy, which utilized only state feedback, achieved an approximate 80% reduction in oscillation amplitude. However, this performance was limited by actuator dynamics, specifically delays in the motor response, which constrained the agent to low-frequency control strategies. To enhance performance, the authors augmented the state representation with past motor actions, allowing the agent to better account for these delays. This modification led to the discovery of higher-frequency control strategies, resulting in over 95% vibration suppression. The study highlights the importance of incorporating temporal information in DRL frameworks for optimizing control in practical applications, paving the way for future research into energy harvesting from VIV and further exploration at higher Reynolds numbers.