محول Cerebro Wave Bee للاستفادة من تصنيف حركة اليد المعتمد على EEG باستخدام معدلات تعلم مستوحاة من الطبيعة محسّنة Cerebro Wave Bee transformer to leverage EEG based hand movement classification using optimized bio-inspired learning rates

شارك:
المجلة: Scientific Reports، المجلد: 16، العدد: 1
DOI: https://doi.org/10.1038/s41598-026-40739-5
PMID: https://pubmed.ncbi.nlm.nih.gov/42098189
تاريخ النشر: 2026-05-07
المؤلف: N Priyadharshini Jayadurga وآخرون
الموضوع الرئيسي: تخطيط الدماغ وواجهات الدماغ-الكمبيوتر

نظرة عامة

تبحث هذه الورقة في نموذج تصنيف حركة اليد القائم على تحويل EEG المعزز باستراتيجية تحسين نحل العسل (HBO) غير المتصلة بالإنترنت لتحسين معدل التعلم. تظهر النتائج أن HBO يحسن بشكل كبير من استقرار التدريب وأداء التحقق مقارنة بأساليب معدل التعلم الثابت والبحث الشبكي. وهذا يبرز فعالية خوارزميات التحسين المستوحاة من الطبيعة في ضبط المعلمات الفائقة للشبكات العصبية العميقة في فك تشفير EEG.

ومع ذلك، فإن الدراسة محدودة بالاعتماد على تمثيل طيفي ثابت (14 × 4) مستمد من خط أنابيب المعالجة المسبقة EMOTIV، مما قد يؤدي إلى تباين في الأداء عبر أجهزة مختلفة، ومواضيع، وظروف تسجيل. يتم تقييم النموذج في إعداد غير متصل باستخدام بيانات معالجة مسبقًا، مما يفتقر إلى دمج بيانات سلسلة الزمن EEG الخام واعتبارات زمن الاستدلال في الوقت الحقيقي، والتي تعتبر حاسمة لتطبيقات BCI العملية. تهدف الأعمال المستقبلية إلى توسيع إطار CWBT ليشمل بيانات EEG متعددة القنوات الخام، ودمج الديناميات الزمنية، وتأسيس بروتوكولات تقييم موحدة للاختبار عبر مجموعات البيانات وعبر الموضوعات لتعزيز قابلية تطبيق تقنيات BCI في السيناريوهات الواقعية.

الطرق

توضح قسم المنهجية في هذه الورقة البحثية تطوير وتقييم نموذج Cerebro-Wave Bee Transformer (CWBT)، وهو هيكل قائم على التحويل مصمم لتصنيف حركات اليد من إشارات EEG. يعالج النموذج ميزات الإدخال من خلال عدة طبقات، مستخدمًا استراتيجية معدل تعلم تكيفية مستوحاة من سلوك بحث النحل لتحسين معدلات التعلم بناءً على دقة النموذج. تستخدم مرحلة التدريب مُحسِّن AdamW مع إيقاف مبكر لمنع الإفراط في التكيف، حيث يتم إيقاف التدريب إذا لم يتم ملاحظة تحسين كبير في الأداء.

يتضمن الإعداد التجريبي معالجة البيانات، وهيكل النموذج، وتحسين المعلمات الفائقة، ومقاييس التقييم. يتم دمج بيانات EEG من مصادر مختلفة في مجموعة بيانات واحدة، مع قياس الميزات باستخدام StandardScaler. يتم تقسيم مجموعة البيانات إلى مجموعات تدريب والتحقق (نسبة 80:20). يتميز نموذج CWBT بطبقة تضمين أولية، ومشفّر تحويل ثلاثي الطبقات مع ثمانية رؤوس انتباه، وطبقة نهائية تستخدم log-SoftMax للتصنيف متعدد الفئات. تتضمن عملية التدريب إسقاط وتطبيع دفعات لتعزيز الاستقرار وتقليل الإفراط في التكيف. للتحقق من أداء نموذج CWBT، يتم إجراء مقارنات مع نماذج التحويل الأساسية وخوارزميات التعلم الآلي التقليدية، جنبًا إلى جنب مع دراسة إلغاء لتحديد تأثيرات ضبط معدل التعلم التكيفي. يستخدم التقييم تقنية التحقق المتقاطع الطبقي ذات العشرة طيات، مع الإبلاغ عن المتوسط والانحراف المعياري لمقاييس الأداء عبر الطيات.

النتائج

يقيم قسم النتائج أداء نهج CWBT المقترح لتصنيف حركات اليد المستندة إلى EEG، مع التركيز على مقاييس مثل الدقة، ودرجة F1، ومصفوفة الالتباس، ومقاييس الاتفاق، ومقاييس التشابه، كما هو موضح في الجدول 5. يتم حساب جميع مقاييس الأداء بشكل متوسط كلي لضمان تمثيل متساوٍ للفئات الثلاث: حركة اليد اليسرى، حركة اليد اليمنى، وعدم الحركة. تم تقييم أداء نموذج CWBT باستخدام طريقة التحقق المتقاطع الطبقي ذات العشرة طيات، مع الإبلاغ عن النتائج كمتوسط ± انحراف معياري عبر الطيات.

علاوة على ذلك، تتم مقارنة نتائج طريقة CWBT مع تلك من دراسات أخرى، مما يبرز أدائها المتفوق ويعزز من قوة المنهجية. تؤكد هذه التحليلات المقارنة على فعالية نموذج CWBT في تصنيف إشارات EEG المرتبطة بحركات اليد بدقة.

المناقشة

تسلط قسم المناقشة في الورقة البحثية الضوء على التحديات والتقدم في تصنيف حركات اليد المستندة إلى EEG ضمن تطبيقات واجهة الدماغ-الكمبيوتر (BCI). تواجه طرق التصنيف التقليدية، مثل آلات الدعم المتجهة (SVMs) والغابات العشوائية، صعوبة في تباين الموضوعات والحساسية للضوضاء، مما يحد من قابليتها للتعميم. أدت التطورات الأخيرة في التعلم العميق، لا سيما استخدام الشبكات العصبية التلافيفية (CNNs) والشبكات العصبية المتكررة (RNNs)، إلى تحسين استخراج الميزات ولكن لا تزال تواجه مشكلات مثل الاعتماد على المدى الطويل وتلاشي التدرجات. لقد أظهر إدخال نماذج التحويل، التي تم تصميمها في الأصل لمعالجة اللغة الطبيعية، وعدًا بسبب آليات الانتباه الذاتي التي تلتقط بشكل فعال كل من الاعتماد قصير المدى وطويل المدى في بيانات EEG. ومع ذلك، فإن أدائها يتأثر بمعدلات التعلم الثابتة والطلبات الحسابية العالية.

لمعالجة هذه القيود، تقترح الورقة نموذج Cerebro-Wave Bee Transformer (CWBT)، الذي يدمج هيكل التحويل مع تحسين نحل العسل (HBO) لضبط المعلمات الفائقة الديناميكية. تتيح هذه الطريقة المستوحاة من الطبيعة تعديلات على معدل التعلم التكيفي، مما يعزز من قابلية تكيف النموذج ودقة التصنيف. يهدف نموذج CWBT إلى التغلب على التحديات الحالية في تصنيف EEG، مثل عدم الكفاءة الحسابية وضعف القابلية للتعميم، من خلال الاستفادة من نقاط القوة لكل من نماذج التحويل وتقنيات التحسين المستوحاة من الطبيعة. كما تحدد المناقشة الفجوات البحثية الرئيسية، بما في ذلك الحاجة إلى تحسين مرونة نماذج التحويل في مهام EEG والتطبيق المحدود لطرق التحسين المستوحاة من الطبيعة في التعلم العميق، مما يحفز تطوير نموذج CWBT لتطبيقات BCI أكثر فعالية وقابلية للتوسع.

Journal: Scientific Reports, Volume: 16, Issue: 1
DOI: https://doi.org/10.1038/s41598-026-40739-5
PMID: https://pubmed.ncbi.nlm.nih.gov/42098189
Publication Date: 2026-05-07
Author(s): N Priyadharshini Jayadurga et al.
Primary Topic: EEG and Brain-Computer Interfaces

Overview

This paper investigates a Transformer-based EEG hand-movement classification model enhanced by an offline Honey Bee Optimization (HBO) strategy for learning-rate optimization. The findings demonstrate that HBO significantly improves training stability and validation performance compared to fixed-learning-rate and grid-search baselines. This highlights the effectiveness of bio-inspired optimization algorithms in hyperparameter tuning for deep neural networks in EEG decoding.

However, the study is limited by its reliance on a static spectral representation (14 × 4) derived from the EMOTIV preprocessing pipeline, which may lead to performance variability across different devices, subjects, and recording conditions. The model’s evaluation is conducted in an offline setting using pre-processed data, lacking the incorporation of raw EEG time-series data and considerations for real-time inference latency, which are critical for practical BCI applications. Future work aims to extend the CWBT framework to raw multichannel EEG data, incorporate temporal dynamics, and establish standardized evaluation protocols for cross-dataset and cross-subject testing to enhance the applicability of BCI technologies in real-world scenarios.

Methods

The methodology section of this research paper outlines the development and evaluation of the Cerebro-Wave Bee Transformer (CWBT) model, a Transformer-based architecture designed for classifying hand movements from EEG signals. The model processes input features through multiple layers, employing an adaptive learning rate strategy inspired by bee foraging behavior to optimize learning rates based on model accuracy. The training phase utilizes the AdamW optimizer with early stopping to prevent overfitting, halting training if no significant performance improvement is observed.

The experimental setup includes data preprocessing, model architecture, hyperparameter optimization, and evaluation metrics. EEG data from various sources is combined into a single dataset, with features scaled using StandardScaler. The dataset is split into training and validation sets (80:20 ratio). The CWBT model features an initial embedding layer, a three-layer transformer encoder with eight attention heads, and a final layer using log-SoftMax for multi-class classification. The training process incorporates dropout and batch normalization to enhance stability and mitigate overfitting. To validate the CWBT model’s performance, comparisons are made with baseline Transformer models and classical machine learning algorithms, alongside an ablation study to isolate the effects of adaptive learning rate tuning. The evaluation employs a 10-fold stratified cross-validation technique, reporting mean and standard deviation of performance metrics across the folds.

Results

The results section evaluates the performance of the proposed CWBT approach for classifying EEG-based hand movements, focusing on metrics such as accuracy, F1-score, confusion matrix, agreement metrics, and similarity metrics, as detailed in Table 5. All performance metrics are macro-averaged to ensure equal representation of the three classes: left-hand movement, right-hand movement, and no movement. The CWBT model’s performance was assessed using a 10-fold stratified cross-validation method, with results reported as mean ± standard deviation across the folds.

Furthermore, the CWBT method’s outcomes are compared with those from other studies, highlighting its superior performance and reinforcing the methodological robustness of the approach. This comparative analysis underscores the effectiveness of the CWBT model in accurately classifying EEG signals associated with hand movements.

Discussion

The discussion section of the research paper highlights the challenges and advancements in EEG-based hand movement classification within brain-computer interface (BCI) applications. Traditional classification methods, such as Support Vector Machines (SVMs) and Random Forests, struggle with inter-subject variability and noise sensitivity, limiting their generalizability. Recent developments in deep learning, particularly the use of Convolutional Neural Networks (CNNs) and Recurrent Neural Networks (RNNs), have improved feature extraction but still face issues like long-range dependency and vanishing gradients. The introduction of Transformer models, originally designed for natural language processing, has shown promise due to their self-attention mechanisms that effectively capture both short-term and long-term dependencies in EEG data. However, their performance is hindered by fixed learning rates and high computational demands.

To address these limitations, the paper proposes the Cerebro-Wave Bee Transformer (CWBT) model, which integrates Transformer architecture with Honey Bee Optimization (HBO) for dynamic hyperparameter tuning. This bio-inspired approach allows for adaptive learning rate adjustments, enhancing model adaptability and classification accuracy. The CWBT model aims to overcome existing challenges in EEG classification, such as computational inefficiency and poor generalizability, by leveraging the strengths of both Transformer models and bio-inspired optimization techniques. The discussion also identifies key research gaps, including the need for improved resilience of Transformer models in EEG tasks and the limited application of bio-inspired optimization methods in deep learning, thereby motivating the development of the CWBT model for more effective and scalable BCI applications.