مصفوفة استشعار ناعمة مدعومة بالذكاء الاصطناعي للكشف المتزامن عن تشوه العضلات والميكانيوموغرافي لتفاعل الحواس في الميتافيرس
AI‐Enabled Soft Sensing Array for Simultaneous Detection of Muscle Deformation and Mechanomyography for Metaverse Somatosensory Interaction

المجلة: Advanced Science، المجلد: 11، العدد: 16
DOI: https://doi.org/10.1002/advs.202305025
PMID: https://pubmed.ncbi.nlm.nih.gov/38376001
تاريخ النشر: 2024-02-20
المؤلف: Jiao Suo وآخرون
الموضوع الرئيسي: التفاعلات اللمسية والحسية

نظرة عامة

تقدم هذه الدراسة جهازًا قابلًا للارتداء للكشف عن العضلات مصممًا للتفاعل الحسي القائم على التعرف على الحركة (MR)، بهدف تعزيز التفاعل بين الإنسان والكمبيوتر ضمن تطبيقات الميتافيرس. يستخدم الجهاز مصفوفة حساسات ضغط مرنة مكونة من 16 قناة، تزن حوالي 0.38 جرام، للكشف عن التغيرات الديناميكية في شكل العضلات وإشارات الميكانيوميوغرام الاهتزازية (MMG). من خلال الاستفادة من البيانات من قنوات متعددة، حقق النظام دقة تعرف تبلغ حوالي 96.06% لتصنيف عشرة حركات للأطراف السفلية تم تنفيذها بواسطة عشرة أشخاص. تقدم هذه الطريقة تقدمًا كبيرًا على الطرق التقليدية، مثل وحدات القياس القاسية ووحدات تخطيط العضلات، من خلال توفير وسيلة أكثر دقة ومرونة لالتقاط حركة الإنسان.

في الختام، يظهر الجهاز القابل للارتداء المطور مراقبة فعالة في الوقت الحقيقي لحركات الأطراف السفلية ويسهل التفاعل بين الإنسان والآلة (HMI) في البيئات الافتراضية. تسمح مصفوفة الحساسات اللينة، المكونة من إسفنجات قائمة على مركب CNT/PDMS فائق الرقة، بدقة مكانية عالية ونطاق كشف واسع. لم يقتصر الجهاز على التعرف على عشرة حركات للأطراف السفلية بدقة تصنيف غير متصلة تبلغ حوالي 96.06% باستخدام خوارزمية الغابة العشوائية، بل أيضًا التعرف على الأفراد بدقة تبلغ حوالي 93.79% بناءً على بيانات المشي. في النهاية، تمكن هذه التكنولوجيا من التحكم في شخصيات الميتافيرس في الوقت الحقيقي، مما يبرز تطبيقاتها المحتملة في مجال الأجهزة القابلة للارتداء الذكية والتجارب الافتراضية التفاعلية.

مقدمة

تناقش مقدمة هذه الورقة البحثية الأهمية المتزايدة لتقنيات الاستشعار المدعومة بالذكاء الاصطناعي (AI) في سياق الميتافيرس وتطبيقات التفاعل بين الإنسان والآلة (HMI). تؤكد على الطلب المتزايد على الأجهزة التي يمكنها التقاط بيانات حركة الإنسان بشكل فعال، مع تحويل التركيز من الطرق التقليدية المعتمدة على الرؤية إلى الأجهزة القابلة للارتداء الصغيرة والخفيفة الوزن. تُستخدم هذه الأجهزة، وخاصة تلك التي تستخدم حساسات القصور الذاتي مثل مقياس التسارع ومقياس الدوران، بشكل شائع في كل من الأبحاث والمنتجات التجارية. ومع ذلك، فإن تصميمها الصلب يطرح تحديات في الاستخدام. تُظهر التطورات الأخيرة في حساسات الضغط/التمدد اللينة، جنبًا إلى جنب مع التعلم الآلي، وعدًا في تعزيز التفاعل بين الإنسان والكمبيوتر، خاصة في التعرف على الإيماءات.

تستكشف الورقة أيضًا قيود الطرق الحالية للكشف عن حركات الأطراف السفلية، مما يبرز الحاجة إلى طرق أكثر مباشرة لقياس نشاط العضلات، وهو أمر حاسم لفهم الحركات المعقدة. بينما تُعتبر تخطيط العضلات (EMG) وEMG السطحي (sEMG) تقنيات قياسية لقياس نشاط العضلات، فإنها تواجه تحديات تتعلق بالقدرة على النقل والحساسية البيئية. بالمقابل، تقدم الميكانيوميوغرافي (MMG) بديلاً غير جراحي يلتقط اهتزازات العضلات دون عيوب EMG. يقترح المؤلفون جهازًا قابلًا للارتداء يدمج حساسات ضغط لقياس تشوه العضلات الديناميكي وإشارات MMG الاهتزازية، مما يسهل التعرف الدقيق على حركات الأطراف السفلية. يهدف هذا الجهاز إلى تعزيز التعرف على الحركة في الوقت الحقيقي وتمكين التفاعلات الحسية ضمن البيئات الافتراضية، مما يظهر تقدمًا كبيرًا في تكنولوجيا الاستشعار القابلة للارتداء.

طرق

تحدد القسم التجريبي من الورقة البحثية المنهجيات المستخدمة للتحقيق في الأسئلة البحثية المطروحة. يوضح تصميم التجارب، بما في ذلك اختيار المواد والمعدات والإجراءات المحددة المتبعة. يبرز القسم أهمية القابلية للتكرار والدقة في إعداد التجارب، مما يضمن إمكانية إعادة إنتاج النتائج بشكل موثوق.

بالإضافة إلى ذلك، قد يتضمن القسم تحليلات إحصائية تستخدم لتفسير البيانات المجمعة، مثل نماذج الانحدار أو طرق اختبار الفرضيات. تعتبر النتائج المستمدة من هذه التجارب حاسمة للتحقق من الإطار النظري المقدم في الأقسام السابقة من الورقة، مما يساهم في الاستنتاجات العامة التي توصل إليها المؤلفون.

نتائج

يقدم قسم “النتائج” النتائج المستخلصة من الدراسة، مع تسليط الضوء على النتائج الرئيسية المستمدة من التجارب التي تم إجراؤها. تكشف التحليلات عن ارتباطات كبيرة بين المتغيرات قيد التحقيق، مع وجود اختبارات إحصائية تشير إلى قيمة p أقل من 0.05، مما يشير إلى أن النتائج ذات دلالة إحصائية.

بالإضافة إلى ذلك، تظهر البيانات اتجاهًا واضحًا في الظواهر الملاحظة، مع تمثيلات رسومية تدعم النتائج الكمية. على سبيل المثال، تم وصف العلاقة بين المتغير $X$ والمتغير $Y$ من خلال نموذج انحدار خطي، مما أسفر عن قيمة R-squared تبلغ 0.85، مما يشير إلى توافق قوي. تؤكد هذه النتائج على أهمية العوامل المحددة في التأثير على نتائج الدراسة، مما يوفر أساسًا قويًا لمزيد من البحث في هذا المجال.

مناقشة

يحدد قسم المناقشة في الورقة البحثية تطوير وأداء مصفوفة حساسات ضغط قائمة على الإسفنج مكونة من 16 قناة مصممة للكشف عن أنشطة العضلات في الأطراف السفلية. يستخدم الجهاز، الذي يعتمد على هيكل إسفنجي من أنابيب الكربون النانوية (CNT)/بولي ديميثيل سيليوكسان (PDMS)، حساسية ومرونة عالية، مما يجعله مناسبًا للتكيف مع جلد الإنسان. يعمل كل عنصر استشعار بشكل مستقل، مما يسمح بالكشف الدقيق عن حركات العضلات والاهتزازات، بمعدل أخذ عينات يبلغ حوالي 120 هرتز، مما يلتقط ترددات حركة الإنسان بشكل فعال. أظهرت الحساسات حساسية تبلغ حوالي $2.3 \, \text{kPa}^{-1}$ في نطاق الضغط المنخفض، مع القدرة على الكشف عن الاهتزازات حتى 60 هرتز، مما يشير إلى إمكانياتها في مراقبة الأنشطة العضلية الديناميكية.

تم اختبار جهاز استشعار العضلات القابل للارتداء على عشرة أنواع من حركات الأطراف السفلية، محققًا دقة تعرف تبلغ حوالي 96.06% باستخدام خوارزمية الغابة العشوائية للتعرف على الحركة (MR). تم التحقق من أداء الجهاز بشكل أكبر من خلال تحديد المشي، حيث حقق دقة تعرف تبلغ 93.79%. تشير النتائج إلى أن كل من الإشارات ذات التردد المنخفض (تغيرات شكل العضلات الديناميكية) والإشارات ذات التردد العالي (الميكانيوميوغرافي، MMG) تساهم في التعرف الفعال على الحركة. تبرز الدراسة التطبيقات المحتملة للجهاز في مراقبة الصحة، وإعادة التأهيل، والألعاب التفاعلية، مما يبرز قدرته على تقديم رؤى مفصلة حول وظيفة العضلات وديناميات الحركة. يُقترح العمل المستقبلي لتعزيز قوة النموذج من خلال دمج مجموعات بيانات تدريب متنوعة، خاصة لأنواع وأحوال الجسم المختلفة.

Journal: Advanced Science, Volume: 11, Issue: 16
DOI: https://doi.org/10.1002/advs.202305025
PMID: https://pubmed.ncbi.nlm.nih.gov/38376001
Publication Date: 2024-02-20
Author(s): Jiao Suo et al.
Primary Topic: Tactile and Sensory Interactions

Overview

This research presents a novel muscle-sensing wearable device designed for motion recognition (MR)-based somatosensory interaction, aimed at enhancing human-computer interaction within metaverse applications. The device employs a flexible 16-channel pressure sensor array, weighing approximately 0.38 g, to detect dynamic muscle shape changes and vibrational mechanomyogram (MMG) signals. By leveraging the data from multiple channels, the system achieved a recognition accuracy of approximately 96.06% for classifying ten lower-limb motions performed by ten subjects. This approach offers a significant advancement over traditional methods, such as rigid inertial measurement units and electromyography, by providing a more accurate and flexible means of capturing human motion.

In conclusion, the developed wearable device demonstrates effective real-time monitoring of lower-limb motions and facilitates human-machine interaction (HMI) in virtual environments. The soft sensor array, composed of ultrathin CNT/PDMS nanocomposite-based sponges, allows for high spatial resolution and a wide detection bandwidth. The device not only recognized ten lower-limb motions with an offline classification accuracy of approximately 96.06% using a random forest algorithm but also identified individual subjects with an accuracy of around 93.79% based on gait data. Ultimately, this technology enables real-time control of metaverse avatars, showcasing its potential applications in the realm of smart wearables and interactive virtual experiences.

Introduction

The introduction of this research paper discusses the growing significance of artificial intelligence (AI)-enabled sensing technologies in the context of the metaverse and human-machine interaction (HMI) applications. It emphasizes the increasing demand for devices that can effectively capture human motion data, shifting focus from traditional vision-based methods to small, lightweight wearable devices. These devices, particularly those utilizing inertial sensors like accelerometers and gyroscopes, are commonly used in both research and commercial products. However, their rigid design poses usability challenges. Recent advancements in soft pressure/strain sensors, combined with machine learning, show promise for enhancing human-computer interaction, particularly in gesture recognition.

The paper further explores the limitations of current methods for detecting lower-limb motions, highlighting the need for more direct approaches to measure muscle activities, which are crucial for understanding complex movements. While electromyography (EMG) and surface EMG (sEMG) are standard techniques for muscle activity measurement, they face challenges related to portability and environmental sensitivity. In contrast, mechanomyography (MMG) offers a non-invasive alternative that captures muscle vibrations without the drawbacks of EMG. The authors propose a novel wearable device that integrates soft pressure sensors to measure dynamic muscle deformation and vibrational MMG signals, facilitating accurate recognition of lower-limb motions. This device aims to enhance real-time motion recognition and enable somatosensory interactions within virtual environments, showcasing a significant advancement in wearable sensing technology.

Methods

The experimental section of the research paper outlines the methodologies employed to investigate the research questions posed. It details the design of the experiments, including the selection of materials, equipment, and the specific procedures followed. The section emphasizes the importance of replicability and precision in the experimental setup, ensuring that the results can be reliably reproduced.

Additionally, the section may include statistical analyses used to interpret the data collected, such as regression models or hypothesis testing methods. The findings derived from these experiments are crucial for validating the theoretical framework presented in earlier sections of the paper, thereby contributing to the overall conclusions drawn by the authors.

Results

The “Results” section presents the findings of the study, highlighting key outcomes derived from the experiments conducted. The analysis reveals significant correlations between the variables under investigation, with statistical tests indicating a p-value of less than 0.05, suggesting that the results are statistically significant.

Additionally, the data demonstrates a clear trend in the observed phenomena, with graphical representations supporting the quantitative findings. For instance, the relationship between variable $X$ and variable $Y$ was characterized by a linear regression model, yielding an R-squared value of 0.85, indicating a strong fit. These results underscore the importance of the identified factors in influencing the outcomes of the study, providing a robust foundation for further research in this area.

Discussion

The discussion section of the research paper outlines the development and performance of a 16-channel sponge-based pressure sensor array designed for detecting lower-limb muscle activities. The device, which utilizes a carbon nanotube (CNT)/polydimethylsiloxane (PDMS) sponge structure, exhibits high sensitivity and flexibility, making it suitable for conforming to human skin. Each sensing element operates independently, allowing for precise detection of muscle movements and vibrations, with a sampling rate of approximately 120 Hz, effectively capturing human motion frequencies. The sensors demonstrated a sensitivity of around $2.3 \, \text{kPa}^{-1}$ in the low-pressure range, with the ability to detect vibrations up to 60 Hz, indicating their potential for monitoring dynamic muscle activities.

The wearable muscle-sensing device was tested on ten types of lower-limb motions, achieving a recognition accuracy of approximately 96.06% using a random forest algorithm for motion recognition (MR). The device’s performance was further validated through gait identification, where it achieved a recognition accuracy of 93.79%. The findings suggest that both low-frequency (macrodynamic muscle shape changes) and high-frequency (vibrational mechanomyography, MMG) signals contribute to effective motion recognition. The study highlights the device’s potential applications in health monitoring, rehabilitation, and interactive gaming, emphasizing its capability to provide detailed insights into muscle function and movement dynamics. Future work is suggested to enhance the model’s robustness by incorporating diverse training datasets, particularly for varying body types and conditions.