DOI: https://doi.org/10.1007/s13755-024-00281-y
PMID: https://pubmed.ncbi.nlm.nih.gov/38455725
تاريخ النشر: 2024-03-06
المؤلف: Sergio Rubio-Martín وآخرون
الموضوع الرئيسي: البحث في اضطراب طيف التوحد
نظرة عامة
هدفت الدراسة إلى التحقيق في فعالية الذكاء الاصطناعي (AI) في تشخيص اضطراب طيف التوحد (ASD) من خلال الاستفادة من نماذج التعلم الآلي (ML) والتعلم العميق (DL) لتحليل بيانات النصوص، وخاصة من منصات التواصل الاجتماعي مثل تويتر. تتناول الأبحاث التحديات الكبيرة في تشخيص ASD، مثل الحاجة إلى محترفين متخصصين وموارد واسعة، مما يبرز أهمية التعرف المبكر للتدخل المبكر وتحسين جودة الحياة للأفراد المتأثرين.
باستخدام تقنيات معالجة اللغة الطبيعية (NLP)، نفذ الباحثون نماذج ML متنوعة، بما في ذلك أشجار القرار، وتعزيز التدرج المتطرف (XGB)، وأقرب الجيران (KNN)، إلى جانب نماذج DL مثل الشبكات العصبية المتكررة (RNN)، وذاكرة المدى الطويل والقصير (LSTM)، وذاكرة LSTM ثنائية الاتجاه (Bi-LSTM)، وتمثيلات الترميز ثنائية الاتجاه من المحولات (BERT وBERTweet). قاموا بتحليل مجموعة بيانات تتكون من 404,627 تغريدة، وتصنيفها إلى مجموعتين: تلك التي من الأفراد الذين يدعون أنهم يعانون من ASD وتلك من مستخدمي غير ASD. تم استخدام مجموعة فرعية من 90,000 تغريدة (45,000 من كل مجموعة) لتدريب واختبار النموذج. أظهرت النتائج دقة تنبؤية عالية تقارب 88% في تصنيف النصوص من الأفراد المحتملين الذين يعانون من ASD، مما يبرز وعد الذكاء الاصطناعي، وخاصة نماذج DL، في تعزيز اكتشاف وتشخيص ASD. تسلط هذه الطريقة المبتكرة الضوء على الدور الحاسم للذكاء الاصطناعي في تطوير تقنيات التشخيص المبكر وتحسين نتائج المرضى من خلال التعرف المبكر على ASD، خاصة عند الأطفال.
مقدمة
تتناول مقدمة الورقة اضطراب طيف التوحد (ASD)، وهو إعاقة تنموية تؤثر على المهارات الاجتماعية والتفاعلية، وعادة ما يتم تشخيصه قبل سن الثالثة. تبرز أهمية التشخيص المبكر، الذي يمكن أن يعزز بشكل كبير المهارات الاجتماعية والتواصلية والمعرفية لدى الأطفال المتأثرين، ويحسن أنظمة دعم الأسرة، ويؤثر بشكل إيجابي على النتائج التعليمية والمهنية. تشير الورقة إلى أنه بينما تعتمد طرق التشخيص التقليدية غالبًا على مقابلات طويلة واستبيانات، فإن التقدم في الذكاء الاصطناعي (AI) يقدم فرصًا جديدة للكشف المبكر، خاصة من خلال تحليل بيانات النصوص من منصات التواصل الاجتماعي مثل تويتر.
يقترح المؤلفون تطوير نماذج الذكاء الاصطناعي التي تشخص ASD من خلال تحليل السير الذاتية على تويتر حيث قد يكشف المستخدمون عن حالتهم. بناءً على الأبحاث الأولية، تقدم هذه الدراسة عدة تحسينات، بما في ذلك نماذج التعلم الآلي الإضافية (مثل KNN)، ونماذج التعلم العميق الموسعة (مثل RNN، LSTM)، ونماذج BERT المدربة مسبقًا. تستخدم الأبحاث مجموعة بيانات شاملة تتكون من 404,627 تغريدة من 252 مستخدمًا، مع 221 مستخدمًا يشيرون بوضوح إلى ASD في سيرهم الذاتية. تهدف الورقة إلى مقارنة دقة تقنيات التعلم الآلي التقليدية مقابل الأساليب العميقة في إنشاء نماذج تنبؤية لتشخيص ASD. في النهاية، يؤكد المؤلفون على إمكانية الاستفادة من رؤى وسائل التواصل الاجتماعي لتحسين دقة التشخيص وتعزيز فهم سلوكيات ASD، مما يعود بالنفع على الأفراد الذين يعانون من ASD وعائلاتهم.
الطرق
تحدد قسم “الطرق” في الورقة منهجية البحث من خلال عدة أقسام فرعية رئيسية. يوضح قسم “جمع وتصنيف مجموعة بيانات ASD” الاستراتيجيات المستخدمة لجمع مجموعة بيانات شاملة، إلى جانب تقنيات التصنيف المطبقة على كل مثال بيانات. بعد ذلك، يصف قسم “نماذج التعلم الآلي والتعلم العميق المستخدمة” الخوارزميات والهياكل المحددة التي تم تنفيذها لمعالجة مشكلة البحث. أخيرًا، يقدم قسم “الأجهزة والبرامج المستخدمة في التجارب” رؤى حول مواصفات الأجهزة الحاسوبية وأدوات البرمجيات المستخدمة خلال التجارب. يتم توضيح نظرة عامة على إطار البحث في الشكل 1.
النتائج
في هذه الدراسة، تمت مقارنة ثلاثة نماذج تعلم آلي (ML)—أشجار القرار، XGBoost (XGB)، وأقرب الجيران (KNN)—ضد عدة نماذج تعلم عميق (DL)، بما في ذلك الشبكات العصبية المتكررة (RNN)، وشبكات الذاكرة طويلة وقصيرة الأجل (LSTM)، وذاكرة LSTM ثنائية الاتجاه (Bi-LSTM)، وBERT، وBERTweet، في مهمة تصنيف ثنائية لتحديد الأفراد الذين يعانون من اضطراب طيف التوحد (ASD). تشير النتائج، الملخصة في الجدول 3، إلى أن نماذج التعلم العميق تفوقت عمومًا على نماذج التعلم الآلي، حيث حققت BERTweet أعلى دقة بنسبة 87.7%. في المقابل، سجل نموذج KNN أدنى دقة عند 60.8%، تلاه أشجار القرار عند 61.2%، ونماذج أخرى مثل LSTM وRNN حققت دقة بنسبة 69.5% و69.9%، على التوالي.
تؤكد تحليل مصفوفات الالتباس، الموضحة في الشكل 5، على الأداء المتفوق لنموذج BERTweet، الذي أظهر عددًا كبيرًا من الإيجابيات الحقيقية والسلبيات الحقيقية، مما يميز بفعالية بين الأفراد الذين يعانون من ASD والذين لا يعانون منه. تسلط النتائج الضوء على إمكانية نماذج التعلم العميق، وخاصة BERT ونسخها، في التقاط الأنماط المعقدة داخل البيانات، مما يعزز دقة التصنيف. تؤكد هذه الأبحاث على الدور الحاسم لاختيار النموذج ومقاييس تقييم الأداء في اكتشاف ASD، مما يشير إلى أن الأساليب العميقة قد تحسن بشكل كبير دقة التشخيص في هذا المجال.
المناقشة
في هذه الدراسة، تم إنشاء مجموعة بيانات جديدة لتصنيف مستخدمي تويتر إلى مجموعتين: أولئك الذين يعانون من اضطراب طيف التوحد (ASD) وأولئك الذين لا يعانون منه. تم بناء مجموعة البيانات من خلال تحديد المستخدمين يدويًا الذين عرّفوا عن أنفسهم على أنهم يعانون من ASD في سيرهم الذاتية، باستخدام كلمات رئيسية محددة تتعلق بالتوحد. تم تصنيف ما مجموعه 252 مستخدمًا، مما أسفر عن 404,627 تغريدة بعد معالجة دقيقة لإزالة التكرارات، وإعادة التغريدات، والمحتوى غير ذي الصلة. تضمنت مجموعة البيانات النهائية توزيعًا متساويًا من 90,000 تغريدة من كلا المجموعتين، والتي تم استخدامها بعد ذلك لتدريب نماذج التعلم الآلي (ML) والتعلم العميق (DL) المختلفة.
كشفت تقييمات النماذج أن نموذج XGB (تعزيز التدرج المتطرف) حقق دقة بنسبة 71.6%، بينما تفوق نموذج BERTweet، المصمم خصيصًا لتحليل التغريدات، على جميع النماذج الأخرى بدقة بلغت 87.7%. تؤكد هذه النتيجة الأدبيات الحالية التي تبرز فعالية نماذج BERT في مهام تصنيف النصوص. ومع ذلك، تعترف الدراسة بالقيود، بما في ذلك التحيزات المحتملة في البيانات المبلغ عنها من قبل المستخدمين والحاجة إلى مزيد من التحقق قبل دمج هذه النماذج في البيئات السريرية. تشمل اتجاهات البحث المستقبلية تحسين المعلمات الفائقة لتحسين دقة النموذج واستكشاف نماذج ML وDL إضافية لتعزيز قوة تحديد ASD.
DOI: https://doi.org/10.1007/s13755-024-00281-y
PMID: https://pubmed.ncbi.nlm.nih.gov/38455725
Publication Date: 2024-03-06
Author(s): Sergio Rubio-Martín et al.
Primary Topic: Autism Spectrum Disorder Research
Overview
The study aimed to investigate the effectiveness of artificial intelligence (AI) in diagnosing autism spectrum disorder (ASD) by leveraging machine learning (ML) and deep learning (DL) models to analyze text data, particularly from social media platforms like Twitter. The research addresses significant challenges in ASD diagnosis, such as the need for specialized professionals and extensive resources, emphasizing the importance of timely identification for early intervention and improved quality of life for affected individuals.
Utilizing natural language processing (NLP) techniques, the researchers implemented various ML models, including decision trees, extreme gradient boosting (XGB), and k-nearest neighbors (KNN), alongside DL models like recurrent neural networks (RNN), long short-term memory (LSTM), bidirectional LSTM (Bi-LSTM), and bidirectional encoder representations from transformers (BERT and BERTweet). They analyzed a dataset of 404,627 tweets, classifying them into two groups: those from individuals claiming to have ASD and those from non-ASD users. A subset of 90,000 tweets (45,000 from each group) was used for model training and testing. The results indicated a high predictive accuracy of nearly 88% in classifying texts from potential ASD individuals, showcasing the promise of AI, particularly DL models, in enhancing ASD detection and diagnosis. This innovative approach highlights the critical role of AI in advancing early diagnostic techniques and improving patient outcomes through early identification of ASD, especially in children.
Introduction
The introduction of the paper addresses Autism Spectrum Disorder (ASD), a developmental disability affecting social and interactive skills, typically diagnosed before the age of three. It highlights the importance of early diagnosis, which can significantly enhance social, communicative, and cognitive skills in affected children, improve family support systems, and positively influence educational and occupational outcomes. The paper notes that while traditional diagnostic methods often rely on lengthy interviews and questionnaires, advancements in artificial intelligence (AI) present new opportunities for early detection, particularly through the analysis of textual data from social media platforms like Twitter.
The authors propose to develop AI models that diagnose ASD by analyzing Twitter biographies where users may disclose their condition. Building on preliminary research, this study introduces several advancements, including additional machine learning models (e.g., KNN), extended deep learning models (e.g., RNN, LSTM), and pretrained BERT models. The research utilizes a comprehensive dataset of 404,627 tweets from 252 users, with 221 users explicitly indicating ASD in their biographies. The paper aims to compare the accuracy of traditional machine learning techniques against deep learning approaches in creating predictive models for ASD diagnosis. Ultimately, the authors emphasize the potential of leveraging social media insights to improve diagnostic accuracy and enhance understanding of ASD-related behaviors, thereby benefiting individuals with ASD and their families.
Methods
The “Methods” section of the paper outlines the research methodology through several key subsections. The “ASD dataset collection and classification” subsection details the strategies employed to gather a comprehensive dataset, along with the classification techniques applied to each data example. Following this, the “Machine learning and deep learning models used” subsection describes the specific algorithms and architectures implemented to tackle the research problem. Lastly, the “Hardware and Software used for the experiments” subsection offers insights into the computer hardware specifications and software tools utilized during the experiments. An overview of the research framework is illustrated in Figure 1.
Results
In this study, three machine learning (ML) models—decision trees, XGBoost (XGB), and K-nearest neighbors (KNN)—were compared against several deep learning (DL) models, including recurrent neural networks (RNN), long short-term memory networks (LSTM), bidirectional LSTM (Bi-LSTM), BERT, and BERTweet, in a binary classification task to identify individuals with Autism Spectrum Disorder (ASD). The results, summarized in Table 3, indicate that the deep learning models generally outperformed the machine learning models, with BERTweet achieving the highest accuracy of 87.7%. In contrast, the KNN model recorded the lowest accuracy at 60.8%, followed by decision trees at 61.2%, and other models such as LSTM and RNN achieving accuracies of 69.5% and 69.9%, respectively.
The analysis of confusion matrices, illustrated in Figure 5, further underscores the superior performance of the BERTweet model, which demonstrated a high number of true positives and true negatives, thus effectively distinguishing between individuals with and without ASD. The findings highlight the potential of deep learning models, particularly BERT and its variants, in capturing complex patterns within the data, thereby enhancing classification accuracy. This research emphasizes the critical role of model selection and performance evaluation metrics in the detection of ASD, suggesting that deep learning approaches may significantly improve diagnostic accuracy in this domain.
Discussion
In this study, a novel dataset was created to classify Twitter users into two groups: those with Autism Spectrum Disorder (ASD) and those without. The dataset was constructed by manually identifying users who self-identified as having ASD in their biographies, utilizing specific keywords related to autism. A total of 252 users were classified, resulting in 404,627 tweets after rigorous pre-processing to eliminate duplicates, retweets, and irrelevant content. The final dataset comprised an equal distribution of 90,000 tweets from both groups, which were then used to train various machine learning (ML) and deep learning (DL) models.
The evaluation of the models revealed that the XGB (eXtreme Gradient Boosting) model achieved an accuracy of 71.6%, while the BERTweet model, specifically designed for tweet analysis, outperformed all others with an accuracy of 87.7%. This finding corroborates existing literature that highlights the effectiveness of BERT-based models in text categorization tasks. However, the study acknowledges limitations, including potential biases in user-reported data and the need for further validation before these models can be integrated into clinical settings. Future research directions include optimizing hyperparameters for improved model accuracy and exploring additional ML and DL models to enhance the robustness of ASD identification.