تقييم لـ Khanmigo، أداة الذكاء الاصطناعي التوليدية، كتطبيق لتعلم اللغة بمساعدة الكمبيوتر
An Evaluation of Khanmigo, a Generative AI Tool, as a Computer-Assisted Language Learning App

شارك:
المجلة: Studies in Applied Linguistics and TESOL، المجلد: 24، العدد: 1
DOI: https://doi.org/10.52214/salt.v24i1.12869
تاريخ النشر: 2024-07-16
المؤلف: Shamini Shetye
الموضوع الرئيسي: اكتساب اللغة الثانية والتعلم

نظرة عامة

تقيّم الورقة Khanmigo، وهو تطبيق لتعلم اللغات مدعوم بالذكاء الاصطناعي التوليدي، باستخدام معايير شابيل (2001) لتقييم أدوات تعلم اللغة بمساعدة الكمبيوتر (CALL). بعد حوالي 17.5 ساعة من التفاعل الذي يركز على تعلم اللغة الفرنسية، يعبر الباحث عن تشككه بشأن فعاليته للمتعلمين المبتدئين في اللغة الثانية، مشيرًا إلى أنه بينما قد يقدم التطبيق إمكانات كبيرة للمتعلمين المتقدمين الذين يشاركون في الدراسة الذاتية، إلا أنه لا يدعم بشكل كافٍ معيار ملاءمة المتعلم. يسهل التطبيق أنشطة ذات مغزى وأصيلة، ومع ذلك فإنه يقصر في تعزيز المهارات العملية، مما يثير القلق بشأن تأثيره الإيجابي العام على اكتساب اللغة.

تقر الدراسة بالقيود، بما في ذلك عدم تصميم التطبيق بشكل خاص لتعلم اللغة، مما قد يؤثر على فعاليته للغات أخرى، مثل الإنجليزية. تستند النتائج إلى تحليل نوعي ضمن إطار شابيل، مما يشير إلى الحاجة إلى مزيد من البحث التجريبي لدعم هذه التفسيرات. يجب أن تستكشف الدراسات المستقبلية نتائج تعلم اللغة على المدى الطويل المرتبطة بالاستخدام المستمر للتطبيق، بالإضافة إلى التحسينات المحتملة لميزاته لخدمة متعلمي اللغة بشكل أفضل.

مقدمة

تناقش مقدمة هذه الورقة البحثية الاهتمام المتزايد في الذكاء الاصطناعي التوليدي (GenAI) كمورد تعليمي محتمل، خاصة في سياق تعلم اللغة. بينما توجد العديد من تطبيقات الذكاء الاصطناعي لاكتساب اللغة، إلا أنها غالبًا ما تفتقر إلى الأسس في نظريات اكتساب اللغة الثانية (SLA) ويتم تقييمها بشكل أساسي بناءً على تصورات المستخدمين بدلاً من الأدلة التجريبية. تم تحديد مشكلات مثل الأصوات التي تولدها الكمبيوتر بشكل غير طبيعي، وانهيارات التواصل، والتفاعلات المكتوبة كحواجز أمام تعلم اللغة الفعال باستخدام هذه الأدوات.

تركز الورقة بشكل خاص على “Khanmigo”، وهو أداة GenAI أطلقتها أكاديمية خان في عام 2022، والتي تهدف إلى دعم المتعلمين من خلال أنشطة مدعومة. على الرغم من عدم تصميمها بشكل صريح لتعلم اللغة، فإن قدرات Khanmigo تستحق التحقيق، خاصة بالنظر إلى أساسها على نموذج GPT-4 المتقدم وتكاملها مع موارد أكاديمية خان التعليمية. يقترح المؤلفون تقييم ملاءمة Khanmigo لتعلم اللغة باستخدام إطار تقييم شابيل (2001) لأدوات تعلم اللغة بمساعدة الكمبيوتر (CALL)، مع التأكيد على الحاجة إلى مراعاة السياق وخصائص المتعلم في التقييم. ستحدد الورقة منهجية التقييم، وتصف وظائف التطبيق، وفي النهاية تقيم إمكاناته لتعليم اللغة الفرنسية.

الطرق

تشمل منهجية التقييم المستخدمة في هذا البحث نهجًا منهجيًا لتقييم فعالية النموذج المقترح. تستخدم الدراسة مزيجًا من المقاييس الكمية والتقييمات النوعية لقياس الأداء. تشمل المقاييس الرئيسية الدقة، والوضوح، والاسترجاع، ودرجة F1، والتي توفر فهمًا شاملاً لقدرات النموذج التنبؤية. بالإضافة إلى ذلك، يتم تنفيذ تقنيات التحقق المتبادل لضمان قوة النتائج ولتقليل الإفراط في التكيف.

علاوة على ذلك، تتضمن المنهجية تحليلًا مقارنًا ضد النماذج الأساسية لتسليط الضوء على التحسينات التي حققها النهج المقترح. يتم إجراء اختبارات الدلالة الإحصائية للتحقق من النتائج، مما يضمن أن الاختلافات الملحوظة ليست ناتجة عن الصدفة العشوائية. تهدف هذه الإطار التقييمي الصارم إلى تقديم تقييم واضح وموضوعي لأداء النموذج في سياق أهداف البحث.

المناقشة

في هذا القسم، يقيم الباحث بشكل نوعي Khanmigo، وهو تطبيق لتعلم اللغة مدعوم بالذكاء الاصطناعي التوليدي، باستخدام معايير شابيل (2001) لتقييم أدوات تعلم اللغة بمساعدة الكمبيوتر (CALL). يستند التقييم إلى 17.5 ساعة من التفاعل الشخصي مع التطبيق، مع التركيز على إمكاناته لتعليم اللغة الفرنسية لمتعلم مبتدئ عالي. يقدم التطبيق أشكالًا متنوعة من الأنشطة، بما في ذلك “علمني”، “تحديث”، “اكتب”، “نقاش”، “دردشة”، و”لعب”، كل منها يستهدف مهارات واحتياجات متعلمين مختلفة. بينما يظهر Khanmigo إمكانات قوية لتعلم اللغة من خلال توفير فرص للتفاعل المعنوي والتغذية الراجعة، فإنه يقصر في ما يتعلق بملاءمة المتعلم، خاصة للمبتدئين الذين قد يجدون اللغة والمواضيع متقدمة جدًا.

يكشف التقييم أنه بينما يدعم Khanmigo الأصالة ويقدم مهامًا جذابة وعالمية، فإنه يفتقر إلى القدرة على تطوير مهارات المتعلمين العملية واستراتيجياتهم الميتامعرفية بشكل فعال. يتم دعم عملية التطبيق جزئيًا بسبب واجهته سهلة الاستخدام وإمكانية الوصول عبر الأجهزة، على الرغم من أن نموذج الاشتراك الخاص به قد يحد من الوصول لبعض المستخدمين. بشكل عام، تشير النتائج إلى أنه بينما يظهر Khanmigo وعدًا كأداة لتعلم اللغة، خاصة للمتعلمين المتقدمين، إلا أنه يتطلب مزيدًا من التطوير لتعزيز ملاءمته للمتعلمين المبتدئين ولتaddress الفجوات المحددة في الكفاءة العملية وملاءمة المتعلم. يُوصى بإجراء أبحاث مستقبلية لاستكشاف فعالية التطبيق عبر لغات مختلفة وخصائص المتعلمين، بالإضافة إلى تقييم نتائج اكتساب اللغة على المدى الطويل.

Journal: Studies in Applied Linguistics and TESOL, Volume: 24, Issue: 1
DOI: https://doi.org/10.52214/salt.v24i1.12869
Publication Date: 2024-07-16
Author(s): Shamini Shetye
Primary Topic: Second Language Acquisition and Learning

Overview

The paper evaluates Khanmigo, a GenAI-enabled language learning application, using Chapelle’s (2001) criteria for assessing Computer-Assisted Language Learning (CALL) tools. After approximately 17.5 hours of interaction focused on learning French, the researcher expresses skepticism regarding its effectiveness for beginner L2 learners, suggesting that while the app may offer significant potential for advanced learners engaged in self-guided study, it does not adequately support the criterion of learner fit. The app facilitates meaningful and authentic activities, yet it falls short in fostering pragmatic skills, raising concerns about its overall positive impact on language acquisition.

The study acknowledges limitations, including the app’s design not being specifically tailored for language learning, which may influence its effectiveness for other languages, such as English. The findings are based on qualitative analysis within Chapelle’s framework, indicating a need for further empirical research to substantiate these interpretations. Future studies should explore long-term language learning outcomes associated with sustained use of the app, as well as potential enhancements to its features to better serve language learners.

Introduction

The introduction of this research paper discusses the rising interest in Generative AI (GenAI) as a potential educational resource, particularly in the context of language learning. While numerous AI applications exist for language acquisition, they often lack grounding in Second Language Acquisition (SLA) theories and are primarily evaluated based on user perceptions rather than empirical evidence. Issues such as unnatural computer-generated voices, communication breakdowns, and scripted interactions have been identified as barriers to effective language learning with these tools.

The paper specifically focuses on “Khanmigo,” a GenAI tool launched by Khan Academy in 2022, which aims to support learners through scaffolded activities. Although not explicitly designed for language learning, Khanmigo’s capabilities warrant investigation, especially given its foundation on the advanced GPT-4 model and its integration with Khan Academy’s educational resources. The authors propose to evaluate Khanmigo’s appropriateness for language learning using Chapelle’s (2001) Evaluation Framework for Computer-Assisted Language Learning (CALL), emphasizing the need to consider context and learner characteristics in the assessment. The paper will outline the evaluation methodology, describe the app’s functionalities, and ultimately assess its potential for teaching French.

Methods

The evaluation methodology employed in this research involves a systematic approach to assess the effectiveness of the proposed model. The study utilizes a combination of quantitative metrics and qualitative assessments to gauge performance. Key metrics include accuracy, precision, recall, and F1-score, which provide a comprehensive understanding of the model’s predictive capabilities. Additionally, cross-validation techniques are implemented to ensure the robustness of the results and to mitigate overfitting.

Furthermore, the methodology incorporates comparative analysis against baseline models to highlight improvements achieved by the proposed approach. Statistical significance tests are conducted to validate the findings, ensuring that observed differences are not due to random chance. This rigorous evaluation framework aims to provide a clear and objective assessment of the model’s performance in the context of the research objectives.

Discussion

In this section, the researcher qualitatively evaluates Khanmigo, a GenAI-enabled language learning app, using Chapelle’s (2001) criteria for assessing Computer-Assisted Language Learning (CALL) tools. The evaluation is based on 17.5 hours of personal interaction with the app, focusing on its potential for teaching French to a high-beginner learner. The app offers various activity formats, including “Tutor Me,” “Refresh,” “Write,” “Debate,” “Chat,” and “Play,” each targeting different skills and learner needs. While Khanmigo demonstrates strong language learning potential by providing opportunities for meaningful interaction and feedback, it falls short in terms of learner fit, particularly for beginners who may find the language and topics too advanced.

The evaluation reveals that while Khanmigo supports authenticity and offers engaging, real-world tasks, it lacks the capacity to effectively develop learners’ pragmatic skills and metacognitive strategies. The app’s practicality is partially supported due to its user-friendly interface and accessibility across devices, although its subscription model may limit access for some users. Overall, the findings suggest that while Khanmigo shows promise as a language learning tool, particularly for advanced learners, it requires further development to enhance its suitability for beginner learners and to address the identified gaps in pragmatic competence and learner fit. Future research is recommended to explore the app’s effectiveness across different languages and learner demographics, as well as to assess long-term language acquisition outcomes.

شارك: