DOI: https://doi.org/10.1145/3757537
تاريخ النشر: 2025-10-16
المؤلف: Kyuha Jung وآخرون
الموضوع الرئيسي: الصحة النفسية من خلال الكتابة
نظرة عامة
تبحث هذه الدراسة في دور نماذج اللغة الكبيرة (LLMs)، وبشكل خاص ChatGPT، في تقديم الدعم النفسي من خلال تحليل مناقشات Reddit. تجد الدراسة أن المستخدمين يقدرون ChatGPT لطبيعته غير الحكمية وسهولة الوصول إليه، وغالبًا ما يفضلونه على التفاعلات البشرية بسبب توفره واستجاباته المعرفة. يقدم ChatGPT أشكالًا متنوعة من الدعم، بما في ذلك النصائح القابلة للتنفيذ، والتحقق العاطفي، والمساعدة في فهم الحالات النفسية. كما يساعد المستخدمين في التنقل خلال المحادثات الصعبة والاستعداد لجلسات العلاج، مما يعزز تجاربهم العلاجية.
ومع ذلك، تبرز الدراسة عدة مخاوف أثارها المستخدمون، مثل إمكانية المعلومات المضللة، وخطر تقديم ChatGPT لاستجابات مفرطة في التحقق، وقضايا الخصوصية. بالإضافة إلى ذلك، هناك مخاوف بشأن قيود النموذج كبديل للعلاج المهني. يناقش المؤلفون الآثار المترتبة على استخدام LLMs في كل من الإعدادات اليومية والسريرية للصحة النفسية ويقترحون استراتيجيات للتخفيف من المخاطر المرتبطة، داعين إلى مزيد من البحث في فوائد وسلامة LLMs في سياقات الصحة النفسية.
مقدمة
تسلط مقدمة ورقة البحث الضوء على أهمية المحادثات حول القضايا الشخصية في تعزيز الصحة النفسية والرفاهية العاطفية. تؤكد على دور التكنولوجيا، وخاصة الوكلاء المحادثين (CAs) ونماذج اللغة الكبيرة (LLMs)، في تسهيل هذه المناقشات. لقد أظهرت CAs، بما في ذلك الدردشات المدعومة بـ LLM مثل ChatGPT، وعدًا في تقديم الدعم الاجتماعي وتمكين التعبير عن الذات، حيث يتجه المستخدمون بشكل متزايد إلى هذه التقنيات للحصول على المساعدة في الصحة النفسية. تركز الدراسة على تحليل تجارب مستخدمي Reddit مع ChatGPT في سياق الصحة النفسية، مستفيدة من البيانات العضوية للمنصة للحصول على رؤى حول تفاعلات المستخدمين.
يكشف التحليل الموضوعي أن المستخدمين يفضلون التواصل مع ChatGPT بسبب طبيعته غير الحكمية، وسهولة الوصول إليه، وقدرته على تقديم حلول قابلة للتنفيذ وطمأنة. بالإضافة إلى ذلك، تحدد الدراسة أدوارًا جديدة لـ ChatGPT في إدارة القضايا الشخصية وتعزيز تجارب العلاج. ومع ذلك، تتناول أيضًا المخاوف المتعلقة بدقة نصائح الصحة النفسية، وإمكانية الاستجابات المؤكدة بلا شروط، وقضايا الخصوصية المتعلقة بالمعلومات الحساسة. تسهم هذه الدراسة في مجالات العمل التعاوني المدعوم بالحاسوب (CSCW) والحوسبة الاجتماعية من خلال تحديد تفضيلات المستخدمين لـ LLMs في مناقشة الصحة النفسية، وكشف حالات استخدام جديدة، وتسليط الضوء على المخاطر المرتبطة باستخدامها في السياقات العلاجية.
الطرق
في هذه الدراسة، استخدمنا Reddit كمصدر بيانات رئيسي للتحقيق في تفاعل المستخدمين مع نماذج اللغة الكبيرة (LLMs) في سياق مناقشات الصحة النفسية. يدعم اختيار Reddit الأبحاث السابقة في العمل التعاوني المدعوم بالحاسوب (CSCW) وتفاعل الإنسان مع الحاسوب (HCI)، والتي تسلط الضوء على أهميته في تحليل تفاعلات المستخدمين في المجتمعات عبر الإنترنت. تشمل منهجيتنا وصفًا تفصيليًا لخطوات جمع البيانات والمعالجة المسبقة، مما يضمن أساسًا قويًا للتحليل اللاحق.
نحدد أيضًا نهجنا التحليلي، الذي يتضمن اعتبارات أخلاقية تتعلق بتقرير بيانات الصحة النفسية المتاحة للجمهور. هذا الجانب مهم نظرًا للطبيعة الحساسة للمعلومات المعنية. بالإضافة إلى ذلك، نعترف بالقيود الموجودة في دراستنا، والتي قد تؤثر على قابلية تعميم نتائجنا. بشكل عام، تهدف هذه الإطار المنهجي إلى توفير فهم شامل لكيفية تفاعل المستخدمين مع LLMs في سياقات الصحة النفسية على Reddit.
النتائج
في تحليل تفاعلات المستخدمين على subreddit r/ChatGPT، تكشف النتائج أن مستخدمي Reddit شاركوا في محادثات متنوعة بشأن الصحة النفسية مع ChatGPT، حيث شاركوا تجارب شخصية وصراعات تتعلق بمشاكل الصحة النفسية المختلفة، بما في ذلك اضطرابات المزاج، واضطرابات القلق، واضطراب ما بعد الصدمة. كما كشف المستخدمون عن حالات عصبية متنوعة مثل ADHD، واضطرابات طيف التوحد، وعسر القراءة، مما وفر سياقًا لتجاربهم. تضمنت التفاعلات مطالبات مشتركة واستجابات ChatGPT، مما يبرز دور المنصة كمصدر داعم للمستخدمين الذين يواجهون صعوبات عاطفية.
بشكل عام، أفاد المستخدمون بأنهم وجدوا ChatGPT نظام دعم قيم، حيث يقدرون قدرته على خلق مساحة آمنة لمناقشة تحدياتهم. قدم الذكاء الاصطناعي مساعدة عملية، وتشجيعًا، وفهمًا، مما ساعد المستخدمين في مهام مثل صياغة رسائل للمحادثات الصعبة والاستعداد لجلسات العلاج. ومع ذلك، أثيرت مخاوف بشأن المخاطر المحتملة المرتبطة باستخدام ChatGPT لمناقشات الصحة النفسية، بما في ذلك توليد معلومات غير دقيقة، وخطر قيام المستخدمين بالتلاعب بالذكاء الاصطناعي، وآثار مشاركة المعلومات الحساسة عبر الإنترنت.
المناقشة
تستكشف قسم المناقشة في ورقة البحث هذه تقاطع الوكلاء المحادثين المعتمدين على نماذج اللغة الكبيرة (LLM) ودعم الصحة النفسية ضمن مجالات العمل التعاوني المدعوم بالحاسوب (CSCW) وتفاعل الإنسان مع الحاسوب (HCI). يبدأ بتحديد سياق الدراسة ضمن الأدبيات الموجودة، مؤكدًا على الفوائد العلاجية للتعبير عن الذات والدعم الاجتماعي في البيئات عبر الإنترنت. يوضح المؤلفون المصطلحات الرئيسية مثل “الصحة النفسية”، التي تشمل كل من المرض العقلي والرفاهية، و”محادثات الصحة النفسية”، التي تُعرف بأنها مناقشات حول التحديات الشخصية والتجارب مع حالات الصحة النفسية. تسلط الورقة الضوء على التركيز المتزايد على الصحة النفسية ضمن CSCW وHCI، مشيرة إلى دور المنصات عبر الإنترنت في تسهيل دعم المجتمع وتحليل الأنماط اللغوية للتنبؤ بحالات الصحة النفسية.
يناقش المؤلفون أيضًا مزايا وتحديات استخدام LLMs في سياقات الصحة النفسية. يشيرون إلى أنه بينما يمكن أن توفر LLMs دعمًا فوريًا وغير حكمى وتسهيلًا للتأمل الذاتي، تظل المخاوف مثل إمكانية توليد معلومات خاطئة (هلوسات) والقضايا المتعلقة بالخصوصية والحساسية الثقافية مهمة. تستخدم الدراسة Reddit كمصدر بيانات غني لتحليل تجارب المستخدمين مع ChatGPT، كاشفة أن العديد من المستخدمين يفضلون التفاعل مع LLMs بدلاً من التفاعلات البشرية بسبب الشعور بالأمان، وسهولة الوصول، وانعدام الحكم. يبرز هذا التفضيل إمكانية LLMs كأدوات قيمة في دعم الصحة النفسية، بينما يسلط الضوء أيضًا على الحاجة إلى اعتبار دقيق للآثار الأخلاقية وخصوصية المستخدم في تصميم هذه التقنيات.
القيود
تسلط قيود هذه الدراسة الضوء على عدة عوامل حاسمة تتعلق باستخدام بيانات Reddit لتحليل تجارب المستخدمين مع ChatGPT في محادثات الصحة النفسية. أولاً، مجموعة البيانات مقيدة بالمنشورات والتعليقات التي تم إنشاؤها حتى 1 ديسمبر 2023، مما يستبعد المناقشات والتطورات الأكثر حداثة، مثل إصدار GPT-4o في 13 مايو 2024، وأي تغييرات لاحقة في سياسات OpenAI. قد تؤدي هذه القيود الزمنية إلى إغفال رؤى ذات صلة قد تؤثر على النتائج.
ثانيًا، بينما تشمل Reddit قاعدة مستخدمين واسعة، إلا أنها لا تمثل الطيف الكامل للتجارب المتعلقة باستخدام ChatGPT في سياقات الصحة النفسية. التحليل مقيد بوجهات نظر الأفراد الذين اختاروا مشاركة تجاربهم على المنصة، مما قد يقدم تحيزًا في الاختيار. علاوة على ذلك، على الرغم من أن البيانات توفر نظرة عامة واسعة على تفاعلات المستخدمين، إلا أنها قد تفتقر إلى العمق اللازم لفهم تعقيدات تجارب المحادثة للمستخدمين وصراعاتهم النفسية الأساسية. حرص فريق البحث على تفسير المنشورات دون افتراضات حول حالات الصحة النفسية للمستخدمين، وشارك في مناقشات تعاونية لضمان فهم دقيق للاقتباسات التي تم تحليلها.
DOI: https://doi.org/10.1145/3757537
Publication Date: 2025-10-16
Author(s): Kyuha Jung et al.
Primary Topic: Mental Health via Writing
Overview
This research examines the role of large language models (LLMs), specifically ChatGPT, in providing mental health support through an analysis of Reddit discussions. The study finds that users appreciate ChatGPT for its non-judgmental and accessible nature, often preferring it over human interactions due to its availability and knowledgeable responses. ChatGPT offers various forms of support, including actionable advice, emotional validation, and assistance in understanding mental states. It also aids users in navigating difficult conversations and preparing for therapy sessions, thereby enhancing their therapeutic experiences.
However, the study highlights several concerns raised by users, such as the potential for misinformation, the risk of ChatGPT providing overly validating responses, and privacy issues. Additionally, there are apprehensions regarding the model’s limitations as a substitute for professional therapy. The authors discuss the implications of utilizing LLMs in both everyday and clinical mental health settings and propose strategies to mitigate associated risks, advocating for further research into the benefits and safety of LLMs in mental health contexts.
Introduction
The introduction of the research paper highlights the significance of conversations about personal issues in enhancing mental health and emotional well-being. It emphasizes the role of technology, particularly conversational agents (CAs) and large language models (LLMs), in facilitating these discussions. CAs, including LLM-powered chatbots like ChatGPT, have shown promise in providing social support and enabling self-expression, with users increasingly turning to these technologies for mental health assistance. The study focuses on analyzing Reddit users’ experiences with ChatGPT in the context of mental health, leveraging the platform’s organic data to gain insights into user interactions.
The thematic analysis reveals that users prefer communicating with ChatGPT due to its non-judgmental nature, accessibility, and ability to provide actionable solutions and reassurance. Additionally, the study identifies novel roles for ChatGPT in managing interpersonal issues and enhancing therapy experiences. However, it also addresses concerns regarding the accuracy of mental health advice, the potential for unconditionally affirmative responses, and privacy issues related to sensitive information. The research contributes to the fields of Computer-Supported Cooperative Work (CSCW) and Social Computing by outlining user preferences for LLMs in discussing mental health, uncovering new use cases, and highlighting risks associated with their use in therapeutic contexts.
Methods
In this study, we utilized Reddit as a primary data source to investigate user engagement with large language models (LLMs) in the context of mental health discussions. The choice of Reddit is supported by prior research in Computer-Supported Cooperative Work (CSCW) and Human-Computer Interaction (HCI), which highlights its relevance for analyzing user interactions in online communities. Our methodology encompasses a detailed description of the data collection and preprocessing steps, ensuring a robust foundation for subsequent analysis.
We further delineate our analytical approach, which includes ethical considerations pertinent to the reporting of publicly available mental health data. This aspect is crucial given the sensitive nature of the information involved. Additionally, we acknowledge the limitations inherent in our study, which may impact the generalizability of our findings. Overall, this methodological framework aims to provide a comprehensive understanding of how users interact with LLMs in mental health contexts on Reddit.
Results
In the analysis of user interactions on the r/ChatGPT subreddit, findings reveal that Reddit users engaged in diverse conversations regarding mental health with ChatGPT, sharing personal experiences and struggles related to various mental health issues, including mood disorders, anxiety disorders, and post-traumatic stress disorder. Users also disclosed neurodiverse conditions such as ADHD, autism spectrum disorders, and dyslexia, which provided context for their experiences. The interactions included shared prompts and ChatGPT’s responses, highlighting the platform’s role as a supportive resource for users facing emotional difficulties.
Overall, users reported finding ChatGPT to be a valuable support system, appreciating its ability to create a safe space for discussing their challenges. The AI provided practical assistance, encouragement, and understanding, aiding users in tasks such as drafting messages for difficult conversations and preparing for therapy sessions. However, concerns were raised regarding the potential risks associated with using ChatGPT for mental health discussions, including the generation of inaccurate information, the risk of users manipulating the AI, and the implications of sharing sensitive information online.
Discussion
The discussion section of this research paper explores the intersection of large language model (LLM)-based conversational agents and mental health support within the realms of Computer-Supported Cooperative Work (CSCW) and Human-Computer Interaction (HCI). It begins by contextualizing the study within existing literature, emphasizing the therapeutic benefits of self-expression and social support in online environments. The authors clarify key terms such as “mental health,” which encompasses both mental illness and well-being, and “mental health conversations,” defined as discussions surrounding personal challenges and experiences with mental health conditions. The paper highlights the increasing focus on mental health within CSCW and HCI, noting the role of online platforms in facilitating community support and the analysis of linguistic patterns to predict mental health statuses.
The authors further discuss the advantages and challenges of using LLMs in mental health contexts. They note that while LLMs can provide immediate, non-judgmental support and facilitate self-reflection, concerns such as the potential for generating false information (hallucinations) and issues surrounding privacy and cultural sensitivity remain significant. The study utilizes Reddit as a rich data source to analyze user experiences with ChatGPT, revealing that many users prefer engaging with LLMs over human interactions due to the perceived safety, accessibility, and lack of judgment. This preference underscores the potential of LLMs to serve as valuable tools in mental health support, while also calling attention to the need for careful consideration of ethical implications and user privacy in the design of such technologies.
Limitations
The limitations of this study highlight several critical factors regarding the use of Reddit data for analyzing user experiences with ChatGPT in mental health conversations. Firstly, the dataset is restricted to posts and comments made up until December 1, 2023, thereby excluding more recent discussions and developments, such as the release of GPT-4o on May 13, 2024, and any subsequent changes in OpenAI’s policies. This temporal limitation may result in the omission of relevant insights that could influence the findings.
Secondly, while Reddit encompasses a vast user base, it does not represent the full spectrum of experiences related to ChatGPT’s use in mental health contexts. The analysis is confined to the perspectives of individuals who chose to share their experiences on the platform, potentially introducing selection bias. Furthermore, although the data provides a broad overview of user interactions, it may lack the depth necessary to fully understand the complexities of users’ conversational experiences and their underlying mental health struggles. The research team took care to interpret the posts without making assumptions about users’ mental health statuses, engaging in collaborative discussions to ensure a nuanced understanding of the quotes analyzed.