تكيف الواجهة المعتمدة على العواطف في التطبيقات المحمولة بناءً على علم نفس الألوان والتعرف على حالة المستخدم متعددة الوسائط
Emotion-Aware Interface Adaptation in Mobile Applications Based on Color Psychology and Multimodal User State Recognition

المجلة: Frontiers in Artificial Intelligence Research، المجلد: 2، العدد: 1
DOI: https://doi.org/10.71465/fair241
تاريخ النشر: 2025-05-24
المؤلف: Zhenyun Du وآخرون
الموضوع الرئيسي: إدراك اللون والتصميم

نظرة عامة

تستكشف هذه الدراسة تكيف واجهات تطبيقات الهواتف المحمولة لتتوافق مع الحالات العاطفية للمستخدمين، باستخدام مبادئ علم نفس الألوان والتعرف على العواطف متعددة الوسائط. تم تطوير نظام نموذج أولي لتصنيف الحالات العاطفية من خلال تعبيرات الوجه، وخصائص الصوت، وسلوكيات التفاعل، مما أدى إلى تعديل العناصر المرئية مثل ألوان الخلفية وإطار المحتوى. تم تقييم دراسة مستخدمين محكومة مع 36 مشاركًا لثلاثة إصدارات من الواجهة تتوافق مع نغمات عاطفية مميزة: سعيد، حزين، وغاضب. أشارت النتائج إلى أن الواجهات المتوافقة مع العواطف الإيجابية أو ذات الإثارة المنخفضة عمومًا حققت رضا أعلى من المستخدمين وزيادة في التفاعل، بينما تلك التي تعكس عواطف سلبية ذات إثارة عالية، على الرغم من توافقها مع مزاج المستخدمين، أدت إلى جلسات تفاعل أقصر وانخفاض في الانخراط.

تشير النتائج إلى أنه بينما يمكن أن يعزز مطابقة نغمة الواجهة مع مزاج المستخدم الراحة والتوافق، فإن الحذر ضروري عند التعامل مع العواطف السلبية لمنع تعزيز الانفصال. تدعو الدراسة إلى نهج دقيق في التكيف العاطفي في تصميم الواجهة، مقترحة أن التعديلات المرئية الدقيقة يمكن أن تدعم فعالية تفاعل المستخدم دون تخصيص متطفل. بشكل عام، تسهم الأبحاث في مجال تصميم الواجهات من خلال إثبات أن حتى التعديلات المرئية الحساسة للعواطف يمكن أن تؤثر بشكل كبير على إدراك المستخدم وأنماط التفاعل في سياقات مشحونة عاطفيًا.

مقدمة

تسلط المقدمة الضوء على التأثير الكبير للعاطفة على تفاعلات المستخدمين مع تطبيقات الهواتف المحمولة، خاصة على منصات مثل Xiaohongshu (الكتاب الأحمر الصغير)، حيث يؤثر السياق العاطفي على اكتشاف المحتوى وسلوك التسوق. تؤكد على أنه بينما تعمل واجهة المستخدم كحاوية بصرية، فإنها تعمل أيضًا كطبقة عاطفية تشكل إدراك المستخدم واتخاذ القرار. تفتقر الواجهات المحمولة الحالية إلى القدرة على التكيف مع تقلبات العواطف لدى المستخدمين، على الرغم من الأدلة من أبحاث تفاعل الإنسان مع الكمبيوتر (HCI) التي تشير إلى أن العواطف تؤثر على الانتباه والانخراط وسلوك التمرير. لقد مكنت التقدمات الأخيرة في التعرف على العواطف من تصنيف الحالات العاطفية من خلال نماذج خفيفة الوزن تستخدم تعبيرات الوجه، ونغمات الصوت، وديناميات اللمس، مما يعزز أداء الكشف في السيناريوهات الواقعية.

تناقش هذه الفقرة أيضًا آثار علم نفس الألوان في تصميم الواجهة، مشيرة إلى أن نغمات الألوان المحددة يمكن أن تؤثر على الاستجابات المعرفية والسلوكية. تعزز الألوان الدافئة مثل الأحمر والبرتقالي الانتباه البصري، بينما تعزز الألوان الباردة مثل الأزرق الانخراط المطول. يمكن أن يؤدي توافق نظام ألوان الواجهة مع الحالة العاطفية للمستخدم إلى تحسين الثقة والراحة، خاصة في بيئات البيع بالتجزئة. على الرغم من هذه النتائج، لا يزال دمج التصميم المستجيب للعواطف في واجهات التجارة الاجتماعية غير مستكشف بشكل كافٍ. تهدف هذه الأبحاث إلى سد هذه الفجوة من خلال تطوير نظام استشعار عاطفي متكيف مع الهواتف المحمولة يتضمن خط أنابيب للتعرف على العواطف متعددة الوسائط ونموذج تخطيط الألوان استنادًا إلى المبادئ النفسية. يتم وضع الدراسة في سياق تطبيق على نمط Xiaohongshu، بهدف تعزيز تفاعل المستخدم من خلال تعديل تقديم الواجهة ديناميكيًا لتعكس الحالات العاطفية للمستخدمين.

الطرق

تستقصي الدراسة تأثير واجهة مستخدم (UI) متكيفة عاطفيًا على تفاعل المستخدم، والرضا، والتوافق العاطفي في تطبيقات وسائل التواصل الاجتماعي المحمولة. تم تطوير نموذج أولي محمول يستخدم استشعار العواطف متعددة الوسائط – بما في ذلك تعبيرات الوجه، ونغمة الكلام، وإيقاع التفاعل – جنبًا إلى جنب مع نموذج تخطيط الألوان والعواطف المستمد من الأبحاث النفسية. قامت واجهة المستخدم بتغيير لون الخلفية، وإطار المحتوى، والرموز بشكل ديناميكي بناءً على الحالة العاطفية المكتشفة للمستخدم، مستهدفة ثلاث عواطف: سعيد، حزين، وغاضب، كل منها مرتبط بنظام بصري فريد.

لتقييم فعالية هذه الواجهة المتكيفة، تم تنفيذ تصميم داخل الموضوع مع 36 مشاركًا (18 أنثى، 18 ذكر، تتراوح أعمارهم بين 18-34)، الذين اختبروا جميع إصدارات واجهة المستخدم الثلاثة في تسلسل عشوائي. تم تحفيز الحالات العاطفية من خلال تقنيات تحفيز الوسائط المتعددة، بما في ذلك مقاطع الفيديو والمقاطع الصوتية المنسقة المصممة لاستحضار عواطف محددة (مثل الموسيقى المبهجة للسعادة). استمرت كل حالة لمدة أربع دقائق، حيث تفاعل المشاركون مع التطبيق ثم أكملوا استبيانًا قصيرًا لتقييم تجاربهم. تهدف هذه المقاربة المنهجية إلى عزل تأثيرات اللون وإطار العاطفة مع الحفاظ على عناصر المحتوى ثابتة عبر الحالات.

النتائج

تشير نتائج الدراسة إلى أن واجهة المستخدم المتكيفة (UI) عززت بشكل كبير كل من التجربة الذاتية والانخراط السلوكي، خاصة تحت ظروف عاطفية سعيدة وحزينة. حصلت واجهة المستخدم السعيدة على أعلى تقييم للرضا (المتوسط = 4.56) والتوافق العاطفي (المتوسط = 4.41)، بالإضافة إلى زيادة عدد أحداث التفاعل لكل جلسة (المتوسط = 16.2). بالمقابل، تم إدراك واجهة المستخدم الحزينة على أنها هادئة ولطيفة بصريًا، على الرغم من انخفاض الانخراط قليلاً (المتوسط = 14.7). بينما كانت واجهة المستخدم الغاضبة، على الرغم من أنها تعكس العاطفة المقصودة بدقة، قد حصلت على رضا أقل (المتوسط = 3.51) وأظهرت أعلى معدل خروج من الجلسة (18.1%)، مما يشير إلى أن العواطف السلبية ذات الإثارة العالية قد تتطلب استراتيجيات إضافية للتخفيف العاطفي.

أكد التحليل الإحصائي باستخدام ANOVA للقياسات المتكررة وجود اختلافات كبيرة عبر الحالات العاطفية (p < 0.01). وأكدت التعليقات النوعية من المستخدمين هذه النتائج، مع أوصاف لواجهة المستخدم السعيدة بأنها "مبهجة" وواجهة المستخدم الحزينة بأنها "هادئة ومريحة". على العكس، تم وصف واجهة المستخدم الغاضبة بأنها "دقيقة بصريًا ولكن مرهقة عاطفيًا." تسلط هذه الرؤى الضوء على الحاجة الملحة لتحقيق توازن بين التوافق العاطفي وآليات التخفيف النفسي في تصميم الواجهة، خاصة في السياقات التي تتضمن عواطف سلبية ذات إثارة عالية. بشكل عام، تؤكد الدراسة على إمكانية تصميم واجهات مستخدم تستجيب للعواطف لتعزيز التوافق العاطفي ورضا المستخدم، خاصة من خلال تطبيق علم نفس الألوان في استراتيجيات التعديل البصري.

المناقشة

تسلط قسم المناقشة في هذه الورقة البحثية الضوء على الأهمية المتزايدة للتعرف على العواطف في تطبيقات الهواتف المحمولة، مشيرًا إلى إمكانيته في تعزيز تجربة المستخدم من خلال واجهات متكيفة. لقد مكنت التقدمات الأخيرة النماذج المحسنة للهواتف المحمولة من تحديد الحالات العاطفية بدقة استنادًا إلى تعبيرات الوجه، ونغمات الصوت، وأنماط التفاعل، متجاوزة الإعدادات التقليدية في المختبر. كما تشير الورقة إلى التطبيقات المحدودة ولكن الواعدة للواجهات المتكيفة التي تعدل العناصر المرئية – مثل التخطيط وأنظمة الألوان – استجابةً لعواطف المستخدم، مما يشير إلى أن هذه التعديلات يمكن أن تحسن راحة المستخدم وتركيزه.

تقدم الدراسة نظام واجهة متكيفة عاطفيًا جديدًا يقوم بتغيير تقديمه المرئي ديناميكيًا استنادًا إلى المدخلات العاطفية في الوقت الحقيقي. يستخدم هذا النظام نهجًا متعدد الوسائط للتعرف على العواطف، حيث يدمج بيانات الوجه والصوت والتفاعل لتصنيف عواطف المستخدمين إلى ست فئات. يتماشى نموذج تخطيط الألوان العاطفية اللاحق مع حالات عاطفية محددة مع تكوينات لونية مميزة، مستندة إلى علم نفس الألوان. يطبق آلية العرض المتكيفة هذه التغييرات اللونية بسلاسة، مما يضمن استمرارية في التخطيط مع تحقيق تغييرات ملحوظة في النغمة العاطفية.

أظهر تقييم النظام أن الواجهات المصممة لتناسب العواطف الإيجابية أو ذات الإثارة المنخفضة عمومًا أدت إلى رضا أعلى من المستخدمين وأوقات انخراط أطول. على العكس، كانت الواجهات التي تعكس الغضب، على الرغم من أنها تعكس عواطف المستخدم بدقة، مرتبطة بانخفاض الانخراط وخروج أسرع. يشير هذا إلى أنه بينما يعد التوافق العاطفي مهمًا، إلا أنه قد لا يعزز دائمًا قابلية الاستخدام، خاصة في السياقات العاطفية السلبية. تدعو النتائج إلى إجراء تعديلات بصرية دقيقة تعترف بعواطف المستخدم دون إرباكهم، مما يشير إلى أن حتى التغييرات المرئية الصغيرة والمتوافقة يمكن أن تؤثر بشكل كبير على تفاعل المستخدم وإدراكه في تطبيقات الهواتف المحمولة.

Journal: Frontiers in Artificial Intelligence Research, Volume: 2, Issue: 1
DOI: https://doi.org/10.71465/fair241
Publication Date: 2025-05-24
Author(s): Zhenyun Du et al.
Primary Topic: Color perception and design

Overview

This study explores the adaptation of mobile application interfaces to align with users’ emotional states, utilizing principles of color psychology and multimodal emotion recognition. A prototype system was developed to classify emotional states through facial expressions, vocal characteristics, and interaction behaviors, subsequently modifying visual elements such as background colors and content framing. A controlled user study with 36 participants assessed three interface versions corresponding to distinct emotional tones: Happy, Sad, and Angry. Results indicated that interfaces aligned with positive or low-arousal emotions generally yielded higher user satisfaction and prolonged engagement, while those reflecting high-arousal negative emotions, despite matching users’ moods, led to shorter interaction sessions and decreased engagement.

The findings suggest that while matching interface tone to user mood can enhance comfort and alignment, caution is necessary when addressing negative emotions to prevent reinforcing disengagement. The study advocates for a nuanced approach to emotional adaptation in interface design, proposing that subtle visual adjustments can effectively support user engagement without intrusive personalization. Overall, the research contributes to the field of interface design by demonstrating that even minor, affect-sensitive visual modifications can significantly influence user perception and interaction patterns in emotionally charged contexts.

Introduction

The introduction highlights the significant impact of emotion on user interactions with mobile applications, particularly on platforms like Xiaohongshu (Little Red Book), where emotional context influences content discovery and shopping behavior. It emphasizes that while the user interface serves as a visual container, it also functions as an affective layer that shapes user perception and decision-making. Current mobile interfaces lack the ability to adapt to users’ emotional fluctuations, despite evidence from human-computer interaction (HCI) research indicating that emotions affect attention, engagement, and scrolling behavior. Recent advancements in emotion recognition have enabled the classification of affective states through lightweight models that utilize facial expressions, vocal tones, and touch dynamics, enhancing detection performance in real-world scenarios.

The section further discusses the implications of color psychology in interface design, noting that specific color tones can influence cognitive and behavioral responses. Warm colors like red and orange enhance visual attention, while cooler tones like blue promote prolonged engagement. Aligning an interface’s color scheme with a user’s emotional state can improve trust and comfort, particularly in retail environments. Despite these findings, the integration of emotion-responsive design in social commerce interfaces remains underexplored. This research aims to bridge this gap by developing a mobile-adapted emotion sensing system that incorporates a multimodal affect recognition pipeline and a color mapping model based on psychological principles. The study is contextualized within a Xiaohongshu-style app, aiming to enhance user engagement by dynamically adjusting interface presentation to reflect users’ emotional states.

Methods

The study investigates the impact of an emotionally adaptive user interface (UI) on user engagement, satisfaction, and emotional congruence in mobile social media applications. A mobile prototype was developed that utilizes multimodal emotion sensing—incorporating facial expressions, speech tone, and interaction rhythm—alongside a color-emotion mapping model derived from psychological research. The UI dynamically altered its background color, content framing, and iconography based on the user’s detected emotional state, specifically targeting three emotions: Happy, Sad, and Angry, each associated with a unique visual scheme.

To evaluate the effectiveness of this adaptive interface, a within-subject design was implemented with 36 participants (18 female, 18 male, ages 18-34), who experienced all three UI versions in a randomized sequence. Emotional states were induced through multimedia priming techniques, including curated videos and audio clips tailored to evoke specific emotions (e.g., upbeat music for happiness). Each condition lasted four minutes, during which participants interacted with the app and subsequently completed a brief questionnaire to assess their experiences. This methodological approach aims to isolate the effects of color and emotional framing while maintaining constant content elements across conditions.

Results

The results of the study indicate that the adaptive user interface (UI) significantly enhanced both subjective experience and behavioral engagement, particularly under Happy and Sad emotional conditions. The Happy UI received the highest satisfaction rating (mean = 4.56) and emotional alignment (mean = 4.41), along with an increased number of interaction events per session (mean = 16.2). In contrast, the Sad UI was perceived as calm and visually gentle, albeit with slightly lower engagement (mean = 14.7). The Angry UI, while accurately reflecting the intended emotion, garnered lower satisfaction (mean = 3.51) and exhibited the highest session exit rate (18.1%), suggesting that high-arousal negative emotions may necessitate additional emotional buffering strategies.

Statistical analysis using repeated-measures ANOVA confirmed significant differences across the emotional conditions (p < 0.01). Qualitative feedback from users corroborated these findings, with descriptions of the Happy UI as "uplifting" and the Sad UI as "quiet and comforting." Conversely, the Angry UI was characterized as "visually accurate but emotionally draining." These insights highlight the critical need to balance emotional congruence with psychological relief mechanisms in interface design, especially in contexts involving high-arousal negative emotions. Overall, the study underscores the potential of emotion-responsive UI design to enhance affective alignment and user satisfaction, particularly through the application of color psychology in visual modulation strategies.

Discussion

The discussion section of this research paper highlights the growing significance of emotion recognition in mobile applications, emphasizing its potential to enhance user experience through adaptive interfaces. Recent advancements have enabled mobile-optimized models to accurately identify emotional states based on facial expressions, vocal tones, and interaction patterns, moving beyond traditional lab settings. The paper also notes the limited but promising implementations of adaptive interfaces that modify visual elements—such as layout and color schemes—in response to user emotions, suggesting that these adjustments can improve user comfort and focus.

The study introduces a novel emotion-adaptive interface system that dynamically alters its visual presentation based on real-time emotional input. This system employs a multimodal approach to emotion recognition, integrating facial, vocal, and interaction data to classify user emotions into six categories. The subsequent emotion-color mapping model aligns specific emotional states with distinct color configurations, grounded in color psychology. The adaptive rendering mechanism applies these color changes smoothly, ensuring continuity in layout while achieving noticeable emotional tone shifts.

Evaluation of the system revealed that interfaces tailored to positive or low-arousal emotions generally resulted in higher user satisfaction and longer engagement times. Conversely, interfaces reflecting anger, while accurately mirroring user emotions, were associated with reduced engagement and quicker exits. This suggests that while emotional alignment is important, it may not always enhance usability, particularly in negative emotional contexts. The findings advocate for subtle visual adjustments that acknowledge user emotions without overwhelming them, indicating that even minor, well-matched visual changes can significantly influence user interaction and perception in mobile applications.