DOI: https://doi.org/10.3934/era.2026132
تاريخ النشر: 2026-01-01
المؤلف: Xiaomin Zhong وآخرون
الموضوع الرئيسي: تحليل المشاعر واستخراج الآراء
نظرة عامة
تقدم ورقة البحث نموذجًا جديدًا لتحليل المشاعر القائم على الجوانب (ABSA) الذي يعالج أوجه القصور في الأساليب الحالية، وخاصة هياكلها البسيطة والاستخدام غير الكافي للميزات الدقيقة. يدمج النموذج المقترح ميزات متعددة الدقة من خلال شبكة هرمية، مستخدمًا شبكة تلافيفية رسومية (GCN) لاستخراج المعلومات النحوية والدلالية من الأشجار التركيبية وأشجار الاعتماد، مع دمج المعرفة الخارجية أيضًا. تشمل عملية استخراج الميزات متعددة الدقة أربعة مستويات: الهيكل التركيب، علاقات الاعتماد، الإشارات السياقية، والمعرفة الخارجية. لدمج هذه الميزات المتنوعة بشكل فعال، تم تقديم شبكة دمج ميزات متعددة الطبقات (MLFF) التي تستخدم الانتباه المتقاطع والإسقاط العمودي لتحسين تفاعلات الميزات بشكل تكراري.
تشير النتائج إلى أن نموذج ABSA المقترح يتفوق بشكل كبير على النماذج الحالية، بما في ذلك تلك المعتمدة على LSTM وBERT وRoBERTa، كما يتضح من خلال التجارب الواسعة على مجموعات بيانات SemEval 2014 وTwitter. يعزز دمج ميزات متعددة الدقة الشاملة استخراج ودمج المعلومات على مستوى الجوانب، مما يؤدي إلى تحسين أداء المهام. ستركز اتجاهات البحث المستقبلية على معالجة التحديات المتعلقة بالضوضاء وتكرار البيانات من المعرفة الخارجية واستكشاف طرق أكثر فعالية لاستخراج ودمج الميزات متعددة الدقة.
مقدمة
تناقش مقدمة ورقة البحث أهمية تحليل المشاعر القائم على الجوانب (ABSA) في فهم اتجاهات المشاعر المتعلقة بجوانب أو كيانات معينة داخل النص. على عكس تحليل المشاعر التقليدي، الذي يقيم المشاعر العامة، يركز ABSA على المشاعر المرتبطة بجوانب فردية، مثل “المقبلات” و”الخدمة” في مراجعة فندق. تسلط الورقة الضوء على التحديات التي يواجهها ABSA، وخاصة في نمذجة العلاقات بين الجوانب وآرائها المقابلة، خاصة في الجمل المعقدة حيث يمكن أن تغير الروابط تفسير المشاعر.
لمعالجة هذه التحديات، يقترح المؤلفون نموذج ABSA جديد يدمج ميزات متعددة الدقة، بما في ذلك الهياكل النحوية، علاقات الاعتماد، المعلومات السياقية، والمعرفة الخارجية. يستخدم النموذج وحدة استخراج ميزات متعددة الدقة ووحدة دمج ميزات متعددة الطبقات (MLFF) التي تستخدم تقنيات الانتباه المتقاطع والإسقاط العمودي لتعزيز التفاعل بين أنواع الميزات المختلفة. تظهر النتائج التجريبية على ثلاث مجموعات بيانات مرجعية أن النموذج المقترح يتفوق على الأساليب الحالية الرائدة، محققًا دقة محسنة ودرجات F1، مما يؤكد فعالية المنهجيات المقترحة في التقاط معلومات المشاعر الدقيقة.
طرق
في هذا القسم، يقدم المؤلفون نموذج تحليل المشاعر القائم على الجوانب (ABSA) المقترح، موضحين هيكله ومنهجيته. يدمج النموذج مكونات متنوعة، بما في ذلك مشفر RoBERTa، تضمينات الرسم البياني المعرفي، وتحليل الاعتماد، لتعزيز استخراج ميزات النص. يتم استخدام عمليات رئيسية مثل آليات الانتباه المتقاطع والشبكات العصبية متعددة الطبقات (MLPs) لتحسين أداء النموذج. يتم تمثيل المنهجية بصريًا في الشكل 2، مع تعريف الرموز الأساسية في الجدول 3.
لتحقيق فعالية نموذجهم، أجرى المؤلفون تجارب مقارنة ضد نماذج الأساس باستخدام مشفرات LSTM وBERT وRoBERTa عبر ثلاث مجموعات بيانات عامة. تشير النتائج إلى أن النموذج المقترح يتفوق باستمرار على نماذج الأساس، محققًا تحسينًا متوسطًا بنسبة 3-4% في الدقة (Acc) ودرجات F1 مقارنة بأفضل النماذج أداءً في مجموعة LSTM. ومن الجدير بالذكر أنه في مجموعة بيانات Laptop، يحسن النموذج درجات Acc وF1 بنسبة 1.09% و1.56%، على التوالي، مقارنةً بنموذج KE-IGCN، ويعزز Acc بنسبة 1.05% مقارنةً بنموذج RSSG+BERT في مجموعة بيانات المطعم. بينما تكون الدقة في مجموعة بيانات Laptop أقل قليلاً من تلك الخاصة بـ PRC-GCN، تظل الأداء العام قويًا. تؤكد النتائج قدرة النموذج على استخراج ميزات نصية متعددة الدقة بشكل فعال، مما يؤدي إلى تحسين نتائج تصنيف المشاعر.
مناقشة
في هذا القسم، يناقش المؤلفون التقدم في تحليل المشاعر القائم على الجوانب (ABSA) من خلال دمج نماذج اللغة المدربة مسبقًا والشبكات التلافيفية الرسومية (GCNs). يبرزون فعالية نماذج مثل BERT ونسختها المحسنة RoBERTa، التي تستخدم التعلم غير المراقب على مجموعات نصية كبيرة لتعزيز الأداء عبر مهام معالجة اللغة الطبيعية المختلفة. على الرغم من نجاحاتها، تواجه هذه النماذج قيودًا في التقاط القيود النحوية الصريحة والاعتماد على المدى الطويل الضروري لمواءمة الجوانب مع كلمات الرأي. يستكشف المؤلفون أيضًا GCNs، التي تستفيد من الأشجار النحوية لدمج المعلومات النحوية الصريحة، مصنفين الأساليب الحالية إلى تلك المعتمدة على أشجار الاعتماد وتلك المعتمدة على الأشجار التركيبية. بينما أظهرت النماذج الهجينة وعدًا، فإنها غالبًا ما تعتمد على استراتيجيات دمج سطحية تفشل في التقاط التفاعلات العميقة بين الميزات وتغفل دمج المعرفة الخارجية، مما يؤدي إلى تكرار محتمل وصراع.
لمعالجة هذه القيود، يقترح المؤلفون نموذج ABSA جديد يستخدم إطار استخراج ميزات متعددة الدقة مع وحدة دمج ميزات متعددة الطبقات (MLFF) متطورة. يدمج هذا النموذج الميزات السياقية من RoBERTa، والميزات النحوية من كل من GCNs المعتمدة على الجوانب والأشجار التركيبية، والمعرفة الخارجية لتعزيز تصنيف المشاعر. تستخدم وحدة MLFF تقنيات الانتباه المتقاطع والإسقاط العمودي لتسهيل التفاعلات الأعمق بين الميزات، مما يقلل من التكرار ويحسن الكفاءة الحسابية. يتم تقييم النموذج المقترح على مجموعات بيانات مرجعية، مما يوضح فعاليته في التقاط العلاقات المعقدة للمشاعر وتفوقه على النماذج الحالية في مهام تصنيف المشاعر.
DOI: https://doi.org/10.3934/era.2026132
Publication Date: 2026-01-01
Author(s): Xiaomin Zhong et al.
Primary Topic: Sentiment Analysis and Opinion Mining
Overview
The research paper presents a novel model for aspect-based sentiment analysis (ABSA) that addresses the shortcomings of existing approaches, particularly their simplistic structures and inadequate utilization of fine-grained features. The proposed model integrates multi-granularity features through a hierarchical network, employing a graph convolutional network (GCN) to extract syntactic and semantic information from constituent and dependency trees, while also incorporating external knowledge. This multi-granularity feature extraction encompasses four levels: constituent structure, dependency relations, contextual cues, and external knowledge. To fuse these diverse features effectively, a multi-layer feature fusion network (MLFF) is introduced, which utilizes cross attention and orthogonal projection for iterative refinement of feature interactions.
The findings indicate that the proposed ABSA model significantly outperforms existing models, including those based on LSTM, BERT, and RoBERTa, as demonstrated through extensive experiments on the SemEval 2014 and Twitter datasets. The integration of comprehensive multi-granularity features enhances the extraction and fusion of aspect-level information, leading to improved task performance. Future research directions will focus on addressing challenges related to noise and data redundancy from external knowledge and exploring more effective methods for multi-granularity feature extraction and fusion.
Introduction
The introduction of the research paper discusses the significance of aspect-based sentiment analysis (ABSA) in understanding sentiment tendencies related to specific aspects or entities within text. Unlike traditional sentiment analysis, which evaluates overall sentiment, ABSA focuses on the sentiment associated with individual aspects, such as “appetizers” and “service” in a hotel review. The paper highlights the challenges faced by ABSA, particularly in modeling the relationships between aspects and their corresponding opinions, especially in complex sentences where conjunctions can alter sentiment interpretation.
To address these challenges, the authors propose a novel ABSA model that integrates multi-granularity features, including syntactic structures, dependency relationships, contextual information, and external knowledge. The model employs a multi-granularity feature extraction module and a multi-layer feature fusion (MLFF) module that utilizes cross attention and orthogonal projection techniques to enhance the interaction among different feature types. Experimental results on three benchmark datasets demonstrate that the proposed model outperforms existing state-of-the-art approaches, achieving improved accuracy and F1-scores, thereby confirming the effectiveness of the proposed methodologies in capturing nuanced sentiment information.
Methods
In this section, the authors present their proposed Aspect-Based Sentiment Analysis (ABSA) model, detailing its architecture and methodology. The model integrates various components, including a RoBERTa encoder, knowledge graph embeddings, and dependency parsing, to enhance text feature extraction. Key processes such as cross-attention mechanisms and multi-layer perceptrons (MLPs) are employed to refine the model’s performance. The methodology is visually represented in Figure 2, with essential symbols defined in Table 3.
To validate the effectiveness of their model, the authors conducted comparative experiments against baseline models utilizing LSTM, BERT, and RoBERTa encoders across three public datasets. Results indicate that the proposed model consistently outperforms baseline models, achieving an average improvement of 3-4% in accuracy (Acc) and F1 scores compared to the best-performing models in the LSTM group. Notably, on the Laptop dataset, the model improves Acc and F1 scores by 1.09% and 1.56%, respectively, over the KE-IGCN model, and enhances Acc by 1.05% over the RSSG+BERT model on the Restaurant dataset. While the Acc on the Laptop dataset is slightly lower than that of PRC-GCN, the overall performance remains strong. The findings underscore the model’s capability to effectively extract multi-granularity text features, leading to improved sentiment classification outcomes.
Discussion
In this section, the authors discuss advancements in aspect-based sentiment analysis (ABSA) through the integration of pre-trained language models and graph convolutional networks (GCNs). They highlight the effectiveness of models like BERT and its optimized variant RoBERTa, which utilize unsupervised learning on large text corpora to enhance performance across various NLP tasks. Despite their successes, these models face limitations in capturing explicit syntactic constraints and long-range dependencies essential for aligning aspects with opinion words. The authors also explore GCNs, which leverage syntactic trees to incorporate explicit syntactic information, categorizing existing approaches into those based on dependency trees and those based on constituent trees. While hybrid models have shown promise, they often rely on shallow fusion strategies that fail to capture deep interactions between features and neglect the integration of external knowledge, leading to potential redundancy and conflict.
To address these limitations, the authors propose a novel ABSA model that employs a multi-granularity feature extraction framework combined with a sophisticated multi-layer feature fusion (MLFF) module. This model integrates contextual features from RoBERTa, syntactic features from both constituent and dependency-based GCNs, and external knowledge to enhance sentiment classification. The MLFF module utilizes cross-attention and orthogonal projection techniques to facilitate deeper interactions among features, thereby reducing redundancy and improving computational efficiency. The proposed model is evaluated on benchmark datasets, demonstrating its effectiveness in capturing complex sentiment relationships and outperforming existing models in sentiment classification tasks.