الحرباء لا تنسى: التعلم المستمر القائم على التحفيز عبر الإنترنت لتوقع النشاط التالي Chameleons Do Not Forget: Prompt–Based Online Continual Learning for Next Activity Prediction

شارك:
المجلة: International Journal of Cooperative Information Systems، المجلد: 35، العدد: 1
DOI: https://doi.org/10.1142/s0218843026500036
تاريخ النشر: 2026-03-01
المؤلف: Marwan Hassani وآخرون
الموضوع الرئيسي: نمذجة وتحليل العمليات التجارية

نظرة عامة

تناقش هذه القسم تطوير وتقييم نهج جديد لرصد العمليات التنبؤية، يسمى التنبؤ بالنشاط التالي المستمر مع المطالبات (CNAPwP). يعالج هذا الأسلوب التحديات المتعلقة بتوقع مسارات العمليات المستقبلية في البيئات الديناميكية، مع التركيز بشكل خاص على التخفيف من النسيان الكارثي – وهو ظاهرة حيث تفقد النماذج الأداء على البيانات التي تم تعلمها سابقًا عند تدريبها على توزيعات بيانات جديدة. يقوم CNAPwP بتكييف خوارزمية DualPrompt لتعزيز الدقة والقدرة على التكيف في توقعات النشاط التالي. يقدم المؤلفون مجموعات بيانات جديدة تتميز بتغيرات المفاهيم المتكررة ومقياس نسيان محدد للمهمة لتقييم دقة التنبؤ بمرور الوقت. تظهر النتائج التجريبية أن CNAPwP يحقق أداءً رائدًا أو تنافسيًا عبر مجموعات بيانات مختلفة، مما يشير إلى إمكانيته للتطبيقات في العالم الحقيقي.

في الخاتمة، يبرز المؤلفون فعالية CNAPwP، مشيرين إلى دقته المتوسطة المتفوقة على مجموعات بيانات متعددة ونسيان ضئيل مقارنة بالأساليب الحالية. يعترفون بالحاجة إلى العمل المستقبلي لتضمين آليات قوية لاكتشاف تغير المفاهيم واستكشاف طرق مقارنة المهام البديلة لتحسين الكفاءة. بالإضافة إلى ذلك، يحددون علاقة بين تعقيد سجلات الأحداث ووقت المعالجة، مما يشير إلى أن استراتيجية التجميع الحالية قد تعيق التوازي. يجب أن تركز الأبحاث المستقبلية على تحسين استراتيجيات المطالبات لتحقيق توازن بين الدقة والكفاءة الحسابية في البيئات الديناميكية المعقدة.

مقدمة

تؤكد مقدمة الورقة على أهمية رصد العمليات التنبؤية (PPM) في تمكين المنظمات من التنبؤ ديناميكيًا بالمسارات المستقبلية لحالات العمليات الفردية. تعتبر هذه القدرة ضرورية بشكل خاص لتوقع النشاط التالي، مما يسمح للمنظمات بإدارة الموارد بشكل استباقي وتحسين العمليات، مما يعزز في النهاية رضا العملاء. يبرز المؤلفون مزايا PPM عبر الإنترنت مقارنة بالأساليب غير المتصلة، مشيرين إلى أن النماذج عبر الإنترنت يمكن أن تتعلم باستمرار وتتكيف مع البيانات في الوقت الحقيقي، مما يحسن الاستجابة للظروف المتغيرة. ومع ذلك، فإن التحدي الرئيسي في هذا السياق هو خطر النسيان الكارثي، حيث يمكن أن تكتب البيانات الجديدة على المعلومات التي تم تعلمها سابقًا، مما يهدد دقة النموذج.

لمعالجة هذه التحديات، يقترح المؤلفون إطار عمل يسمى التنبؤ بالنشاط التالي المستمر مع المطالبات (CNAPwP)، والذي يدمج ميزات محددة للمهمة وغير المحددة للمهمة للتخفيف من النسيان الكارثي. يهدف الإطار إلى الحفاظ على فهم شامل لتوزيعات البيانات المتطورة مع التعامل بشكل فعال مع الاعتماد الزمني والأنماط طويلة الأجل. تشمل المساهمات الرئيسية للورقة تقديم إطار عمل جديد يستخدم المطالبات للتكيف الديناميكي، وتطوير مقياس تقييم “نسيان محدد للمهمة”، وإنشاء مجموعات بيانات جديدة مصممة لرصد العمليات التنبؤية عبر الإنترنت. كما توضح الورقة هيكلها، موضحة الأقسام اللاحقة التي تغطي الأعمال ذات الصلة، والمفاهيم الأساسية، والإطار المقترح، وإعداد التجارب، وتحليل النتائج.

طرق

تضمن إعداد التجربة ترتيبًا منهجيًا للمعدات والبروتوكولات المصممة لاختبار الفرضيات الموضحة في الدراسة. تضمنت المكونات الرئيسية [الأدوات أو التقنيات المحددة المستخدمة]، والتي تم معايرتها لضمان الدقة والموثوقية في القياسات. تم التحكم في البيئة لتقليل المتغيرات الخارجية التي قد تؤثر على النتائج، مثل درجة الحرارة والرطوبة.

تم جمع البيانات باستخدام [وصف طريقة جمع البيانات، مثل المستشعرات، الاستطلاعات]، مما يسمح بتحليل شامل للمتغيرات ذات الصلة. تم تحديد حجم العينة بناءً على [شرح كيفية حساب حجم العينة، إذا كان ذلك ممكنًا]، مما يضمن أن النتائج ستكون ذات دلالة إحصائية. التزمت المنهجية بالبروتوكولات المعتمدة للحفاظ على سلامة البيانات وتسهيل إعادة إنتاج النتائج.

نتائج

تسلط نتائج التقييم المقدمة في الجدول 3 الضوء على الدقة المتوسطة لمختلف الأساليب عبر مجموعات بيانات مختلفة، مما يكشف أن الأداء يعتمد على خصائص مجموعة البيانات. من الجدير بالذكر أن طريقة TFCLPM تظهر فعالية متفوقة على مجموعات بيانات ImbalancedTasks و BPIC2017، خاصة في السياقات التي تتميز بعدد أقل من المهام أو تغيرات نادرة. على العكس، تحقق طريقة CNAPwP، التي اقترحها المؤلفون، أعلى دقة متوسطة على مجموعات بيانات RandomTasks و RecurrentTasks، متجاوزة جميع الأساليب الأساسية. تؤكد هذه النتيجة فعالية النهج القائم على المطالبات في السيناريوهات التي تتضمن تكرارًا منظمًا أو دفعات مهام عشوائية.

تُقاس النتائج بدقة متوسطة والانحراف المعياري المحسوب على مدى خمس جولات لكل مجموعة تقييم، مع تمييز أعلى قيم الدقة بالخط العريض، بينما يتم تمييز الثانية والثالثة بأحرف مائلة وتحتها خط، على التوالي. تؤكد هذه التقييم المنهجي على نقاط القوة لطريقة CNAPwP المقترحة في بيئات المهام المحددة، مما يشير إلى إمكانياتها لتطبيقات أوسع في سياقات مماثلة.

مناقشة

في مناقشة التعلم المستمر، توضح الورقة منهجيات متنوعة تهدف إلى تمكين نماذج التعلم الآلي من التكيف والتعلم مع مرور الوقت، على غرار عمليات التعلم البشري. يتم تصنيف الأساليب إلى طرق قائمة على الذاكرة، وطرق قائمة على الهيكل، وطرق قائمة على التنظيم، وطرق قائمة على المطالبات. تركز التقنيات القائمة على الذاكرة على تخزين التجارب السابقة، مع طرق مثل إعادة تشغيل التجارب وإعادة التشغيل التوليدي التي تمثل هذه الفئة. تهدف طرق التنظيم، مثل دمج الوزن المرن، إلى التخفيف من النسيان الكارثي من خلال تقييد تحديثات الوزن بناءً على أهمية المعلمات. تعد الأساليب القائمة على الهيكل، بما في ذلك الشبكات العصبية التقدمية، تعديلات هيكل النموذج لاستيعاب المهام الجديدة مع الحفاظ على المعرفة السابقة. تستخدم الأساليب القائمة على المطالبات، وهي إضافة جديدة، مطالبات ثابتة أو قابلة للتكيف لتوجيه سلوك النموذج، مع كون DualPrompt مثالًا بارزًا يستخدم مطالبات غير محددة للمهمة ومحددة للمهمة لتعزيز التعلم المستمر في تصنيف الصور.

تؤكد الورقة على أهمية معالجة التحديات مثل النسيان الكارثي وتغير المفاهيم في أطر التعلم المستمر. تقدم تعريفات للمفاهيم الرئيسية، بما في ذلك التعلم التدريجي للمهام وتغير المفاهيم، مما يبرز الحاجة إلى أن تحتفظ النماذج بالمعرفة من المهام السابقة أثناء دمج المعلومات الجديدة. يهدف خوارزم التعلم المستمر المقترح لتوقع النشاط التالي إلى معالجة تدفقات الأحداث بكفاءة، وتوقع الأنشطة في الوقت الحقيقي، والتكيف مع المهام المتطورة دون فقدان المعرفة المكتسبة سابقًا. يتم تفصيل هيكل نموذج CNAPwP، مع عرض مكوناته لمعالجة البيانات المسبقة، وإدارة النوافذ، واكتشاف المطالبات، والتنبؤ، جميعها مصممة لتعزيز قدرة النموذج على التعلم المستمر والتنبؤ بدقة بالأنشطة المستقبلية في البيئات الديناميكية.

Journal: International Journal of Cooperative Information Systems, Volume: 35, Issue: 1
DOI: https://doi.org/10.1142/s0218843026500036
Publication Date: 2026-03-01
Author(s): Marwan Hassani et al.
Primary Topic: Business Process Modeling and Analysis

Overview

The section discusses the development and evaluation of a novel approach for predictive process monitoring, termed Continual Next Activity Prediction with Prompts (CNAPwP). This method addresses the challenges of predicting future process trajectories in dynamic environments, particularly focusing on mitigating catastrophic forgetting—a phenomenon where models lose performance on previously learned data when trained on new data distributions. CNAPwP adapts the DualPrompt algorithm to enhance accuracy and adaptability in next activity predictions. The authors introduce new datasets characterized by recurring concept drifts and a task-specific forgetting metric to assess prediction accuracy over time. Experimental results demonstrate that CNAPwP achieves state-of-the-art or competitive performance across various datasets, indicating its potential for real-world applications.

In the conclusion, the authors highlight CNAPwP’s effectiveness, noting its superior average accuracy on multiple datasets and minimal forgetting compared to existing methods. They acknowledge the need for future work to incorporate robust concept drift detection mechanisms and explore alternative task comparison methods for improved efficiency. Additionally, they identify a correlation between event log complexity and processing time, suggesting that the current bucketing strategy may hinder parallelization. Future research should focus on optimizing prompting strategies to balance accuracy and computational efficiency in complex, real-time environments.

Introduction

The introduction of the paper emphasizes the significance of predictive process monitoring (PPM) in enabling organizations to dynamically forecast future trajectories of individual process instances. This capability is particularly crucial for next activity prediction, which allows organizations to proactively manage resources and optimize operations, ultimately enhancing customer satisfaction. The authors highlight the advantages of online PPM over offline methods, noting that online models can continuously learn and adapt to real-time data, thereby improving responsiveness to changing conditions. However, a key challenge in this context is the risk of catastrophic forgetting, where new data can overwrite previously learned information, compromising the model’s accuracy.

To address these challenges, the authors propose a framework called Continual Next Activity Prediction with Prompts (CNAPwP), which integrates task-specific and task-invariant features to mitigate catastrophic forgetting. The framework aims to maintain a comprehensive understanding of evolving data distributions while effectively handling temporal dependencies and long-term patterns. Key contributions of the paper include the introduction of a novel framework that utilizes prompts for dynamic adaptation, the development of a “task-specific forgetting” evaluation metric, and the creation of new datasets tailored for online predictive process monitoring. The paper also outlines its structure, detailing subsequent sections that cover related work, foundational concepts, the proposed framework, experimental setup, and results analysis.

Methods

The experimental setup involved a systematic arrangement of equipment and protocols designed to test the hypotheses outlined in the study. Key components included [specific instruments or technologies used], which were calibrated to ensure accuracy and reliability in measurements. The environment was controlled to minimize external variables that could affect the outcomes, such as temperature and humidity.

Data collection was performed using [describe the method of data collection, e.g., sensors, surveys], allowing for a comprehensive analysis of the variables of interest. The sample size was determined based on [explain how the sample size was calculated, if applicable], ensuring that the results would be statistically significant. The methodology adhered to established protocols to maintain the integrity of the data and facilitate reproducibility of the results.

Results

The evaluation results presented in Table 3 highlight the average accuracy of various methods across different datasets, revealing that performance is contingent on dataset characteristics. Notably, the TFCLPM method demonstrates superior effectiveness on the ImbalancedTasks and BPIC2017 datasets, particularly in contexts characterized by fewer tasks or infrequent drifts. Conversely, the CNAPwP method, proposed by the authors, achieves the highest average accuracy on the RandomTasks and RecurrentTasks datasets, surpassing all baseline methods. This finding underscores the efficacy of the prompt-based approach in scenarios involving structured recurrence or randomized task batches.

The results are quantified with average accuracy and standard deviation calculated over five runs for each evaluation set, with the highest accuracy values bolded, while the second and third highest are italicized and underlined, respectively. This systematic evaluation emphasizes the strengths of the proposed CNAPwP method in specific task environments, suggesting its potential for broader applications in similar contexts.

Discussion

In the discussion of continual learning, the paper outlines various methodologies aimed at enabling machine learning models to adapt and learn over time, akin to human learning processes. The approaches are categorized into memory-based, architecture-based, regularization-based, and prompt-based methods. Memory-based techniques focus on storing past experiences, with methods like Experience Replay and Generative Replay exemplifying this category. Regularization methods, such as Elastic Weight Consolidation, aim to mitigate catastrophic forgetting by constraining weight updates based on parameter importance. Architecture-based methods, including Progressive Neural Networks, adjust the model’s structure to accommodate new tasks while preserving prior knowledge. Prompt-based approaches, a newer addition, utilize static or adaptable prompts to guide model behavior, with DualPrompt being a notable example that employs task-invariant and task-specific prompts to enhance continual learning in image classification.

The paper emphasizes the importance of addressing challenges such as catastrophic forgetting and concept drift in continual learning frameworks. It introduces definitions for key concepts, including task incremental learning and concept drift, highlighting the need for models to retain knowledge from previous tasks while integrating new information. The proposed continual learning algorithm for next activity prediction aims to efficiently process event streams, predict activities in real-time, and adapt to evolving tasks without losing previously acquired knowledge. The architecture of the CNAPwP model is detailed, showcasing its components for preprocessing, window handling, prompt detection, and prediction, all designed to enhance the model’s ability to learn continuously and accurately predict future activities in dynamic environments.