السياق هو المفتاح للأمن السيبراني: الاستفادة من المعرفة الخارجية لشرح نماذج العمليات عبر LLMs Context is key for cybersecurity: leveraging external knowledge for process model explanation via LLMs

شارك:
المجلة: International Journal of Information Security، المجلد: 25، العدد: 4
DOI: https://doi.org/10.1007/s10207-026-01245-x
تاريخ النشر: 2026-06-15
المؤلف: Linda Maria Kölbel وآخرون
الموضوع الرئيسي: نمذجة وتحليل العمليات التجارية

نظرة عامة

تسلط الأبحاث الضوء على فجوة كبيرة بين تصميم العمليات التشغيلية ومتطلبات تنظيم الأمن، مما يشكل خطرًا على الأمن السيبراني. نماذج العمليات التجارية، رغم أنها منظمة، غالبًا ما تفتقر إلى التكامل مع المعرفة الخارجية مثل المعايير الصناعية والسياسات التنظيمية اللازمة لتقييم الأمان والامتثال التنظيمي. لسد هذه الفجوة، يقترح المؤلفون إطار “الأمان من خلال التصميم” الذي يستخدم نماذج اللغة الكبيرة (LLMs) لدمج ترميز نماذج العمليات التجارية المنظمة (BPMN) مع المعايير الأمنية الخارجية غير المنظمة، كما هو موضح في ISO 27001.

تم التحقق من صحة الإطار من خلال حالة استخدام في أمان الإنترنت الصناعي (IIoT)، باستخدام معيار IEC 62443-3. أشارت النتائج إلى أن دمج السياق الخارجي، خاصة من خلال استراتيجيات التحفيز المتنوعة، حسّن بشكل كبير من جودة ودقة المخرجات التي تم إنشاؤها بواسطة LLM. تشمل اتجاهات البحث المستقبلية تعزيز التعاون بين الإنسان والذكاء الاصطناعي في إدارة العمليات من خلال التركيز على التخفيف من الأخطاء وتقدير الثقة. تشمل الاستراتيجيات المقترحة التحفيز متعدد الخطوات لأخطاء التفكير وتقنيات المعالجة المسبقة لمسارات BPMN المعقدة. بالإضافة إلى ذلك، يتصور المؤلفون نظامًا حيث تستفسر LLMs بشكل مستقل عن قواعد المعرفة المؤسسية للمعايير واللوائح ذات الصلة، مما يحول إدارة الامتثال وفهم العمليات. مع استمرار تقدم قدرات LLM، يمثل هذا النهج طريقًا واعدًا لأتمتة المهام الحيوية في إدارة العمليات التجارية.

مقدمة

تسلط مقدمة هذه الورقة البحثية الضوء على التعقيد المتزايد والهشاشة للبنى التحتية الرقمية المترابطة، مثل المدن الذكية وأنظمة التحكم الصناعية. مع تطور هذه الأنظمة، تعتبر التدابير التقليدية للأمن السيبراني غير كافية ضد التهديدات المتطورة، مما يستلزم التحول نحو نهج “الأمان من خلال التصميم” الاستباقي. يؤكد هذا المبدأ على دمج اعتبارات الأمان طوال دورة حياة تصميم النظام بأكملها، بدلاً من اعتبارها فكرة لاحقة. تم تحديد قضية حاسمة وهي الانفصال بين تصميم النظام والمتطلبات التنظيمية، مما يمكن أن يخلق مخاطر كبيرة على الأمن السيبراني.

تناقش الورقة القيود المفروضة على نماذج العمليات التجارية الحالية، التي غالبًا ما تفشل في دمج المعرفة الخارجية الأساسية، بما في ذلك الأطر التنظيمية والمعايير الصناعية التي تحدد تدابير الأمان والامتثال. يمكن أن تؤدي هذه الفجوة إلى ثغرات، حيث أن التفسير اليدوي للوائح المعقدة عرضة للأخطاء البشرية. لمعالجة هذه التحديات، يقترح المؤلفون إطارًا جديدًا يستخدم نماذج اللغة الكبيرة (LLMs) لسد الفجوة بين نماذج العمليات المنظمة والمعرفة التنظيمية غير المنظمة. تركز السؤال البحثي المركزي على كيفية تحسين LLMs لتقييمات الامتثال لنماذج العمليات مقابل معايير الأمان. تهدف الورقة إلى تقديم إطار موثق للتحقق من الامتثال القائم على السياق وتقدم تقييمًا مزدوجًا لفعالية LLM، مما يحول التركيز في النهاية من التخفيف من الهلوسة إلى رسم الخرائط الفعالة للمعاني المنظمة إلى القواعد غير المنظمة.

الطرق

تستخدم الأبحاث منهجية البحث العلمي التصميمي (DSR) لاستكشاف دمج نماذج اللغة الكبيرة (LLMs) مع نماذج العمليات فيما يتعلق بالسياقات الخارجية. يوفر DSR إطارًا منظمًا لإنشاء أدوات تعالج القضايا العملية بينما تساهم في المعرفة النظرية. تتبع الدراسة عملية DSR من خمس مراحل: (1) تحديد المشكلة والدافع، حيث يتم إثبات الحاجة إلى تمثيل منظم لنماذج العمليات من خلال مراجعة الأدبيات؛ (2) تصميم وتطوير الأداة، والتي تتضمن دمج التقنيات وتطوير استراتيجية تحفيز جديدة لدمج نماذج العمليات مع معلومات السياق الخارجية. تشمل هذه المرحلة تحسينات تكرارية بناءً على الاختبارات الأولية ورؤى الأدبيات.

في سياق LLMs، توضح الأبحاث طرقًا متنوعة تمكن هذه النماذج من معالجة واستخدام المعلومات بفعالية من كل من نموذج العملية والسياقات الأوسع. تشمل التقنيات الرئيسية هندسة التحفيز، واستراتيجيات دمج مصادر السياق المتنوعة، واستخدام أمثلة قليلة، وتوليد تضمينات دلالية، وطرق توليد مدعومة بالاسترجاع (RAG) لدمج المعرفة الخارجية ذات الصلة ديناميكيًا. تعتبر هذه الأساليب حاسمة لتعزيز قدرات التفكير لدى LLM وضمان أن تكون ردودها ذات صلة بالسياق.

النتائج

تشير النتائج المقدمة في هذا القسم إلى أن أداء نماذج اللغة الكبيرة (LLMs) يتحسن بشكل كبير مع تضمين معلومات سياقية إضافية. أسفرت المحاولات الأولية باستخدام نهج أساسي عن 19.4% فقط من الردود الصحيحة بالكامل، لكن التحسين المنهجي للسياق المدخل أدى إلى دقة قصوى بلغت 69.9%. من الجدير بالذكر أن قدرة LLM على تقديم ردود دقيقة، حتى في الحالات الغامضة، تبرز إمكانياتها في عمليات اتخاذ القرار. تسلط الدراسة أيضًا الضوء على التحديات المتعلقة بطول السياق والموارد الحاسوبية، التي يمكن أن تحد من فعالية LLMs، خاصة عند تقييمها مقابل نماذج الدفع المعتمدة على الرموز.

يكشف التحليل الكمي أن استراتيجية التحفيز الأساسية حققت دقة بنسبة 49.3%، بينما أدت إضافة السياق إلى تحسين ذلك إلى 70.4%، مع وصول الاستراتيجية الأكثر فعالية، contextFewShot، إلى 74.6%. تشير مقاييس التقييم، بما في ذلك الدقة ودرجات F1، إلى أن الاستراتيجيات القائمة على السياق تحقق نتائج موثوقة. ومع ذلك، تشير الفحوصات التفصيلية للأخطاء إلى أن إخفاقات التفكير كانت القضية السائدة، مما يشير إلى أن النموذج يواجه صعوبة في الربط بين نماذج العمليات المنظمة والمعايير غير المنظمة. تشير هذه النتيجة إلى الحاجة إلى تحسينات مستقبلية في قدرة LLMs على التركيب المنطقي وتفسير المدخلات، بدلاً من معالجة قضايا الهلوسة فقط. بشكل عام، توضح الدراسة إمكانيات LLMs في التحقق من الامتثال وشرح نماذج العمليات، بينما تحدد أيضًا مجالات محددة لتحسين تطبيقاتها.

المناقشة

في قسم المناقشة، تسلط الورقة الضوء على الدور التحويلي لنماذج اللغة الكبيرة (LLMs) في تعزيز تطبيقات معالجة اللغة الطبيعية (NLP) ضمن إدارة العمليات التجارية (BPM). تستفيد LLMs من هيكلها لتمييز أهمية الكلمات السياقية، مما يحسن من فهم اللغة ويمكّن من التعميم الفعال عبر مجالات متنوعة من خلال التدريب المسبق والتعديل الدقيق. ومع ذلك، لا تزال التحديات قائمة، بما في ذلك قضايا القابلية للتفسير، وإعادة إنتاج التحيز، والميول لتوليد معلومات قابلة للتصديق ولكنها غير صحيحة. يقترح المؤلفون استخدام LLMs كـ “صناديق سوداء”، غنية بالسياق الخارجي لتعزيز نتائج التحفيز، مما يسهل الشروحات الأكثر وضوحًا ومقارنات معلمات العمليات.

تتوسع الورقة في منهجيات BPM النظامية التي تهدف إلى تحسين الكفاءة التنظيمية من خلال التحكم في العمليات والإدارة الاستراتيجية. تؤكد على أطر دورة الحياة التكرارية التي تدعم التحسين المستمر في BPM، مع دمج كل من البيانات المنظمة وغير المنظمة. يجادل المؤلفون بأنه على الرغم من أن الأبحاث الحالية قد استكشفت تقاطع NLP وBPM، لا يزال هناك فجوة حاسمة في دمج نماذج العمليات المنظمة بشكل منهجي مع المعلومات السياقية غير المنظمة، خاصة في التحقق من الامتثال ضمن الأمن السيبراني. تهدف هذه الأبحاث إلى معالجة هذه الفجوة من خلال تطوير منهجية تجمع بين هذه العناصر، مما يعزز عمليات التحقق من الامتثال الآلي وشرح نماذج العمليات التجارية في السياقات التنظيمية.

القيود

تسلط القيود المحددة في البحث الضوء على عدة تحديات مرتبطة بدمج نماذج اللغة الكبيرة (LLMs) في إدارة العمليات التجارية (BPM). يشير بهشتي وآخرون إلى أنه بينما يعزز ProcessGPT العمليات المعتمدة على البيانات من خلال نظام دعم القرار القائم على السياق، فإنه يعتمد بشكل كبير على البيانات عالية الجودة ويواجه صعوبات في التكيف مع البيئات التجارية الديناميكية. وبالمثل، يؤكد برناردي وآخرون أن إطارهم، الذي يجمع بين التوليد المدعوم بالاسترجاع (RAG) والتعديل الدقيق، يعتمد على جودة تقسيم البيانات ويقدم تعقيدات في التكيف مع نماذج العمليات المختلفة.

تكشف دراسات أخرى عن قيود إضافية، مثل الطبيعة غير الحتمية لمخرجات LLM التي تؤدي إلى عدم الاتساق (غروهس وآخرون)، والأداء المحدود لـ LLMs في تطبيقات محددة مثل تصنيف الوثائق (إيلاجان وآخرون). علاوة على ذلك، تتطلب العديد من الأطر والأساليب، بما في ذلك تلك المقترحة من قبل كواراني وآخرون وبولوز ونيلاناث، تفاصيل محسّنة، واختبارات أوسع، وإشراف بشري لضمان الموثوقية وقابلية الاستخدام. بشكل عام، تؤكد النتائج على ضرورة وجود بيانات عالية الجودة، وضبط دقيق للنموذج، وأهمية المشاركة البشرية في الاستفادة من LLMs بشكل فعال ضمن سياقات BPM.

Journal: International Journal of Information Security, Volume: 25, Issue: 4
DOI: https://doi.org/10.1007/s10207-026-01245-x
Publication Date: 2026-06-15
Author(s): Linda Maria Kölbel et al.
Primary Topic: Business Process Modeling and Analysis

Overview

The research highlights a significant gap between operational process design and security regulation requirements, which poses a cybersecurity risk. Business process models, while structured, often lack integration with external knowledge such as industry standards and organizational policies necessary for assessing security and regulatory compliance. To bridge this gap, the authors propose a “Security by Design” framework that utilizes Large Language Models (LLMs) to merge structured business process model notation (BPMN) with unstructured external security standards, exemplified by ISO 27001.

The framework was validated through a use case in Industrial Internet of Things (IIoT) security, utilizing the IEC 62443-3 standard. Results indicated that the integration of external context, particularly through varied prompting strategies, significantly improved the quality and accuracy of LLM-generated outputs. Future research directions include enhancing human-AI collaboration in process management by focusing on error mitigation and confidence quantification. Proposed strategies involve multi-step prompting for reasoning errors and preprocessing techniques for complex BPMN paths. Additionally, the authors envision a system where LLMs autonomously query corporate knowledge bases for relevant standards and regulations, thereby transforming compliance management and process understanding. As advancements in LLM capabilities continue, this approach presents a promising avenue for automating critical tasks in business process management.

Introduction

The introduction of this research paper highlights the growing complexity and vulnerability of interconnected digital infrastructures, such as smart cities and industrial control systems. As these systems evolve, traditional reactive cybersecurity measures are deemed inadequate against sophisticated threats, necessitating a shift towards a proactive “Security by Design” approach. This principle emphasizes the integration of security considerations throughout the entire system design lifecycle, rather than treating them as an afterthought. A critical issue identified is the disconnect between system design and regulatory requirements, which can create significant cybersecurity risks.

The paper discusses the limitations of current business process models, which often fail to incorporate essential external knowledge, including regulatory frameworks and industry standards that dictate security and compliance measures. This gap can lead to vulnerabilities, as the manual interpretation of complex regulations is prone to human error. To address these challenges, the authors propose a novel framework that utilizes Large Language Models (LLMs) to bridge the divide between structured process models and unstructured regulatory knowledge. The central research question focuses on how LLMs can enhance compliance assessments of process models against security standards. The paper aims to contribute a validated framework for context-aware compliance checking and offers a dual-evaluation of LLM efficacy, ultimately shifting the focus from mitigating hallucinations to effectively mapping structured semantics to unstructured rules.

Methods

The research employs the Design Science Research (DSR) methodology to explore the integration of Large Language Models (LLMs) with process models in relation to external contexts. DSR offers a structured framework for creating artifacts that address practical issues while contributing to theoretical knowledge. The study follows a five-phase DSR process: (1) Problem Identification and Motivation, where the need for a structured representation of process models is established through a literature review; (2) Artifact Design and Development, which involves integrating technologies and developing a novel prompting strategy to synthesize process models with external context information. This phase includes iterative refinement based on preliminary tests and literature insights.

In the context of LLMs, the research outlines various methods that enable these models to effectively process and utilize information from both the process model and broader domain contexts. Key techniques include prompt engineering, strategies for integrating diverse sources of context, the use of few-shot examples, the generation of semantic embeddings, and Retrieval-Augmented Generation (RAG) methods for dynamically incorporating relevant external knowledge. These approaches are critical for enhancing the LLM’s reasoning capabilities and ensuring that its responses are contextually relevant.

Results

The results presented in this section indicate that the performance of large language models (LLMs) improves significantly with the inclusion of additional contextual information. Initial attempts using a basic approach yielded only 19.4% fully correct responses, but systematic enhancement of the input context led to a peak accuracy of 69.9%. Notably, the LLM’s ability to provide nuanced responses, even in ambiguous situations, underscores its potential utility in decision-making processes. The study also highlights challenges related to context length and computational resources, which can limit the effectiveness of LLMs, particularly when evaluated against token-based payment models.

Quantitative analysis reveals that the baseline prompting strategy achieved an accuracy of 49.3%, while the addition of context improved this to 70.4%, with the most effective strategy, contextFewShot, reaching 74.6%. The evaluation metrics, including precision and F1-scores, indicate that context-aware strategies yield reliable results. However, a detailed examination of errors identified reasoning failures as the predominant issue, suggesting that the model struggles with the cognitive task of linking structured process models to unstructured standards. This finding points to the need for future improvements in LLMs’ logical synthesis and input interpretation capabilities, rather than merely addressing hallucination issues. Overall, the study demonstrates the potential of LLMs for compliance checking and process model explanation, while also outlining specific areas for enhancement in their application.

Discussion

In the discussion section, the paper highlights the transformative role of Large Language Models (LLMs) in enhancing Natural Language Processing (NLP) applications within Business Process Management (BPM). LLMs leverage their architecture to discern contextual word importance, improving language comprehension and enabling effective generalization across diverse domains through pre-training and fine-tuning. However, challenges persist, including issues of interpretability, bias reproduction, and the propensity for generating plausible yet incorrect information. The authors propose utilizing LLMs as “black boxes,” enriched with external context to enhance prompt outcomes, thereby facilitating clearer explanations and comparisons of process parameters.

The paper further elaborates on BPM’s systematic methodologies aimed at optimizing organizational efficiency through process control and strategic management. It emphasizes the iterative lifecycle frameworks that support continuous improvement in BPM, integrating both structured and unstructured data. The authors argue that while existing research has explored the intersection of NLP and BPM, there remains a critical gap in systematically integrating structured process models with unstructured contextual information, particularly in compliance verification within cybersecurity. This research aims to address this gap by developing a methodology that combines these elements, enhancing automated compliance checks and explanations of business process models in regulatory contexts.

Limitations

The limitations identified in the research highlight several challenges associated with the integration of Large Language Models (LLMs) in Business Process Management (BPM). Beheshti et al. note that while ProcessGPT enhances data-intensive processes through a context-aware decision support system, it is heavily reliant on high-quality data and faces difficulties in adapting to dynamic business environments. Similarly, Bernardi et al. emphasize that their framework, which combines Retrieval-Augmented Generation (RAG) and fine-tuning, is contingent on the quality of data chunking and presents complexities in adapting to various process models.

Other studies reveal additional constraints, such as the non-deterministic nature of LLM outputs leading to inconsistencies (Grohs et al.), and the limited performance of LLMs in specific applications like document classification (Ilagan et al.). Furthermore, several frameworks and methods, including those proposed by Kourani et al. and Paulose and Neelanath, require enhanced detail, broader testing, and human oversight to ensure reliability and usability. Overall, the findings underscore the necessity for high-quality data, careful model tuning, and the importance of human involvement in leveraging LLMs effectively within BPM contexts.