هندسة السلامة الأخلاقية في الإنتاج: إطار مفاهيمي لتوزيع المسؤولية في أنظمة الإنتاج التي تتحكم فيها الذكاء الاصطناعي Ethical Safety Engineering in Production: A Conceptual Framework for Allocating Responsibility in AI-Controlled Production Systems

شارك:
المجلة: Management Systems in Production Engineering، المجلد: 34، العدد: 2
DOI: https://doi.org/10.2478/mspe-2026-0025
تاريخ النشر: 2026-04-30
المؤلف: Jarosław Brodny وآخرون
الموضوع الرئيسي: أبحاث الصحة والسلامة المهنية

نظرة عامة

تقدم هذه الورقة إطارًا مفاهيميًا جديدًا لمعالجة السلامة المهنية في أنظمة الإنتاج التي تستخدم الذكاء الاصطناعي (AI)، والذي يُطلق عليه اسم هندسة سلامة الإنتاج الأخلاقية (EPSE). يركز هذا الإطار على الحاجة إلى تخصيص المسؤولية بشكل منهجي، معترفًا بتعقيدات الوكالة، واتخاذ القرارات الخوارزمية، والبنية متعددة المستويات الموجودة في أنظمة الذكاء الاصطناعي. من خلال تحويل التركيز من إسناد اللوم التفاعلي إلى تصميم المسؤولية الاستباقية، تدمج EPSE الأبعاد المعيارية والقانونية والأخلاقية في هندسة سلامة الإنتاج، مما يتماشى مع الخصائص الفريدة لأنظمة اتخاذ القرار المستقلة.

المساهمة الأساسية للبحث هي نموذج تخصيص المسؤولية متعدد الطبقات (MLRAM)، الذي يعيد تصور المسؤولية كهيكل نظامي وموزع طوال دورة حياة الأنظمة المستقلة. يسهل هذا النموذج تقييم المسؤولية من خلال مؤشرات طبقية تعكس القرارات على مستويات مختلفة من الوكالة، بما في ذلك البشرية والخوارزمية والتنظيمية. لا يكمل الإطار أنظمة إدارة السلامة المهنية الحالية، مثل ISO 45001، فحسب، بل يوفر أيضًا إطارًا ميتا لتفسير ودمج هذه الأدوات في سياق الاستقلالية الخوارزمية. تمتد آثار هذا العمل إلى التطبيقات العملية، مثل تدقيق السلامة، وإجراءات اعتماد الذكاء الاصطناعي، والتدريب للمهنيين في مجال السلامة، مما يدعو في النهاية إلى التحول نحو ثقافة سلامة قائمة على المسؤولية في عصر الصناعة 4.0 و5.0. يتم تشجيع الأبحاث المستقبلية على التحقق تجريبيًا من نموذج MLRAM واستكشاف تطبيقه في سياقات صناعية محددة.

مقدمة

تسلط مقدمة هذه الورقة البحثية الضوء على التأثير التحويلي للرقمنة، والذكاء الاصطناعي (AI)، والأنظمة المستقلة على بيئات الإنتاج الصناعي، لا سيما فيما يتعلق بالسلامة المهنية. أصبحت النماذج التقليدية للسلامة، التي تعتمد على تفاعلات بشرية-آلية قابلة للتنبؤ وخطوط مسؤولية واضحة، غير كافية مع تحول اتخاذ القرار بشكل متزايد إلى خوارزميات مستقلة تعمل بشكل مستقل عن الإشراف البشري المستمر. يعقد هذا التحول من مهمة إسناد المسؤولية عن الحوادث، حيث تصبح العلاقات بين الأفعال البشرية وسلوك الآلات ونتائج السلامة أكثر تشتتًا وغير خطية.

تحدد الورقة فجوة بحثية كبيرة في الأدبيات الحالية، التي تميل إلى التركيز على الجوانب التقنية والتنظيمية للسلامة مع إغفال آثار استقلالية اتخاذ القرار للذكاء الاصطناعي على المسؤولية. لمعالجة هذه الفجوة، يقترح المؤلفون إطارًا متعدد التخصصات يُطلق عليه اسم هندسة سلامة الإنتاج الأخلاقية (EPSE)، والذي يدمج الأبعاد المعيارية والقانونية والأخلاقية في هندسة السلامة التقليدية. الهدف هو إنشاء نهج منهجي لتخصيص المسؤولية في أنظمة الإنتاج المدفوعة بالذكاء الاصطناعي، مع التركيز على تصميم المسؤولية الاستباقية بدلاً من إسناد اللوم التفاعلي. يهدف هذا الإطار المفاهيمي إلى وضع الأساس للبحوث التجريبية المستقبلية والتطبيقات العملية، مع معالجة الحاجة الملحة لفهم متماسك للمسؤولية في سياق التقنيات الصناعية المتطورة بسرعة.

مناقشة

تسلط قسم المناقشة في الورقة الضوء على تطور نماذج السلامة المهنية في سياق أنظمة الإنتاج المستقلة والسايبر-فيزيائية. تاريخيًا، اعتمدت هندسة السلامة على نماذج حتمية تُنسب المسؤولية عن الحوادث إلى إخفاقات بشرية أو تقنية يمكن التعرف عليها. هذا النهج الأنثروبوسي، الذي يتمثل في طرق مثل نموذج “الجبن السويسري”، أصبح غير كافٍ بشكل متزايد للأنظمة المعقدة والتكيفية حيث يمكن أن تؤدي التفاعلات بين المكونات التقنية والتنظيمية والبشرية إلى حوادث ناشئة. يتطلب إدخال الأنظمة المستقلة، التي يمكن أن تتخذ قرارات مستقلة وتتكيف مع البيئات المتغيرة، تحولًا نحو فهم نظامي للسلامة، حيث يتم توزيع المسؤولية عبر مختلف الفاعلين ولا يمكن إسنادها فقط إلى المشغلين الفرديين.

تدعو الورقة إلى مفهوم هندسة سلامة الإنتاج الأخلاقية (EPSE)، الذي يدمج الأبعاد التقنية والقانونية والأخلاقية للسلامة في الأنظمة المستقلة. تؤكد على الحاجة إلى تصميم استباقي للمسؤولية يأخذ في الاعتبار دورة حياة أنظمة الذكاء الاصطناعي بالكامل، من التصور إلى التشغيل. يتحدى هذا النهج نموذج “خطأ الإنسان” التقليدي من خلال الاعتراف بأن الحوادث غالبًا ما تنتج عن تفاعلات نظامية بدلاً من الأخطاء الفردية. علاوة على ذلك، تدعو إلى تضمين المبادئ الأخلاقية في تصميم الأنظمة المستقلة لضمان أن تكون عمليات اتخاذ القرار شفافة وأن يتم توزيع المخاطر بشكل عادل بين جميع الأطراف المعنية. من خلال معالجة هذه الفجوات، تهدف EPSE إلى إنشاء إطار أكثر شمولاً لإدارة السلامة في بيئات الإنتاج المستقلة بشكل متزايد.

Journal: Management Systems in Production Engineering, Volume: 34, Issue: 2
DOI: https://doi.org/10.2478/mspe-2026-0025
Publication Date: 2026-04-30
Author(s): Jarosław Brodny et al.
Primary Topic: Occupational Health and Safety Research

Overview

This paper introduces a novel conceptual framework for addressing occupational safety in production systems that utilize artificial intelligence (AI), termed Ethical Production Safety Engineering (EPSE). This framework emphasizes the need for a systematic allocation of responsibility, recognizing the complexities of agency, algorithmic decision-making, and the multi-level structure inherent in AI systems. By shifting the focus from reactive blame attribution to proactive responsibility design, EPSE integrates normative, legal, and ethical dimensions into production safety engineering, thereby accommodating the unique characteristics of autonomous decision-making systems.

The core contribution of the research is the Multi-Layer Responsibility Allocation Model (MLRAM), which reconceptualizes responsibility as a systemic and distributed construct throughout the life cycle of autonomous systems. This model facilitates the assessment of responsibility through layered indicators that reflect decisions at various levels of agency, including human, algorithmic, and organizational. The framework not only complements existing occupational safety management systems, such as ISO 45001, but also provides a meta-framework for interpreting and integrating these tools in the context of algorithmic autonomy. The implications of this work extend to practical applications, such as safety audits, AI certification procedures, and training for safety professionals, ultimately advocating for a shift towards a proactive, responsibility-based safety culture in the era of Industry 4.0 and 5.0. Future research is encouraged to empirically validate the MLRAM model and explore its application in specific industrial contexts.

Introduction

The introduction of this research paper highlights the transformative impact of digitization, artificial intelligence (AI), and autonomous systems on industrial production environments, particularly concerning occupational safety. Traditional safety paradigms, which rely on predictable human-machine interactions and clear lines of responsibility, are becoming inadequate as decision-making increasingly shifts to autonomous algorithms that operate independently of continuous human oversight. This shift complicates the assignment of responsibility for accidents, as the relationships between human actions, machine behavior, and safety outcomes become more dispersed and nonlinear.

The paper identifies a significant research gap in the existing literature, which tends to focus on technical and organizational aspects of safety while neglecting the implications of AI’s decision-making autonomy on liability. To address this gap, the authors propose an interdisciplinary framework termed Ethical Production Safety Engineering (EPSE), which integrates normative, legal, and ethical dimensions into traditional safety engineering. The objective is to create a systematic approach for allocating responsibility in AI-driven production systems, emphasizing proactive responsibility design rather than reactive blame assignment. This conceptual framework aims to lay the groundwork for future empirical research and practical applications, addressing the urgent need for a coherent understanding of liability in the context of rapidly evolving industrial technologies.

Discussion

The discussion section of the paper highlights the evolution of occupational safety paradigms in the context of autonomous and cyber-physical production systems. Historically, safety engineering has relied on deterministic models that attribute responsibility for accidents to identifiable human or technical failures. This anthropocentric approach, exemplified by methods like the “Swiss Cheese” model, is increasingly inadequate for complex, adaptive systems where interactions among technical, organizational, and human components can lead to emergent accidents. The introduction of autonomous systems, which can make independent decisions and adapt to changing environments, necessitates a shift towards a systemic understanding of safety, where responsibility is distributed across various actors and cannot be solely assigned to individual operators.

The paper advocates for the concept of Ethical Production Safety Engineering (EPSE), which integrates technical, legal, and ethical dimensions of safety in autonomous systems. It emphasizes the need for a proactive design of responsibility that considers the entire lifecycle of AI systems, from conceptualization to operation. This approach challenges the traditional “human error” paradigm by recognizing that accidents often result from systemic interactions rather than individual mistakes. Furthermore, it calls for embedding ethical principles into the design of autonomous systems to ensure that decision-making processes are transparent and that risks are equitably distributed among all stakeholders involved. By addressing these gaps, EPSE aims to create a more comprehensive framework for managing safety in increasingly autonomous production environments.