DOI: https://doi.org/10.1038/s40494-026-02403-z
تاريخ النشر: 2026-03-03
المؤلف: Marina Paolanti وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي القابل للتفسير (XAI)
نظرة عامة
تتناول الورقة البحثية التطبيق المتزايد للذكاء الاصطناعي (AI) في قطاع التراث الثقافي (CH)، مع تسليط الضوء على إمكانيته في تحليل وتفسير والحفاظ على القطع الأثرية والميزات المعمارية. ومع ذلك، فإنها تتناول أيضًا المخاوف الكبيرة المتعلقة بالشفافية والعدالة وقابلية تفسير تقنيات الذكاء الاصطناعي. لمواجهة هذه القضايا، يقترح المؤلفون منهجية تهدف إلى تعزيز الذكاء الاصطناعي الموثوق به في التراث الثقافي، والتي تتضمن استراتيجيات الشرح وتقليل التحيز في التحليلات المدفوعة بالذكاء الاصطناعي.
تجمع المنهجية المقترحة بين الرؤى السياقية وتقنيات الشرح متعددة الأبعاد لتعزيز الشفافية وفهم عمليات اتخاذ القرار في الذكاء الاصطناعي. توضح دراسة حالة تستخدم إطار تحليل التراث الثقافي القائم أن دمج الشرح يمكن أن يعزز بشكل كبير ثقة المستخدم، ويعزز التوافق الأخلاقي، ويشجع على الاستخدام المسؤول للذكاء الاصطناعي. تؤكد النتائج على ضرورة توضيح مخرجات الذكاء الاصطناعي للمهنيين في مجال التراث وضمان أن نظم الذكاء الاصطناعي تحترم الخصوصية الثقافية والدقة التفسيرية.
طرق
تحدد الورقة البحثية إطارًا منهجيًا يهدف إلى تعزيز ممارسات الذكاء الاصطناعي الموثوق بها داخل قطاع التراث الثقافي (CH) من خلال دمج الاعتبارات الأخلاقية في تطوير وتطبيق نماذج الذكاء الاصطناعي. يركز هذا الإطار على منطقتين حرجتين: اكتشاف التحيز والشرح. للتحقق من مقاييس الشرح، تم استخدام بروتوكول تقييم نوعي، مستوحى من دراسات سابقة، يشمل مجموعة متنوعة من الخبراء من مجال التراث الثقافي. على الرغم من أن مجموعة المشاركين محدودة، إلا أنها تشمل طيفًا واسعًا من أصحاب المصلحة، مما يعزز موثوقية المنهجية للإطار.
يتضمن الإطار افتراضات محددة للسياق، مستفيدًا من المعرفة الخاصة بالمجال مثل التصنيفات المعمارية والبيانات التاريخية لتسهيل توليد تفسيرات مفهومة. تشمل المكونات الرئيسية تحديد وتقليل التحيزات في عمليات الذكاء الاصطناعي، وضمان أن تعكس مجموعات البيانات روايات ثقافية متنوعة، وتعزيز الشفافية وقابلية تفسير نماذج الذكاء الاصطناعي، خاصة في سيناريوهات البيانات المعقدة مثل سحب النقاط ثلاثية الأبعاد. بالإضافة إلى ذلك، تم اقتراح مجموعة من المقاييس المخصصة – مثل تقييمات الشفافية ومؤشرات الشرح – لتقييم فعالية الإطار الأخلاقي، مما يضمن أن يكون دمج هذه المبادئ عمليًا ومؤثرًا لأصحاب المصلحة المختلفين في قطاع التراث الثقافي.
نتائج
في هذه الدراسة، يوسع المؤلفون منهجية تيريبيللي وآخرون لتقييم إطار التعلم العميق لتحليل بيانات سحب النقاط ثلاثية الأبعاد في سياقات التراث الثقافي (CH)، والتي اقترحها في الأصل بيرديكا وآخرون. يستخدم هذا الإطار نسخة معدلة من DGCNN، معززة بميزات مثل القيم الطبيعية والألوان، لتقسيم العناصر المعمارية من المباني التاريخية باستخدام مجموعة بيانات ArCH. بينما يظهر الإطار وعدًا في تحسين دقة التصنيف، إلا أنه لا يعالج بشكل جوهري العدالة أو الشفافية أو قابلية التفسير، وهي أمور حاسمة في تطبيق الذكاء الاصطناعي على تحليل التراث الثقافي.
تكشف التقييمات عن عدة تحيزات، بما في ذلك تحيز استهداف السكان بسبب التمثيل غير الكافي للتنوع المعماري، والتحيز السياقي الناتج عن تجاهل الاختلافات الإقليمية، والتحيز التاريخي الناجم عن الاعتماد على مجموعات بيانات قديمة. بالإضافة إلى ذلك، فإن الطبيعة الغامضة للنظام تعقد فهم عمليات اتخاذ القرار الخاصة به، مما يثير مخاوف المساءلة للمهنيين في مجال التراث. تشير النتائج إلى أنه بينما يحقق الإطار أداءً معتدلاً في الثقة والكفاءة، إلا أنه يقصر في تقديم تفسيرات واضحة وشاملة لمخرجاته. تؤكد هذه القصور في الشفافية على ضرورة تطوير طرق ذكاء اصطناعي أكثر مسؤولية في التراث الثقافي، مما يعزز ثقة أصحاب المصلحة ويحقق توافق التطبيقات التكنولوجية مع المعايير الأخلاقية في الحفظ والتفسير الثقافي.
نقاش
في هذا القسم، يناقش المؤلفون الحاجة الملحة لاكتشاف التحيز وقابلية التفسير في تطبيقات الذكاء الاصطناعي ضمن التراث الثقافي (CH) لمعالجة التحديات الأخلاقية. يؤكدون أن التحيزات يمكن أن تظهر في مراحل مختلفة من تطوير الذكاء الاصطناعي، بما في ذلك جمع البيانات وتدريب النماذج، مما قد يشوه تمثيلات الروايات الثقافية المهمشة. لمكافحة ذلك، يقترح المؤلفون إطارًا منظمًا يستند إلى مبادئ العدالة والإنصاف، كما هو موضح من قبل مجموعة الخبراء رفيعة المستوى التابعة للمفوضية الأوروبية. يهدف هذا الإطار إلى تقييم تمثيل وعدالة نتائج الذكاء الاصطناعي، مما يوفر إرشادات لمطوري الذكاء الاصطناعي والمهنيين في مجال التراث لتحديد وتقليل التحيزات مبكرًا في دورة التطوير.
كما يقدم المؤلفون نهجًا متعدد الأبعاد لقابلية التفسير، والذي يشمل الشرح التشغيلي والسياقي والاستدلالي والعملي والثقة. تهدف هذه الاستراتيجية الشاملة إلى تعزيز الشفافية وتعزيز الثقة بين أصحاب المصلحة من خلال جعل عمليات الذكاء الاصطناعي مفهومة. يقترحون مقاييس محددة لتقييم قابلية التفسير، بما في ذلك تدابير تحذيرية، والفهم العالمي والمحلي، ورضا المستخدم، والفضول، والثقة، والأداء. من خلال استخدام هذه المقاييس، يهدف المؤلفون إلى تعزيز موثوقية التحليل المدفوع بالذكاء الاصطناعي في التراث الثقافي، مما يضمن أن تكون تطبيقات الذكاء الاصطناعي فعالة وأخلاقية ومبنية على السياق. تشمل اتجاهات البحث المستقبلية تطبيق الإطار المقترح على مجموعات بيانات متنوعة في التراث الثقافي واستكشاف دمج البيانات متعددة الوسائط لتعزيز الفهم السياقي.
DOI: https://doi.org/10.1038/s40494-026-02403-z
Publication Date: 2026-03-03
Author(s): Marina Paolanti et al.
Primary Topic: Explainable Artificial Intelligence (XAI)
Overview
The paper discusses the growing application of artificial intelligence (AI) in the cultural heritage (CH) sector, highlighting its potential for analyzing, interpreting, and conserving artefacts and architectural features. However, it also addresses significant concerns related to transparency, fairness, and interpretability of AI technologies. To tackle these issues, the authors propose a methodology aimed at fostering trustworthy AI in CH, which incorporates explainability and bias-mitigation strategies into AI-driven analyses.
The proposed methodology combines contextual insights with multidimensional explainability techniques to enhance the transparency and comprehensibility of AI decision-making processes. A case study utilizing an existing CH analysis framework demonstrates that integrating explainability can significantly bolster user confidence, promote ethical alignment, and encourage responsible AI usage. The findings underscore the necessity of clarifying AI outputs for heritage professionals and ensuring that AI systems honor cultural specificity and interpretive accuracy.
Methods
The research paper outlines a methodological framework aimed at promoting trustworthy AI practices within the cultural heritage (CH) sector by integrating ethical considerations into the development and application of AI models. This framework emphasizes two critical areas: Bias Detection and Explainability. To validate the explainability metrics, a qualitative evaluation protocol was employed, inspired by previous studies, involving a diverse group of experts from the CH domain. Although the participant pool is limited, it encompasses a broad spectrum of stakeholders, thereby enhancing the methodological reliability of the framework.
The framework incorporates context-specific assumptions, leveraging domain-specific knowledge such as architectural taxonomies and historical metadata to facilitate the generation of comprehensible explanations. Key components include the identification and mitigation of biases in AI processes, ensuring that datasets reflect diverse cultural narratives, and enhancing the transparency and interpretability of AI models, particularly in complex data scenarios like 3D point clouds. Additionally, a set of tailored metrics—such as transparency ratings and explainability indices—are proposed to evaluate the effectiveness of the ethical framework, ensuring that the integration of these principles is both practical and impactful for various stakeholders in the CH sector.
Results
In this study, the authors extend the methodology of Tiribelli et al. to evaluate a deep learning framework for analyzing 3D point cloud data in cultural heritage (CH) contexts, originally proposed by Pierdicca et al. This framework employs a modified version of DGCNN, enhanced with features such as normals and colors, to semantically segment architectural elements from historic buildings using the ArCH dataset. While the framework shows promise in improving classification accuracy, it does not inherently address fairness, transparency, or explainability, which are critical in the application of AI to CH analysis.
The evaluation reveals several biases, including population targeting bias due to inadequate representation of architectural diversity, contextual bias from overlooking regional variations, and historical bias stemming from reliance on outdated datasets. Additionally, the system’s black box nature complicates understanding its decision-making processes, raising accountability concerns for heritage professionals. The results indicate that while the framework achieves moderate performance in trust and efficiency, it falls short in providing clear and comprehensive explanations of its outputs. This lack of transparency underscores the necessity for developing more accountable AI methods in CH, which would enhance stakeholder trust and align technological applications with ethical standards in conservation and cultural interpretation.
Discussion
In this section, the authors discuss the critical need for bias detection and explainability in AI applications within cultural heritage (CH) to address ethical challenges. They emphasize that biases can emerge at various stages of AI development, including data collection and model training, potentially distorting representations of marginalized cultural narratives. To combat this, the authors propose a structured framework grounded in the principles of justice and fairness, as outlined by the European Commission’s High-Level Expert Group. This framework aims to assess the representativeness and fairness of AI outcomes, providing guidance for AI developers and CH professionals to identify and mitigate biases early in the development cycle.
The authors also introduce a multidimensional approach to explainability, which encompasses operational, contextual, reasoning, practical, and confidence explainability. This comprehensive strategy aims to enhance transparency and foster trust among stakeholders by making AI processes understandable. They propose specific metrics to evaluate explainability, including cautionary measures, global and local understanding, user satisfaction, curiosity, trust, and performance. By employing these metrics, the authors aim to enhance the trustworthiness of AI-driven CH analysis, ensuring that AI applications are not only effective but also ethically sound and contextually grounded. Future research directions include applying the proposed framework to diverse CH datasets and exploring multimodal data integration to enrich contextual understanding.