DOI: https://doi.org/10.1145/3805644
تاريخ النشر: 2026-05-29
المؤلف: Rutwik Jain وآخرون
الموضوع الرئيسي: نظرية الرسوم البيانية والخوارزميات
نظرة عامة
تقدم ورقة البحث Minos، وهو آلية تصنيف منهجية مصممة لمعالجة التحديات التي تواجهها مجموعات الحوسبة عالية الأداء (HPC) الكبيرة التي تستخدم وحدات معالجة الرسوميات (GPUs). بينما تسعى هذه المجموعات لتلبية الطلبات المتزايدة للأحمال الحديثة، تواجه قيودًا في الطاقة وارتفاعات متكررة في الطاقة تتجاوز القدرة الحرارية المصممة (TDP) للمسرعات. تعيق الطرق التقليدية لتحسين التطبيقات من خلال التحليل الشامل تنوع الأحمال وحجم أنظمة HPC. يهدف Minos إلى تبسيط هذه العملية من خلال تمكين التحليل منخفض التكلفة الذي يحدد خصائص التطبيقات المتشابهة، مما يسمح بتجميع الأحمال في فئات متميزة. تقلل هذه الطريقة بشكل كبير من الوقت المطلوب لتحليل التطبيقات الجديدة، محققة تقليصًا بنسبة 89% في وقت التحليل لتوقع سلوك تحديد التردد.
تظهر فعالية Minos من خلال تطبيقه عبر 18 حملاً مختلفًا، بما في ذلك تحليل الرسوم البيانية، HPC، HPC+ML، ومهام ML. تحقق الآلية متوسط خطأ توقع يبلغ 4% فقط للطاقة و3% للأداء، متفوقة على الطرق الحالية الرائدة بنسبة 10%. تشير النتائج إلى أن Minos لا يعزز فقط كفاءة تصنيف الأحمال ولكن أيضًا يحافظ على فعاليته عبر بائعي ومكونات GPU المختلفة. في النهاية، يساهم Minos في تطوير أنظمة HPC أكثر كفاءة من خلال تسهيل تحسين أفضل للأداء وإدارة الطاقة في مواجهة الطلبات المتزايدة للأحمال.
مقدمة
تناقش مقدمة ورقة البحث التعقيد المتزايد وتنوع الأحمال في مجموعات الحوسبة عالية الأداء الحديثة (HPC)، التي تشمل الآن مجموعة متنوعة من التطبيقات مثل خوارزميات التعلم الآلي (ML) (مثل الشبكات العصبية التلافيفية، والشبكات العصبية الرسومية) ومهام HPC التقليدية (مثل ديناميكا السوائل، وحسابات المواد). مع تطور هذه الأحمال، تقدم خصائص خوارزمية فريدة ومتطلبات نظام، مما يعقد تصميم وتكوين أنظمة HPC. تسلط الورقة الضوء على التحديات التي تطرحها قيود قانون مور وتوسع دينارد، مما يؤدي إلى الاعتماد على مجموعات كبيرة من المسرعات مثل GPUs، التي لها بصمات طاقة كبيرة تتزايد مع مرور الوقت.
لمعالجة قضايا إدارة الطاقة الناشئة عن الطلبات العالية للطاقة لهذه الأنظمة، يقدم المؤلفون Minos، وهو إطار تصنيف جديد يصنف الأحمال بناءً على كل من استهلاك الطاقة وخصائص الأداء. يستخدم Minos توزيعات ارتفاعات الطاقة لتجميع الأحمال ذات الأنماط الطاقية المتشابهة ويستخدم مقاييس الأداء مثل الذاكرة وإنتاجية الحوسبة للتجميع. يهدف الإطار إلى تحسين الطاقة والأداء دون الحاجة إلى تحليل شامل لكل حمل، محققًا أخطاء توقع تقل عن 5% وتقليل عبء التحليل بأكثر من 90%. يمثل هذا العمل تقدمًا كبيرًا في تصنيف تطبيقات GPU، مما يمكّن استراتيجيات إدارة الطاقة الأكثر كفاءة في بيئات HPC المتنوعة.
الطرق
توضح قسم المنهجية النهج المنهجي المستخدم في البحث. يتفصل التصميم التجريبي، بما في ذلك اختيار المشاركين، وتقنيات جمع البيانات، والأساليب التحليلية المستخدمة لتقييم النتائج. استخدمت الدراسة إطارًا كميًا، مستفيدة من أدوات إحصائية لتقييم أهمية النتائج.
شمل جمع البيانات استبيانًا منظمًا تم إدارته لعينة تمثيلية، مما يضمن أن النتائج قابلة للتعميم. تم إجراء التحليل باستخدام برنامج يسهل تطبيق اختبارات إحصائية متنوعة، مما يسمح بفحص قوي للفرضيات المطروحة في الدراسة. تم تعريف المقاييس والمتغيرات الرئيسية بوضوح لضمان إمكانية تكرارها وشفافيتها في عملية البحث.
بشكل عام، تم تصميم المنهجية لضمان الدقة والصلاحية، مما يوفر أساسًا قويًا للاستنتاجات المستخلصة في الدراسة.
النتائج
في هذا القسم، يقدم المؤلفون نتائج تصنيف سلوكيات الطاقة في الأحمال باستخدام توزيعات ارتفاعات الطاقة وأنماط استخدام الموارد. يتم بناء دندروغرام استنادًا إلى المسافات الكوسينية بين متجهات توزيع الطاقة، مما يسمح بتحديد ثلاث مجموعات متميزة من سلوكيات الطاقة عند تقطيعها عند مسافة كوسينية تبلغ 0.72. يتم تصنيف هذه المجموعات على أنها أحمال منخفضة الارتفاع (برتقالي)، وأحمال عالية الارتفاع (أخضر)، وأحمال مختلطة (أحمر). من الجدير بالذكر أن اختيار عتبة التجميع لا يؤثر على التوقعات التي يقدمها خوارزم Minos، الذي يعتمد على الجيران الأقرب بدلاً من تسميات المجموعات.
بالإضافة إلى ذلك، يستخدم المؤلفون تجميع K-Means لتحليل أنماط استخدام الموارد، محددين أن العدد الأمثل للمجموعات هو ثلاثة، كما تشير أعلى درجة سيلويت تبلغ 0.48. يتم تصنيف المجموعات على أنها أحمال كثيفة الحوسبة (فئة C)، وأحمال كثيفة الذاكرة (فئة M)، وأحمال هجينة (فئة H). عادةً ما تظهر الأحمال الكثيفة الحوسبة إنتاجية DRAM منخفضة (أقل من 15%) مع إنتاجية SM متغيرة (حوالي 40-95%)، بينما تظهر التطبيقات المرتبطة بالذاكرة إنتاجية SM منخفضة (بشكل عام أقل من 40%) ولكن مع تباين أعلى في إنتاجية DRAM (10% إلى 55%). تظهر التطبيقات الهجينة استخدامًا متوازنًا لكلا الموردين. توفر النتائج فهمًا دقيقًا لسلوكيات الأحمال وتأثيراتها على إدارة الموارد.
المناقشة
في هذا القسم، يناقش المؤلفون تطوير وتحقق Minos، وهو نظام تصنيف للأحمال مصمم لتعزيز إدارة الطاقة وتحسين الأداء لأحمال GPU. يسلطون الضوء على قيود الطرق التصنيفية الحالية، مثل MCBound وGuerreiro وآخرون، التي تركز إما فقط على الأداء أو الطاقة دون معالجة تعقيدات التطبيقات الحديثة التي تظهر سلوكيات طاقة ديناميكية، بما في ذلك ارتفاعات الطاقة. يميز Minos نفسه من خلال دمج التصنيفات المعتمدة على الطاقة والاستخدام، مما يسمح له بتوفير فهم أكثر شمولاً لخصائص الأحمال. يمكّن هذا النهج المزدوج من تحسينات ذكية على مستوى النظام، مثل تحديد التردد والتثبيت، المصممة لتلبية الاحتياجات المحددة لمختلف الأحمال.
يصف المؤلفون المنهجية المستخدمة في Minos، والتي تشمل مراقبة الطاقة منخفضة التكلفة لالتقاط الخصائص الطاقية الزمنية واستخدام التجميع الهرمي لتجميع الأحمال بناءً على توزيعات ارتفاعات الطاقة الخاصة بها. كما يصفون كيفية اشتقاق مقاييس الأداء على مستوى التطبيق لاستخدام DRAM وSM من عدادات أداء النواة، مما يسهل تصنيفًا دقيقًا للأحمال إلى فئات مثل الكثافة الحوسبية، الكثافة الهجينة بين الحوسبة والذاكرة، والكثافة الذاكرية. يتم التحقق من فعالية Minos من خلال التجارب التي أجريت على مجموعات حوسبة عالية الأداء متنوعة، مما يظهر قدرته على إبلاغ استراتيجيات إدارة الطاقة المتطورة وتحسين تخصيص الموارد في بيئات ذات خصائص أحمال متغيرة. بشكل عام، يمثل Minos تقدمًا كبيرًا في التصنيف المنهجي لأحمال GPU، مع معالجة كل من اعتبارات الأداء والطاقة في إطار موحد.
DOI: https://doi.org/10.1145/3805644
Publication Date: 2026-05-29
Author(s): Rutwik Jain et al.
Primary Topic: Graph Theory and Algorithms
Overview
The research paper introduces Minos, a systematic classification mechanism designed to address the challenges faced by large-scale High-Performance Computing (HPC) clusters that utilize GPUs. As these clusters strive to meet the increasing demands of modern workloads, they encounter power constraints and frequent power spikes that exceed the thermal design power (TDP) of the accelerators. Traditional methods of optimizing applications through extensive profiling are hindered by the diversity of workloads and the scale of HPC systems. Minos aims to streamline this process by enabling low-cost profiling that identifies similar application characteristics, allowing for the grouping of workloads into distinct classes. This approach significantly reduces the time required for profiling new applications, achieving an 89% reduction in profiling time for predicting frequency capping behavior.
The effectiveness of Minos is demonstrated through its application across 18 different workloads, including graph analytics, HPC, HPC+ML, and ML tasks. The mechanism yields a mean prediction error of only 4% for power and 3% for performance, outperforming existing state-of-the-art methods by 10%. The findings indicate that Minos not only enhances the efficiency of workload classification but also maintains its effectiveness across varying GPU vendors and configurations. Ultimately, Minos contributes to the development of more efficient HPC systems by facilitating better co-optimization of performance and power management in the face of increasing workload demands.
Introduction
The introduction of the research paper discusses the increasing complexity and diversity of workloads in modern high-performance computing (HPC) clusters, which now encompass a variety of applications such as machine learning (ML) algorithms (e.g., convolutional neural networks, graph neural networks) and traditional HPC tasks (e.g., fluid dynamics, material calculations). As these workloads evolve, they present unique algorithmic properties and system requirements, complicating the design and configuration of HPC systems. The paper highlights the challenges posed by the limitations of Moore’s Law and Dennard’s Scaling, leading to a reliance on large-scale clusters of accelerators like GPUs, which have significant power footprints that are growing over time.
To address the power management issues arising from the high energy demands of these systems, the authors introduce Minos, a novel classification framework that categorizes workloads based on both power consumption and performance characteristics. Minos utilizes power spike distributions to group workloads with similar power patterns and employs performance metrics such as memory and compute throughput for clustering. The framework aims to optimize power and performance without the need for extensive profiling of each workload, achieving less than 5% prediction errors and reducing profiling overhead by over 90%. This work represents a significant advancement in the classification of GPU applications, enabling more efficient power management strategies in diverse HPC environments.
Methods
The methodology section outlines the systematic approach employed in the research. It details the experimental design, including the selection of participants, data collection techniques, and analytical methods utilized to evaluate the results. The study employed a quantitative framework, utilizing statistical tools to assess the significance of the findings.
Data collection involved a structured survey administered to a representative sample, ensuring that the results are generalizable. The analysis was conducted using software that facilitated the application of various statistical tests, allowing for a robust examination of the hypotheses posed in the study. Key metrics and variables were defined clearly to ensure replicability and transparency in the research process.
Overall, the methodology is designed to ensure rigor and validity, providing a solid foundation for the conclusions drawn in the study.
Results
In this section, the authors present the classification results of power behaviors in workloads using power spike distributions and resource utilization patterns. A dendrogram is constructed based on cosine distances between power distribution vectors, allowing for the identification of three distinct groups of power behaviors when sliced at a cosine distance of 0.72. These groups are labeled as Low-spike (orange), High-spike (green), and Mixed workloads (red). Notably, the choice of clustering threshold does not impact the predictions made by Minos’s Algorithm, which relies on nearest neighbors rather than cluster labels.
Additionally, the authors employ K-Means clustering to analyze resource utilization patterns, determining that the optimal number of clusters is three, as indicated by the highest Silhouette Score of 0.48. The clusters are categorized as compute-intensive (C class), memory-intensive (M class), and hybrid workloads (H class). Compute-intensive workloads typically show low DRAM throughput (below 15%) with variable SM throughput (approximately 40-95%), while memory-bound applications exhibit low SM throughput (generally below 40%) but higher variability in DRAM throughput (10% to 55%). Hybrid applications demonstrate a balanced utilization of both resources. The findings provide a nuanced understanding of workload behaviors and their implications for resource management.
Discussion
In this section, the authors discuss the development and validation of Minos, a workload classification system designed to enhance power management and performance optimization for GPU workloads. They highlight the limitations of existing classification methods, such as MCBound and Guerreiro et al., which either focus solely on performance or power without addressing the complexities of modern applications that exhibit dynamic power behaviors, including power spikes. Minos distinguishes itself by integrating both power and utilization-based classifications, allowing it to provide a more comprehensive understanding of workload characteristics. This dual approach enables intelligent system-level optimizations, such as frequency capping and pinning, tailored to the specific needs of different workloads.
The authors detail the methodology employed in Minos, which includes low-cost power monitoring to capture temporal power characteristics and the use of hierarchical clustering to group workloads based on their power spike distributions. They also describe how application-level metrics for DRAM and SM utilization are derived from kernel performance counters, facilitating a nuanced classification of workloads into categories such as Compute Intensive, Compute-Memory Hybrid Intensive, and Memory Intensive. The effectiveness of Minos is validated through experiments conducted on diverse high-performance computing clusters, demonstrating its capability to inform sophisticated power management strategies and improve resource allocation in environments with varying workload characteristics. Overall, Minos represents a significant advancement in the systematic characterization of GPU workloads, addressing both performance and power considerations in a unified framework.