نظرة عامة

تتناول هذه البحث تحدي توقع البقاء في المعلوماتية الطبية، وخاصة في سياق مجموعات البيانات السريرية الصغيرة، مثل تلك التي تشمل مرضى السرطان. يقترح المؤلفون الاستفادة من تقنيات التعلم الانتقالي لتعزيز تحليل البقاء من خلال استخدام المعرفة من مجموعات البيانات ذات الصلة. يقومون بتطوير طرق تعلم انتقالي متنوعة مصممة لكل من النماذج المعلمية، بما في ذلك DeepSurv وCox-CC وDeepHit، ونموذج غابة البقاء الانتقالية (TSF) الجديد للنهج غير المعلمي مثل غابات البقاء العشوائية. يقوم نموذج TSF بنقل هياكل الأشجار من المهام المصدر ويقوم بضبطها باستخدام بيانات الهدف.

تقوم الدراسة بتقييم هذه الطرق للتعلم الانتقالي على مهام توقع البقاء لسرطان القولون والمستقيم، باستخدام بيانات المصدر من قاعدة بيانات SEER وبيانات الهدف من مستشفى غرب الصين. تشير النتائج إلى أن كلا مجموعتي الطرق الانتقالية تحسن الأداء بشكل كبير عبر أحجام عينات صغيرة مختلفة مقارنة بالنماذج غير الانتقالية، مما يبرز فعالية التعلم الانتقالي في توقع السرطان. ومن الجدير بالذكر أن نماذج البقاء الشبكية العصبية تظهر قوة أكبر في سيناريوهات العينات الصغيرة بسبب اعتمادها المنخفض على بيانات الهدف، بينما توفر غابات البقاء العشوائية قابلية تفسير أفضل ولكن تتطلب ضبطًا دقيقًا لتجنب الإفراط في التكيف أو نقص التكيف.

مقدمة

تسلط مقدمة ورقة البحث الضوء على أهمية تحليل البقاء في البحث الطبي، مع التركيز على ثنائيته في حدوث الأحداث (مثل الموت، تقدم المرض) والوقت حتى حدوث هذه الأحداث. تسهل الطرق الإحصائية التقليدية، مثل مقدر كابلان-ماير ونموذج المخاطر النسبية لكوك، تقدير احتمالات البقاء وتسمح بالمقارنات عبر مجموعات العلاج مع الأخذ في الاعتبار المتغيرات. ومع ذلك، تظهر التحديات بسبب الأحجام المحدودة غالبًا في التجارب السريرية ومعدلات الحدوث المنخفضة للأحداث، مما يمكن أن يعيق النمذجة الإحصائية القوية. تتفاقم هذه الحالة بسبب الاتجاه المتزايد نحو الطب الشخصي، الذي ينطوي عادةً على مجموعات صغيرة ذات خصائص جزيئية محددة.

لمعالجة هذه التحديات، تستكشف الدراسة تطبيق تقنيات التعلم الآلي ضمن تحليل البقاء، مع التركيز بشكل خاص على نماذج مثل DeepSurv وCox-CC وDeepHit وغابات البقاء العشوائية. يقترح المؤلفون أطر تعلم انتقالي مبتكرة تستخدم مجموعات بيانات كبيرة ومتاحة للجمهور (مثل قاعدة بيانات SEER) لتعزيز أداء التنبؤ على مجموعات بيانات أصغر، مثل تلك التي تشمل مرضى سرطان القولون والمستقيم. توضح الدراسة تقنيات التعلم الانتقالي القياسية، بما في ذلك تدريب النموذج المسبق، وإعادة التدريب، وضبط الدقة، بينما تقدم أيضًا طرقًا جديدة لغابات البقاء العشوائية تتضمن “زراعة” الأشجار من مهمة مصدر إلى مهمة هدف. تهدف هذه الطريقة إلى تحسين كفاءة النمذجة الإحصائية وفي النهاية إبلاغ اتخاذ القرارات السريرية.

طرق

في هذا القسم، يحدد المؤلفون طرق التعلم الانتقالي المقترحة الخاصة بهم المصممة لنماذج تحليل البقاء المختلفة (SA)، المصنفة إلى نهج معلمي (مبني على الشبكات العصبية) وغير معلمي (غابات البقاء العشوائية). يستخدم التصميم التجريبي مجموعة بيانات SEER لتدريب النماذج مسبقًا، تليها تحسين من خلال التحقق المتقاطع. تتكون مجموعة بيانات الهدف، WCH، من 728 عينة، تعتبر كافية لتحليل البقاء، ومع ذلك، يستكشف المؤلفون أيضًا سيناريوهات مع أحجام عينات محدودة (n = 500، 200، 100، 50، وأقل من 50) لتقييم أداء طرق التعلم الانتقالي تحت ظروف متغيرة.

لضمان مقارنة عادلة عبر أحجام عينات مختلفة، يتم استخدام تحقق متقاطع مصنف 10 مرات. يتضمن ذلك تقسيم مجموعة البيانات الكاملة إلى عشرة أجزاء متساوية، حيث تعمل واحدة منها كمجموعة اختبار بينما تُستخدم التسع المتبقية للتدريب. يتم استخدام مؤشر التوافق الزمني المعتمد (C_td) كمقياس تقييم رئيسي، يقيم العلاقة بين تصنيفات المخاطر المتوقعة وأوقات البقاء الفعلية. يستفيد المؤلفون من مكتبة pycox لتنفيذ نماذج مثل DeepSurv وCox-CC وDeepHit، بينما يتم توفير طريقتهم الجديدة لغابة البقاء الانتقالية (TSF) للجمهور على GitHub.

نتائج

في هذا القسم، يقيم المؤلفون طرق التعلم الانتقالي المقترحة الخاصة بهم المطبقة على نماذج البقاء لتوقع النتائج في مرضى سرطان القولون والمستقيم في المرحلة الأولى باستخدام بيانات من مستشفى غرب الصين (WCH) وقاعدة بيانات المراقبة، علم الأوبئة، والنتائج النهائية (SEER). يتم تقديم النتائج لكل من النماذج المعلمية، بما في ذلك النماذج المعتمدة على كوك والشبكات العصبية، بالإضافة إلى غابات البقاء الانتقالية (TSF). يتم الإبلاغ عن مقاييس الأداء، وخاصة مؤشر التوافق الزمني المعتمد ($C_{td}$)، عبر أحجام عينات مختلفة، مع إجراء مقارنات ضد النماذج الأساسية التي استخدمت فقط بيانات الهدف أو طبقت مباشرة نماذج مدربة مسبقًا دون ضبط.

تشير النتائج إلى أن كل من ضبط الدقة وإعادة التدريب يعززان أداء النموذج بشكل كبير، خاصة مع زيادة أحجام العينات. ومن الجدير بالذكر أنه بالنسبة لنماذج الشبكات العصبية، فإن إعادة التدريب عمومًا تتفوق على ضبط الدقة عندما تكون البيانات وفيرة (≥500 عينة)، بينما يصبح ضبط الدقة مفيدًا مع البيانات المحدودة (≤50 عينة). بالنسبة لـ TSFs، تظهر النتائج أنها يمكن أن تتفوق على النماذج غير الانتقالية عندما تكون أحجام بيانات التدريب كافية (≥40 عينة)، محققة أعلى درجات $C_{td}$ (>0.82). ومع ذلك، يتم ملاحظة النقل السلبي عندما تنخفض أحجام البيانات إلى أقل من 80، مما يبرز أهمية حجم البيانات في أداء النموذج. يوصي المؤلفون بنهج محافظ في مثل هذه الحالات، مقترحين نقل فقط أعلى مستويات الميزات لتخفيف الإفراط في التكيف. بشكل عام، تؤكد هذه النتائج على فعالية التعلم الانتقالي في تحليل البقاء بينما تقدم أيضًا إرشادات عملية بناءً على توفر البيانات.

مناقشة

في هذا القسم، يناقش المؤلفون تطبيق تقنيات التعلم الانتقالي لتعزيز نماذج تحليل البقاء، مع التركيز بشكل خاص على توقع سرطان القولون والمستقيم باستخدام بيانات من SEER ومستشفى غرب الصين (WCH). يقيمون نماذج متنوعة، بما في ذلك النهج المعتمدة على الشبكات العصبية (DeepSurv وCox-CC وDeepHit) وغابات البقاء العشوائية (RSFs)، مشيرين إلى أن التعلم الانتقالي يحسن بشكل كبير من دقة التنبؤ، خاصة في السيناريوهات ذات أحجام العينات المحدودة. تؤكد النتائج على الأهمية السريرية لهذه الطرق، حيث يمكن أن تقلل من الحاجة إلى مجموعات مرضى كبيرة، والتي غالبًا ما تكون مكلفة وتستغرق وقتًا طويلاً لتطويرها.

يتناول المؤلفون أيضًا قيود طرق التعلم الانتقالي الحالية، وخاصة تركيزها على النماذج المعلمية، ويقترحون تقنيات جديدة لـ RSFs. يظهرون أنه بينما تكون نماذج الشبكات العصبية أكثر قوة في سياقات العينات الصغيرة بسبب اعتمادها المنخفض على بيانات الهدف، فإن RSFs تقدم قابلية تفسير أفضل. تختتم الدراسة بأن كلا النهجين يمكن أن يستفيدا بشكل فعال من التعلم الانتقالي لتعزيز توقع السرطان، مع توصيات لتحسين هياكل الأشجار في RSFs لتحقيق توازن بين مخاطر الإفراط في التكيف ونقص التكيف. بشكل عام، تسهم هذه البحث في مجموعة الأعمال المتزايدة التي تطبق تقنيات التعلم الآلي المتقدمة على تحليل البقاء، مع آثار محتملة تتجاوز علم الأورام.

القيود

يسلط قسم القيود الضوء على عدة قيود رئيسية للدراسة حول تطبيق التعلم الانتقالي على توقع السرطان. أولاً، بينما قدمت قاعدة بيانات SEER نماذج مصدر قوية، لم يتم استكشاف تأثير التعديلات على هذه النماذج بشكل كامل. يمكن أن تحقق الأبحاث المستقبلية من مساهمات نماذج المصدر الأقل تعقيدًا والتحسينات المحتملة التي يمكن أن تقدمها تقنيات ضبط الدقة عند العمل مع بيانات هدف محدودة.

ثانيًا، استخدمت الدراسة بيانات المصدر والهدف مع مجموعات ميزات متطابقة تمامًا، مما قد لا يعكس التباين الذي يتم مواجهته في مهام سريرية أخرى حيث غالبًا ما تختلف مجموعات الميزات. يعد معالجة تحدي الميزات غير المتداخلة أمرًا أساسيًا لتقدم منهجيات التعلم الانتقالي. أخيرًا، يقترح المؤلفون أن دمج البيانات متعددة الأنماط، وخاصة من الجينوميات والبروتينات، يمكن أن يعزز بشكل كبير نماذج توقع السرطان. يقترحون دمج نماذج مدربة مسبقًا، مثل GeneFormer، مع بيانات RNA-seq الكثيفة ونتائج البقاء لتطوير توقعات بقاء أكثر شمولاً ودقة.

Overview

This research addresses the challenge of survival prognosis in medical informatics, particularly in the context of small clinical datasets, such as those involving cancer patients. The authors propose leveraging transfer learning techniques to enhance survival analysis by utilizing knowledge from related datasets. They develop various transfer learning methods tailored for both parametric models, including DeepSurv, Cox-CC, and DeepHit, and a novel transfer survival forest (TSF) model for non-parametric approaches like Random Survival Forests. The TSF model innovatively transfers tree structures from source tasks and fine-tunes them with target data.

The study evaluates these transfer learning methods on colorectal cancer prognosis tasks, utilizing source data from the SEER database and target data from the West China Hospital. Results indicate that both sets of transfer methods significantly improve performance across various small sample sizes compared to non-transfer models, underscoring the effectiveness of transfer learning in cancer prognosis. Notably, neural network survival models demonstrate greater robustness in small sample scenarios due to their reduced dependence on target data, while Random Survival Forests offer better interpretability but require careful tuning to avoid overfitting or underfitting.

Introduction

The introduction of the research paper highlights the significance of survival analysis in medical research, emphasizing its dual focus on event occurrence (e.g., death, disease progression) and the time until these events. Traditional statistical methods, such as the Kaplan-Meier estimator and the Cox proportional hazards model, facilitate the estimation of survival probabilities and allow for comparisons across treatment groups while accounting for covariates. However, challenges arise due to the often limited sample sizes in clinical trials and the low incidence rates of events, which can hinder robust statistical modeling. This situation is exacerbated by the increasing trend towards personalized medicine, which typically involves small cohorts with specific molecular characteristics.

To address these challenges, the study explores the application of machine learning techniques within survival analysis, particularly focusing on models like DeepSurv, Cox-CC, DeepHit, and Random Survival Forests. The authors propose innovative transfer learning frameworks that utilize large, publicly available datasets (e.g., SEER database) to enhance prediction performance on smaller datasets, such as those involving colorectal cancer patients. The study outlines standard transfer learning techniques, including model pretraining, retraining, and fine-tuning, while also introducing novel methods for Random Survival Forests that involve “transplanting” trees from a source task to a target task. This approach aims to improve statistical modeling efficiency and ultimately inform clinical decision-making.

Methods

In this section, the authors outline their proposed transfer learning methods tailored for different survival analysis (SA) models, categorized into parametric (neural network-based) and nonparametric (random survival forests) approaches. The experimental design utilizes the SEER dataset for pretraining the models, followed by optimization through cross-validation. The target dataset, WCH, consists of 728 samples, deemed adequate for survival analysis, yet the authors also explore scenarios with limited sample sizes (n = 500, 200, 100, 50, and <50) to evaluate the performance of transfer learning methods under varying conditions. To ensure a fair comparison across different sample sizes, a 10-fold stratified cross-validation is employed. This involves dividing the full dataset into ten equal parts, where one fold serves as the test set while the remaining nine are used for training. The timed-dependent concordance index (C_td) is utilized as the primary evaluation metric, assessing the correlation between predicted risk rankings and actual survival times. The authors leverage the pycox library for implementing models such as DeepSurv, Cox-CC, and DeepHit, while their novel Transfer Survival Forest (TSF) method is made publicly available on GitHub.

Results

In this section, the authors evaluate their proposed transfer learning methods applied to survival models for predicting outcomes in stage I colorectal cancer patients using data from the West China Hospital (WCH) and the Surveillance, Epidemiology, and End Results (SEER) database. The results are presented for both parametric models, including Cox-based models and neural networks, as well as transfer survival forests (TSF). The performance metrics, specifically the time-dependent concordance index ($C_{td}$), are reported across various sample sizes, with comparisons made against baseline models that either used only target data or directly applied pretrained models without fine-tuning.

The findings indicate that both fine-tuning and retraining significantly enhance model performance, particularly as sample sizes increase. Notably, for neural network models, retraining generally outperforms fine-tuning when data is abundant (≥500 samples), while fine-tuning becomes advantageous with limited data (≤50 samples). For TSFs, the results show that they can outperform non-transfer models when training data sizes are sufficient (≥40 samples), achieving the highest $C_{td}$ scores (>0.82). However, negative transfer is observed when data sizes drop below 80, highlighting the importance of data volume in model performance. The authors recommend a conservative approach in such cases, suggesting the transfer of only the top levels of features to mitigate overfitting. Overall, these results underscore the efficacy of transfer learning in survival analysis while also providing practical guidelines based on data availability.

Discussion

In this section, the authors discuss the application of transfer learning techniques to enhance survival analysis models, particularly focusing on colorectal cancer prognosis using data from the SEER and West China Hospital (WCH). They evaluate various models, including neural network-based approaches (DeepSurv, Cox-CC, DeepHit) and random survival forests (RSFs), highlighting that transfer learning significantly improves predictive accuracy, especially in scenarios with limited sample sizes. The findings underscore the clinical relevance of these methods, as they can reduce the need for large-scale patient cohorts, which are often costly and time-consuming to develop.

The authors also address the limitations of existing transfer learning methods, particularly their focus on parametric models, and propose novel techniques for RSFs. They demonstrate that while neural network models are more robust in small sample contexts due to their lower dependency on target data, RSFs offer superior interpretability. The study concludes that both approaches can effectively leverage transfer learning to enhance cancer prognosis, with recommendations for optimizing tree structures in RSFs to balance the risks of overfitting and underfitting. Overall, this research contributes to the growing body of work that applies advanced machine learning techniques to survival analysis, with potential implications beyond oncology.

Limitations

The section on limitations highlights several key constraints of the study on applying transfer learning to cancer prognosis. Firstly, while the SEER database provided robust source models, the impact of modifications to these models was not fully explored. Future research could investigate the contributions of less complex source models and the potential enhancements that fine-tuning techniques could offer when working with limited target data.

Secondly, the study utilized source and target data with completely aligned feature sets, which may not reflect the variability encountered in other clinical tasks where feature sets often differ. Addressing the challenge of non-overlapping features is essential for advancing transfer learning methodologies. Lastly, the authors suggest that the integration of multi-modal data, particularly from genomics and proteomics, could significantly enhance cancer prognosis models. They propose combining pre-trained models, such as GeneFormer, with bulk RNA-seq data and survival outcomes to develop more comprehensive and accurate survival predictions.