قابلية التخليق عبر هندسة المكافآت: توسيع التصميم الجزيئي التوليدي إلى الفضاء الاصطناعي Synthesizability via reward engineering: expanding generative molecular design into synthetic space

شارك:
المجلة: Chemical Science، المجلد: 17، العدد: 20
DOI: https://doi.org/10.1039/d5sc09263a
PMID: https://pubmed.ncbi.nlm.nih.gov/41953480
تاريخ النشر: 2026-01-01
المؤلف: Dominik Dekleva وآخرون
الموضوع الرئيسي: طرق اكتشاف الأدوية الحاسوبية

نظرة عامة

يقدم هذا القسم نظرة عامة على SynthSense، وهو إطار عمل جديد للتعلم المعزز مصمم لتعزيز توليد الجزيئات الشبيهة بالأدوية في اكتشاف الأدوية بمساعدة الكمبيوتر من خلال دمج الجدوى الاصطناعية في عملية تصميم الجزيئات. غالبًا ما تنتج النماذج التوليدية التقليدية مركبات يصعب تصنيعها بسبب نقص الوعي بالتصنيع. يتناول SynthSense هذه المشكلة من خلال تحسين ليس فقط الخصائص الجزيئية ولكن أيضًا مراعاة عوامل مثل المواد الأولية المتاحة والتفاعلات المفضلة. يسمح هذا النهج بتوليد مركبات يمكن تصنيعها بشكل متوازي، مما يقلل من التكاليف والتعقيد في سير العمل الكيميائي الطبي.

يستخدم SynthSense وظائف مكافأة خارجية لتقييم جدوى الجزيئات المولدة بناءً على الالتزام بالكتل البنائية المتاحة والمسارات الاصطناعية المحددة مسبقًا. بالإضافة إلى ذلك، يتضمن وظائف داخلية على مستوى الدفعة لضمان التناسق في المسارات الاصطناعية عبر مركبات متعددة. أظهرت التحقق في السيليكو أن SynthSense تفوق بشكل كبير على النماذج التقليدية غير الواعية بالتصنيع، حيث أنتجت 6.2 مرة أكثر من المركبات القابلة للتصنيع، محققة زيادة بمقدار 727 مرة في الضربات التي يمكن تصنيعها عبر المسارات المحددة مسبقًا، وملأت 4.1 مرة أكثر من ألواح التصنيع المتوازية الافتراضية. تسلط هذه النتائج الضوء على إمكانية إعادة صياغة القابلية للتصنيع كهدف تصميم نشط، مما يجعل الذكاء الاصطناعي التوليدي أكثر توافقًا مع الاحتياجات العملية للكيمياء الطبية الحديثة ويسهل التصميم الاصطناعي المخصص وسير العمل الآلي.

مقدمة

تناقش مقدمة هذه الورقة البحثية التحديات المتعلقة باكتشاف جزيئات جديدة شبيهة بالأدوية ضمن الفضاء الكيميائي الواسع، الذي يُقدّر أنه يحتوي على أكثر من \(10^{60}\) مركب محتمل. تعتبر الطرق التجريبية التقليدية غير عملية للاستكشاف الشامل، مما يدفع إلى استخدام نماذج توليد عميقة، مثل مشفرات التباين وإطارات التعلم المعزز، لتصميم جزيئات بخصائص محددة. ومع ذلك، تظل العديد من الهياكل المحسّنة حسابيًا صعبة التصنيع، مما يتطلب دمج إمكانية الوصول الاصطناعي (SA) في عملية توليد الجزيئات. تعاني المقاييس المبكرة، مثل درجة الوصول الاصطناعي ودرجة التعقيد الاصطناعي، من قيود بسبب اعتمادها على البيانات التاريخية وطبيعتها الثابتة.

لمعالجة هذه التحديات، تقدم الورقة SynthSense، وهو مكون تقييم جديد ضمن إطار REINVENT يعزز عملية توليد الجزيئات الواعية بالتصنيع. يجمع SynthSense بين وظائف المكافأة الداخلية والخارجية لتعزيز تصميم عائلات من الجزيئات ذات الاستراتيجيات الاصطناعية المتماسكة، بدلاً من المركبات المعزولة. تقوم الوظائف الخارجية، مثل درجة الجدوى الاصطناعية (SFScore) ودرجة المسار المرجعي (RRScore)، بتقييم الجزيئات الفردية وفقًا لمعايير محددة من قبل المستخدم، بينما توجه الوظائف الداخلية، مثل شعبية المسار وملء اللوحة، التوليد على مستوى الدفعة. يقوم المؤلفون بالتحقق من صحة SynthSense من خلال تجارب في السيليكو، مما يظهر تحسينات كبيرة في الجدوى الاصطناعية وتغطية ألواح التصنيع المتوازية الافتراضية، مما يعزز التطبيق العملي للنماذج التوليدية في اكتشاف الأدوية.

طرق

تدمج الطرق المستخدمة في هذه الدراسة، المسماة SynthSense، التغذية الراجعة الارتجاعية في التعلم المعزز (RL) لتعزيز تصميم الجزيئات. يستخدم SynthSense AiZynthFinder للتحليل الارتجاعي وNameRxn لتصنيف التفاعلات، ويعمل كعائلة مكافآت لمنصة REINVENT. يقوم النظام بتقييم الجزيئات المولدة من خلال تعداد المسارات الاصطناعية من المواد الأولية المتاحة، وتصنيفها على أنها محلولة أو غير محلولة بناءً على قدرتها على العودة إلى المواد الكيميائية الأساسية. تعتمد وظائف المكافأة المختلفة، مثل RRScore وشعبية المسار، فقط على المسارات المحلولة، بينما تتضمن SFScore وملء اللوحة كلاً من المسارات المحلولة وغير المحلولة، حيث تستخدم الأخيرة توقيعات التفاعل المشفرة بواسطة تصنيف NameRxn الهرمي.

في الإعداد التجريبي، تم إجراء تجارب RL ثلاث مرات باستخدام REINVENT، مع التركيز على ثلاث فئات تفاعلات محددة وحد أقصى من ثلاث خطوات اصطناعية لكل مسار. عرفت الدراسة الضربات القابلة للتصنيع على أنها جزيئات يمكن تصنيعها من مجموعة من الكتل البنائية مع تجاوز درجة Tanimoto Combo بمقدار 0.6 ودرجة تقدير كمي للشبه بالأدوية (QED) بمقدار 0.7. تتبع التحليل تطور استخدام المسار واكتشاف الضربات عبر عصور التدريب، مع مكافأة متوسطة هندسية تجمع بين SynthSense وQED وROCS التي توجه عملية التحسين. تم أيضًا إجراء تجارب تحكم لتقييم تأثير SynthSense على نتائج تصميم الجزيئات العامة.

نتائج

في قسم النتائج، تقيم الدراسة تكوينات مكافأة مختلفة لأشجار الارتجاع، مع التركيز على أدائها في توليد المسارات الاصطناعية. يكشف التحليل أن RRScore وشعبية المسار، اللذان يستخدمان فقط المسارات المحلولة، يتفوقان على التكوينات الأخرى. في المقابل، تستفيد SFScore وملء اللوحة من كل من المسارات المحلولة وغير المحلولة، مما يظهر كفاءة محسّنة في توليد الضربات والهياكل القابلة للتصنيع.

تشير النتائج إلى أن دمج SFScore يسرع بشكل ملحوظ من عملية التوليد. على وجه التحديد، يظهر تقدم التدريب مع RRScore انخفاضًا ملحوظًا في متوسط مسافة تعديل الشجرة (TED) بين المسارات الاصطناعية المولدة والمسارات المرجعية، مما يدل على تحسين التقارب. بالإضافة إلى ذلك، يؤدي تحسين RRScore إلى زيادة كبيرة في عدد ضربات المسار المرجعي مقارنةً بالتحكم، كما يتضح من القيم المتوسطة عبر ثلاث تجارب تدريب مستقلة، جنبًا إلى جنب مع انحرافاتها المعيارية.

مناقشة

يقدم قسم المناقشة في الورقة البحثية تقييمًا شاملاً لـ SynthSense، وهو إطار تصميم جزيئي واعٍ بالتصنيع يدمج كل من وظائف المكافأة الداخلية والخارجية لتعزيز توليد الجزيئات القابلة للتصنيع. تقوم SFScore، وهي مكافأة خارجية، بتحديد إمكانية الوصول الاصطناعي (SA) من خلال تقييم جدوى تصنيع الجزيئات بناءً على المواد الأولية المتاحة، والتفاعلات المفضلة، وحدود الخطوات. يتناول هذا النهج قيود درجات SA التقليدية من خلال دمج القيود المحددة من قبل المستخدم التي تعكس سير العمل في الكيمياء الطبية في العالم الحقيقي. تشير النتائج إلى أن SFScore تتفوق بشكل كبير على طرق التحكم، محققة زيادة بمقدار 6.2 مرة في توليد الضربات القابلة للتصنيع وزيادة بمقدار 2.1 مرة في هياكل الضربات الفريدة القابلة للتصنيع.

بالإضافة إلى ذلك، توجه مكافآت RRScore وشعبية المسار توليد الجزيئات نحو المسارات الاصطناعية المحددة مسبقًا والاستراتيجيات الشائعة، على التوالي. بينما أظهرت RRScore زيادة كبيرة في الجزيئات المتوافقة مع المسارات المستهدفة، أدت شعبية المسار إلى استغلال مفرط للمساحات الاصطناعية الضيقة، مما أسفر عن تنوع محدود في الضربات. لمواجهة ذلك، تعزز وظيفة مكافأة ملء اللوحة تنويع المسارات من خلال معاقبة المسارات الاصطناعية المشبعة وتشجيع استكشاف الاستراتيجيات غير الممثلة. أسفر هذا الآلية عن زيادة بمقدار 2.2 مرة في الضربات التراكمية وزيادة بمقدار 2.9 مرة في هياكل الضربات الفريدة مقارنة بطرق التحكم. بشكل عام، يجمع SynthSense بشكل فعال بين المكافآت الداخلية والخارجية للتنقل في المشهد الاصطناعي، مما يعزز كل من الجدوى وجودة الجزيئات المولدة، وبالتالي يعزز الإمكانية للتطبيقات الواقعية في اكتشاف الجزيئات.

Journal: Chemical Science, Volume: 17, Issue: 20
DOI: https://doi.org/10.1039/d5sc09263a
PMID: https://pubmed.ncbi.nlm.nih.gov/41953480
Publication Date: 2026-01-01
Author(s): Dominik Dekleva et al.
Primary Topic: Computational Drug Discovery Methods

Overview

The section presents an overview of SynthSense, a novel reinforcement learning framework designed to enhance the generation of drug-like molecules in computer-aided drug discovery by incorporating synthetic feasibility into the molecular design process. Traditional generative models often produce compounds that are challenging to synthesize due to a lack of synthesis awareness. SynthSense addresses this issue by optimizing not only molecular properties but also considering factors such as available starting materials and preferred reactions. This approach allows for the generation of compounds that can be synthesized in parallel, thereby reducing costs and complexity in medicinal chemistry workflows.

SynthSense employs extrinsic reward functions to evaluate the feasibility of generated molecules based on adherence to available building blocks and predefined synthetic routes. Additionally, it incorporates intrinsic batch-level functions to ensure coherence in synthetic routes across multiple compounds. In silico validation demonstrated that SynthSense significantly outperformed traditional synthesis-unaware models, generating 6.2 times more synthetically feasible compounds, achieving a 727-fold enrichment in hits that could be synthesized via predefined routes, and populating 4.1 times more virtual parallel synthesis plates. These findings highlight the potential of reframing synthesizability as an active design objective, thus aligning generative AI more closely with the practical needs of modern medicinal chemistry and facilitating personalized synthetic design and automated workflows.

Introduction

The introduction of this research paper discusses the challenges of discovering novel, drug-like molecules within the vast chemical space, which is estimated to contain over \(10^{60}\) potential compounds. Traditional experimental methods are impractical for exhaustive exploration, prompting the use of deep generative models, such as variational autoencoders and reinforcement learning frameworks, to design molecules with specific properties. However, many computationally optimized structures remain difficult to synthesize, necessitating the integration of synthetic accessibility (SA) into the molecular generation process. Early metrics, like the Synthetic Accessibility Score and the Synthetic Complexity Score, have limitations due to their reliance on historical data and static nature.

To address these challenges, the paper introduces SynthSense, a novel scoring component within the REINVENT framework that enhances the synthesis-aware molecular generation process. SynthSense combines intrinsic and extrinsic reward functions to promote the design of families of molecules with coherent synthetic strategies, rather than isolated compounds. Extrinsic functions, such as the Synthetic Feasibility Score (SFScore) and Reference Route Score (RRScore), evaluate individual molecules against user-defined criteria, while intrinsic functions, like Route Popularity and Fill-a-Plate, guide batch-level generation. The authors validate SynthSense through in silico experiments, demonstrating significant improvements in synthetic feasibility and coverage of virtual parallel synthesis plates, thereby enhancing the practical application of generative models in drug discovery.

Methods

The methods employed in this study, termed SynthSense, integrate retrosynthetic feedback into reinforcement learning (RL) to enhance molecular design. SynthSense utilizes AiZynthFinder for retrosynthetic analysis and NameRxn for reaction classification, functioning as a reward family for the REINVENT platform. The system evaluates generated molecules by enumerating synthetic routes from available starting materials, categorizing them as solved or unsolved based on their ability to trace back to stock reagents. Different reward functions, such as RRScore and Route Popularity, rely solely on solved routes, while SFScore and Fill-a-Plate incorporate both solved and unsolved routes, with the latter two utilizing reaction signatures encoded by NameRxn’s hierarchical classification.

In the experimental setup, RL experiments were conducted in triplicate using REINVENT, with a focus on three specific reaction classes and a maximum of three synthetic steps per route. The study defined feasible hits as molecules that could be synthesized from a set of building blocks while exceeding a Tanimoto Combo score of 0.6 and a Quantitative Estimate of Drug-likeness (QED) score of 0.7. The analysis tracked the evolution of route utilization and the discovery of hits across training epochs, with a geometric mean reward combining SynthSense, QED, and ROCS metrics guiding the optimization process. Control runs were also performed to assess the impact of SynthSense on the overall molecular design outcomes.

Results

In the results section, the study evaluates various reward configurations for retrosynthesis trees, focusing on their performance in generating synthetic routes. The analysis reveals that RRScore and Route Popularity, which utilize only solved routes, outperform other configurations. In contrast, SFScore and Fill-a-Plate leverage both solved and unsolved routes, demonstrating enhanced efficiency in generating synthetically feasible hits and scaffolds.

The findings indicate that the incorporation of SFScore notably accelerates the generation process. Specifically, the training progression with RRScore shows a marked decrease in average Tree Edit Distance (TED) between the generated synthetic routes and the reference pathways, signifying improved convergence. Additionally, RRScore optimization leads to a significant increase in the number of reference route hits compared to the control, as evidenced by the mean values across three independent training runs, along with their standard deviations.

Discussion

The discussion section of the research paper presents a comprehensive evaluation of SynthSense, a synthesis-aware molecular design framework that integrates both intrinsic and extrinsic reward functions to enhance the generation of synthetically feasible molecules. The SFScore, an extrinsic reward, quantifies synthetic accessibility (SA) by assessing the feasibility of synthesizing molecules based on available starting materials, preferred reactions, and step limits. This approach addresses the limitations of traditional SA scores by incorporating user-defined constraints that reflect real-world medicinal chemistry workflows. The results indicate that SFScore significantly outperforms control methods, achieving a 6.2-fold increase in feasible hit generation and a 2.1-fold increase in unique feasible hit scaffolds.

Additionally, the RRScore and Route Popularity rewards guide molecular generation towards predefined synthetic routes and popular strategies, respectively. While RRScore demonstrated a dramatic enrichment in molecules aligned with target pathways, Route Popularity led to over-exploitation of narrow synthetic spaces, resulting in limited hit diversity. To counteract this, the Fill-a-Plate reward function promotes route diversification by penalizing saturated synthetic routes and encouraging exploration of under-represented strategies. This mechanism resulted in a 2.2-fold increase in cumulative hits and a 2.9-fold increase in unique hit scaffolds compared to control methods. Overall, SynthSense effectively combines intrinsic and extrinsic rewards to navigate the synthetic landscape, enhancing both the feasibility and quality of generated molecules, thereby advancing the potential for real-world applications in molecular discovery.