编辑 | KX
分子描述符广泛应用于分子建模,但在 AI 辅助分子发现领域,缺乏自然适用、完整且「原始」的分子表征是一个挑战,影响 AI 模型的性能和可解释性。
在使用先进的自然语言处理(NLP)方法解决化学问题时,会出现两个基本问题:(1)什么是「化学词」?(2)如何将它们编码为「化学句子」?
近日,湖南大学研究团队提出了一种灵活的、基于片段的多尺度分子表征框架 t-SMILES 的框架来解决第二个问题。
该框架使用 SMILES 类型的字符串描述分子,并且可以将基于序列的模型作为主要生成模型。t-SMILES 具有三种代码算法:TSSA、TSDY 和 TSID。
实验表明,t-SMILES 模型可以生成 100% 理论有效性且高度新颖的分子,优于基于 SOTA SMILES 的模型。
此外,无论模型是原始的、数据增强的还是预训练后微调的,它都可以避免过拟合,并在标记的低资源数据集上保持合理的相似性的同时获得更高的新颖性分数。
该研究以「t-SMILES: a fragment-based molecular representation framework for de novo ligand design」为题,于 6 月 11 日发布在《Nature Communications》上。
论文链接:https://www.nature.com/articles/s41467-024-49388-6
基于 SMILES 的分子表征法研究
分子的有效表征是影响人工智能模型性能的关键因素。
图神经网络(GNN)因其能生成 100% 有效的分子而流行,但其表达能力受限。
简化分子线性输入规范(SMILES)作为一种线性表示法,易产生化学无效字符串。DeepSMILES 和 SELFIES 作为替代方案虽有所改进,但仍存在问题。
此外,研究表明语言模型 (LM) 在学习大型复杂分子方面可能优于大多数 GNN。最近,基于 Transformers 的 LM 已经展示了它们生成与人类书写极为相似的文本的能力。
受这些想法启发,研究者选择 SMILES 作为片段描述的起始选择,并结合先进的自然语言处理技术来处理基于片段的分子建模任务,这可以融合图模型更注重分子拓扑结构和 LM 的强大学习能力的优势。
生成 100% 有效的新分子,优于 SOTA
因此,湖南大学团队提出了一种基于碎片化分子的新型分子描述框架 t-SMILES(基于树的 SMILES)。该框架包含三种 t-SMILES 编码算法:TSSA(具有共享原子的 t-SMILES),TSDY(具有虚拟原子但不具有 ID 的 t-SMILES)和 TSID(具有 ID 和虚拟原子的 t-SMILES)。
图示:t-SMILES 算法概述。(来源:论文)
新提出的 t-SMILES 框架首先生成一个无环分子树(Acyclic molecular tree,AMT),其作用是表示碎片化的分子。第二阶段将 AMT 转换为全二叉树(Full binary tree,FBT)。最后,对 FBT 进行广度优先遍历得到 t-SMILES 字符串。
与 SMILES 相比,t-SMILES 仅引入了两个新符号「&」和「^」,以编码多尺度和分层的分子拓扑。因此,t-SMILES 算法提供了一个可扩展且适应性强的框架,理论上能够支持广泛的子结构方案,只要它们生成化学上有效的片段并产生有效的 AMT。
此外,由于其多尺度和层次化表示,基于 t-SMILES 的模型能够在处理详细的子结构信息的同时学习高级拓扑结构信息。
值得注意的是,t-SMILES 算法可以构建一个用于分子描述的多代码系统。在这个系统中,经典的 SMILES 可以作为 t-SMILES 的一个特例集成,称为 TS_Vanilla,并且多个描述可以协作以提高综合性能。
图示:TSSA 代码、SMILES 和 SELFIES 的 tokens 分布。(来源:论文)
首先,研究人员通过深入研究其独特的特征来系统地评估 t-SMILES。随后,使用 TSSA 和 TSDY 对两个标记的低资源数据集 JNK332 和 AID170633 进行了实验。
研究重点是 t-SMILES 及其替代品的局限性,这些局限性是通过利用标准、数据增强和预训练微调模型实现的。使用 TSDY、TSSA 和 TSID 并行评估了 ChEMBL 上的 20 个目标导向任务。还对 ChEMBL、Zinc 和 QM9 进行了彻底的实验,通过使用类似的设置比较 t-SMILES 及其替代品。此外,比较了各种基于片段的基线模型和 SOTA GNN 模型。
最后,进行了一项消融研究,以确认基于带重建的 SMILES 的生成模型的有效性。为了评估 t-SMILES 算法的适应性和灵活性,使用了四种先前发表的碎片算法来分解分子,包括 JTVAE、BRICS、MMPA 和 Scaffold。不同实验采用了三种指标:分布学习基准、目标导向基准和物理化学性质的 Wasserstein 距离指标。
详细的对比实验表明,t-SMILES 模型生成的新分子 100% 理论有效,优于基于 SOTA SMILES 的模型。与 SMILES、DSMILES 和 SELFIES 相比,t-SMILES 的整体解决方案可以避免过拟合问题,并显著提高低资源数据集上的平衡性能,无论是使用数据增强还是预训练然后微调的模型。
图示:使用 GPT 在 ZINC 上进行的分布学习基准测试的结果。(来源:论文)
此外,t-SMILES 模型能够熟练地捕捉分子的物理化学性质,确保生成的分子与训练分子分布保持相似性。与现有的基于片段和基于图的基线模型相比,这显著提高了性能。特别是,具有目标导向重建算法的 t-SMILES 模型在面向目标的任务中比 SMILES、DSMILES、SELFIES 和 SOTA CReM 表现出明显的优势。
局限性和有待改进之处
LLM 可以理解格式良好的英语语法。因此,是否可以学习 t-SMILES 的树结构,以及 LM 如何超越表面的统计相关性来学习分子的化学知识仍有待深入探索。
该研究专注于将碎片分子编码为序列,因此仅使用已发布的碎片算法作为示例来创建「化学词」。未来的研究可以利用 t-SMILES 探索其他碎片算法,更深入地解读化学句子和含义,这实际上比 NLP 更具挑战性。
虽然 t-SMILES 旨在提高分子描述的性能并规避 SMILES 的局限性,但该研究并未对更复杂的分子进行实验。这将是未来研究的主题。
最后,这是将碎片分子编码为 SMILES 类型字符串的一个有希望的开端。进一步的研究可以探索分子重建和优化的高级算法、改进的生成模型和进化技术。此外,研究可以集中在属性、逆合成和反应预测任务上。
注:封面来自网络