精准分子特性预测:一种基于多通道预训练的全新方法
编辑 | 萝卜皮
准确预测分子的特性对于药物研发等诸多科学研究和工业应用至关重要。然而,由于数据有限以及物理化学和生物特性与传统分子特征描述方法间的复杂非线性关系,构建稳健的分子机器学习模型面临巨大挑战。
匹兹堡大学和浙江大学侯廷军团队合作,提出了一种创新的多通道预训练框架,有效整合了化学知识,提升了分子特性预测的准确性和鲁棒性。该框架利用分子内部的结构层次,通过不同预训练任务在多个通道中嵌入这些层次信息,并在微调阶段根据具体任务聚合通道信息。 该方法在多个分子特性基准测试中表现出色,尤其在“活性悬崖”等极具挑战性的场景中展现出显著优势。研究成果已于2024年1月6日发表在《Nature Communications》期刊上,题为“Multi-channel learning for integrating structural hierarchies into context-dependent molecular representation”。
自监督学习的局限性
自监督学习 (SSL) 通过利用大量未标记的分子数据学习化学空间的基本表征,成为一种热门解决方案。然而,现有分子SSL方法往往忽略了关键的化学知识,例如分子结构相似性、骨架组成以及分子特性在化学空间中的上下文依赖性。 它们在学习结构-活性关系中的细微变化方面也存在困难。
现有方法的不足
当前方法主要存在两大缺陷:
首先,传统的对比学习方法在正负样本的定义上并不适用于分子图。 通过图扰动生成正样本的方法(例如添加或删除节点/边)可能会破坏分子的化学有效性,导致“语义”偏移。负样本(不同的分子)通常被同等对待,忽略了分子结构关系和特定分子成分的重要性。
其次,大多数现有方法试图学习一个与上下文无关的分子表征空间,这与分子特性通常具有环境依赖性的实际情况相矛盾。 因此,相同的SSL任务能否在微调阶段与不同特性的下游任务保持一致性尚不明确,容易造成学习差距。
多通道学习框架:突破性进展
为了克服这些挑战,研究团队提出了一种提示引导的多通道学习框架。该框架包含k个通道,每个通道由特定的提示引导,负责学习一个专用的SSL任务。 预训练模型学习k个不同的表征空间,在微调过程中,提示选择模块将这些表征聚合为一个复合表征,用于下游分子特性预测。 该机制能够根据当前应用选择最相关的信息通道,实现上下文相关的表征学习。
研究人员设计了从全局到局部的预训练任务。 除了全局分子对比学习和局部上下文预测外,还引入了支架对比距离任务,强调了支架在影响分子特性中的关键作用。 由于支架通常是新化合物设计的起点,该任务旨在将具有相似支架的分子映射到表征空间中更近的位置,同时区分具有不同骨架的分子。
该框架主要包含三个部分:(1)提示引导的多通道学习;(2)具有自适应边距的对比学习;(3)支架不变的分子扰动。
图示:框架概述 (来源:论文) 该框架使用ZINC15数据集进行预训练,并在MoleculeNet5和MoleculeACE数据集上进行评估。
显著成果与局限性
该方法在两个基准测试中均超越了各种表征学习基准,尤其是在“活性悬崖”问题上展现出更强的鲁棒性,而其他方法容易受到负迁移的影响。 这表明该框架学习到的表征具有更强的知识保留能力,可转移性和稳健性更佳。
该框架也存在一些局限性,例如需要更有效的提示权重优化机制。
图示:表征空间探测 (来源:论文)
图示:结合效力预测 (来源:论文)
未来展望
未来研究方向包括整合不同的分子表征形式(例如考虑分子构象),以及结合其他先进的数据驱动技术,以进一步提高模型的可解释性和稳健性,并扩展其在材料科学和环境化学等领域的应用。 该方法在药物发现和更广泛的化学领域都具有巨大的潜力。
论文链接:https://www.php.cn/link/4d12403288274bb1c1cfc6a8f9e0f857
以上就是分子特性预测新框架来了!浙大侯廷军团队、匹兹堡大学联合提出跨通道学习,各大基准表现亮眼的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号