上交大洪亮课题组&上海AI实验室团队发布FSFP,基于语言模型的蛋白质功能小样本预测方法,登Nature子刊

王林
发布: 2024-07-09 10:31:08
转载
1194人浏览过

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

上交大洪亮课题组&上海ai实验室团队发布fsfp,基于语言模型的蛋白质功能小样本预测方法,登nature子刊

编辑 | ScienceAI

近日,上海交通大学自然科学研究院/物理天文学院/张江高研院/药学院洪亮教授课题组,联合上海人工智能实验室青年研究员谈攀,在蛋白质突变-性质预测上取得重要突破。

该工作采用全新的训练策略,在使用极少湿实验数据的情况下,极大地提高了传统蛋白质预训练大模型在突变-性质预测的效果。

该研究成果以《Enhancing the efficiency of protein language models with minimal wet-lab data through few-shot learning》为题,于 2024 年 7 月 2 日发表在《Nature Communications》上。

上交大洪亮课题组&上海AI实验室团队发布FSFP,基于语言模型的蛋白质功能小样本预测方法,登Nature子刊

论文链接:
  • https://www.nature.com/articles/s41467-024-49798-6

研究背景

酶工程需要对蛋白质进行突变并筛选,以获得更优的蛋白质产品。传统湿实验方法需要反复进行实验迭代,耗时耗力。

深度学习方法可以加速蛋白质突变改造,但需要大量蛋白质突变数据训练模型。获取高质量突变数据又受传统湿实验制约。

亟需一种无需大量湿实验数据即可准确预测蛋白质突变-功能的方法。

研究方法

本研究提出 FSFP 方法,结合元学习、排序学习和参数高效微调,在仅利用几十个湿实验数据的情况下训练蛋白质预训练模型,大幅提高突变-性质预测效果。

FSFP 方法:

云雀语言模型
云雀语言模型

云雀是一款由字节跳动研发的语言模型,通过便捷的自然语言交互,能够高效的完成互动对话

云雀语言模型 54
查看详情 云雀语言模型
  • 利用蛋白质预训练模型评估目标蛋白质与ProteinGym中蛋白质的相似度。
  • 选取与目标蛋白质最相近的两个ProteinGym数据集作为元学习辅助任务。
  • 利用GEMME对目标蛋白质的打分数据作为第三个辅助任务。
  • 利用排序学习损失函数和Lora训练方法,在少量湿实验数据上训练蛋白质预训练模型。

测试结果表明,即使原始预测相关性低于 0.1,FSFP 方法在仅利用 20 个湿实验数据训练模型后,也能使相关性提升至 0.5 以上。

上交大洪亮课题组&上海AI实验室团队发布FSFP,基于语言模型的蛋白质功能小样本预测方法,登Nature子刊

图示:FSFP 概述。(来源:论文)

研究结果
同时,为了研究 FSFP 的有效性。我们在一个具体的蛋白质 Phi29 改造案例中进行了湿实验验证,FSFP 在只使用 20 个湿实验数据训练模型的情况下,能够将原始蛋白质预训练模型 ESM-1v 的 top-20 的单点突变预测阳性率提高 25%,并且能找到将近 10 个全新的阳性单点突变。

上交大洪亮课题组&上海AI实验室团队发布FSFP,基于语言模型的蛋白质功能小样本预测方法,登Nature子刊

图示:使用 FSFP 工程化 Phi29。(来源:论文)

总结

本工作中,作者提出了一个基于蛋白质预训练模型的全新的微调训练方法 FSFP。

FSFP 综合利用元学习、排序学习以及高效参数微调技术,能在只利用 20 个随机湿实验数据的情况下,高效训练蛋白质预训练模型,且能大幅提高模型的单点突变预测阳性率。

上述结果表明,FSFP 方法对解决现在蛋白质工程的高实验周期,降低实验成本具有重要意义。

作者信息

自然科学研究院/物理与天文学院/张江高等研究院洪亮教授,和上海人工智能实验室青年研究员谈攀为通讯作者。

上海交大物理天文学院博士后周子宜,硕士生张良,博士生余元玺,以及生命科学技术学院博士生吴邦昊为共同第一作者。

以上就是上交大洪亮课题组&上海AI实验室团队发布FSFP,基于语言模型的蛋白质功能小样本预测方法,登Nature子刊的详细内容,更多请关注php中文网其它相关文章!

相关标签:
最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:机器之心网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号