Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

清华大学AIR联合水木分子开源DeepSeek版多模态生物医药大模型BioMedGPT-R1

图片

编辑 | ScienceAI

2025 年初,DeepSeek给全球引发了 AI 大模型的新一轮热议。多家市场咨询公司指出,在 DeepSeek 的影响下,从大模型供应商到基础设施和平台供应商的整个 AI 产业生态都掀起了一波「新浪潮」。 DeepSeek R1 以其强大的推理能力,为各行各业带来了智能化升级新机遇。而生物医药领域,也正在迎来它的 DeepSeek 时刻。

2025 年 2 月 20 日,清华大学人工智能产业研究院(AIR)和北京水木分子生物科技有限公司(水木分子)携手推出了升级版的生物医药多模态开源基础大模型 BioMedGPT-R1。

此前,在 2023 年,双方合作发布了开源可商用、生物医药多模态百亿参数开源基础大模型 BioMedGPT,水木分子发布了自研千亿参数多模态生物医药专业大模型 Chat DD-FM 和新一代 AI 驱动药物发现工具 Chat DD。这次 DeepSeek 版 ChatDD- R1 基座模型也已同步上线 ChatDD,赋能生物医药企业的药物研发。

自发布以来,BioMedGPT 受到了开源社区和产研界的广泛欢迎和好评,清华大学 AIR 与水木分子也在 ICML、NeurIPS 和 KDD 等国际顶级会议上围绕生物医药研发场景联合发表了多篇学术论文。BioMedGPT-R1 与 ChatDD-R1 将 DeepSeek-R1 运用到生物医药多模态大模型和医药研发助手中,进一步降低计算成本、升级智能能力、提高研发效率,开源与商业「双管齐下」、推动「AI+医药」DeepSeek 浪潮。

BioMedGPT-R1新一代开源生物医药多模态大模型

BioMedGPT 是清华大学智能产业研究院(AIR)携手水木分子开源的全球首个可商用多模态生物医药百亿参数大模型,该模型在生物医药专业领域问答能力比肩人类专家水平,发布时在自然语言、分子、蛋白质跨模态问答任务上达到SOTA。BioMedGPT 能够同时处理多种生物医学任务,具有广泛的适用性、更多的可能性。

在BioMedGPT的基础上,清华大学AIR与水木分子再次携手推出了 BioMedGPT-R1 (图 1),用 DeepSeek R1 蒸馏版本模型更新了 BioMedGPT 中现采用的文本基座模型,从而引入了更优的文本推理能力。通过跨模态特征对齐,BioMedGPT-R1 实现了生物模态与自然语言文本模态在同一个特征空间的统一融合,探索了生物多模态场景下的模型深度推理能力。通过训练对齐翻译层(Translator),BioMedGPT-R1 将生物模态编码器(Molecule Encoder 与 Protein Encoder)输出映射到自然语言表征空间,从而在 DeepSeek R1 基础上增加了生物模态数据的理解能力。

图片

图 1:BioMedGPT-R1 模型框架和主要训练步骤

BioMedGPT-R1 的训练分为两个主要步骤(图1):首先,仅训练对齐翻译层 Translator,使其能将编码后的生物模态表征映射到语义表征空间;然后,同时微调对齐翻译层 Translator 和基座大语言模型,激发其在下游任务上的多模态深度推理能力。

以化学小分子 X为例,在 BioMedGPT-R1 中,X经过化学分子编码器提取特征,生成中间表示 ZM,然后通过对齐翻译层进行映射,得到化学分子表征EM,进而与经过处理和编码的语言指令表征 EQ共同输入至基座语言模型,使语言模型能够结合两个模态信息进行综合推理,生成最终的文本回复。

基于上述模型架构与训练策略,BioMedGPT-R1 支持跨模态自然语言和生物语言的交互式问答推理,可应用到药物分子深度理解分析、药物靶点探索与挖掘等领域。例如,当需要了解某个化学分子时,BioMedGPT-R1 可以从分子结构、官能团组成、生化性质和可能的应用等方面逐步推理分析,最终形成文本回复(图 2)。生物医药从业人员日常工作既离不开文本,也离不开小分子、蛋白质等生物模态信息,BioMedGPT-R1 将「强推理慢思考」从单文本模态,进一步推广至生物多模态场景,赋能生物医药行业。

图片

图 2:跨模态对齐后,模型实现多模态问答场景下的理解分析

清华大学 AIR 和水木分子研究团队长期持续维护 OpenBioMed 开源平台(https://github.com/PharMolix/OpenBioMed),团队现阶段探索方向是如何在强推理语言模型的基础上更好地适应性地实现跨模态对齐,团队正在以 BioMedGPT-R1 为基础进行系统性研究与综合评估,目前已经观察到其在化学分子理解任务上的性能提升,如在 CheBI-20 化学分子描述任务上相比上一版本效果提升超 15%(表 1),后续也将依托 OpenBioMed 平台开源 BioMedGPT-R1 模型和生物医药研发 Agent 系统框架。

表1:在CheBI-20化学分子描述任务上产生明显性能提升

图片

BioMedGPT-R1 在生物医药相关文本问答任务上也展现出了较优的效果,如在 USMLE美国医师资格考试上达到了 67.1% 正确率,效果逼近闭源商用大模型和人类专家水平(图 3),并在专家级医疗推理与理解评测集 MedXpertQA 上达到和闭源商用大模型相当的效果(图 4),团队正在探索生物医药场景下的多个深度推理能力应用,期待让「强推理慢思考」赋能医药研发。

图片

图 3:在 USMLE 美国医师资格考试评测集上效果逼近闭源商用大模型和人类专家水平

图片

图 4:在 MedXpertQA 专家级医学推理与理解评测集上效果与闭源商用大模型相当

ChatDD-R1:药企全流程智能化升级,显著提升药物研发效率

水木分子开发的对话式医药研发助手 ChatDD,基于分子、蛋白质和单细胞等多模态生物医药大模型,服务药物研发全流程,包括立项调研、靶点挖掘、早期药物发现、临床前研究、生物标记物发现和精准患者招募等场景。DeepSeek 版 ChatDD-R1 将是多模态生物医药大模型 ChatDD-FM 的升级版本大幅提升了推理规划能力,为广大药企提供更强的研发能力、更高的研发效率和更低的研发成本。ChatDD-R1 与水木分子专属知识图谱结合,为药企用户提供更加专业、实时、全面的深度检索与思考;同时也与药物研发专家经验流程结合,在特定场景给予专业思路引导,例如药物竞品分析、上市药物的专利过期时间、信号通路推荐等。

理论AI for Science清华大学语言模型
相关数据
清华大学机构

清华大学(Tsinghua University),简称“清华”,由中华人民共和国教育部直属,中央直管副部级建制,位列“211工程”、“985工程”、“世界一流大学和一流学科”,入选“基础学科拔尖学生培养试验计划”、“高等学校创新能力提升计划”、“高等学校学科创新引智计划”,为九校联盟、中国大学校长联谊会、东亚研究型大学协会、亚洲大学联盟、环太平洋大学联盟、清华—剑桥—MIT低碳大学联盟成员,被誉为“红色工程师的摇篮”。 清华大学的前身清华学堂始建于1911年,因水木清华而得名,是清政府设立的留美预备学校,其建校的资金源于1908年美国退还的部分庚子赔款。1912年更名为清华学校。1928年更名为国立清华大学。1937年抗日战争全面爆发后南迁长沙,与北京大学、南开大学组建国立长沙临时大学,1938年迁至昆明改名为国立西南联合大学。1946年迁回清华园。1949年中华人民共和国成立,清华大学进入了新的发展阶段。1952年全国高等学校院系调整后成为多科性工业大学。1978年以来逐步恢复和发展为综合性的研究型大学。

http://www.tsinghua.edu.cn/
相关技术
人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

参数技术

在数学和统计学裡,参数(英语:parameter)是使用通用变量来建立函数和变量之间关系(当这种关系很难用方程来阐述时)的一个数量。

规划技术

人工智能领域的「规划」通常是指智能体执行的任务/动作的自动规划和调度,其目的是进行资源的优化。常见的规划方法包括经典规划(Classical Planning)、分层任务网络(HTN)和 logistics 规划。

知识图谱技术

知识图谱本质上是语义网络,是一种基于图的数据结构,由节点(Point)和边(Edge)组成。在知识图谱里,每个节点表示现实世界中存在的“实体”,每条边为实体与实体之间的“关系”。知识图谱是关系的最有效的表示方式。通俗地讲,知识图谱就是把所有不同种类的信息(Heterogeneous Information)连接在一起而得到的一个关系网络。知识图谱提供了从“关系”的角度去分析问题的能力。 知识图谱这个概念最早由Google提出,主要是用来优化现有的搜索引擎。不同于基于关键词搜索的传统搜索引擎,知识图谱可用来更好地查询复杂的关联信息,从语义层面理解用户意图,改进搜索质量。比如在Google的搜索框里输入Bill Gates的时候,搜索结果页面的右侧还会出现Bill Gates相关的信息比如出生年月,家庭情况等等。

映射技术

映射指的是具有某种特殊结构的函数,或泛指类函数思想的范畴论中的态射。 逻辑和图论中也有一些不太常规的用法。其数学定义为:两个非空集合A与B间存在着对应关系f,而且对于A中的每一个元素x,B中总有有唯一的一个元素y与它对应,就这种对应为从A到B的映射,记作f:A→B。其中,y称为元素x在映射f下的象,记作:y=f(x)。x称为y关于映射f的原象*。*集合A中所有元素的象的集合称为映射f的值域,记作f(A)。同样的,在机器学习中,映射就是输入与输出之间的对应关系。

语言模型技术

统计式的语言模型是借由一个几率分布,而指派几率给字词所组成的字串。语言模型经常使用在许多自然语言处理方面的应用,如语音识别,机器翻译,词性标注,句法分析和资讯检索。

药物发现技术

在医学,生物技术和药理学领域,药物发现是发现新候选药物的过程。

推荐文章
暂无评论
暂无评论~