← 返回信息流
技术博客arXiv cs.AI·2 小时前

大语言模型驱动自动发现生物系统微分方程

原标题:Automatic Ordinary Differential Equations Discovery For Biological Systems Using Large Language Model Powered Agentic System

速览

MEDA系统整合大语言模型与符号回归,自动检索背景知识、定义变量、生成候选微分方程并拟合评估。在经典模型恢复、外推预测和开放式发现任务中均表现优异,且知识引导约束对保持生物学合理性至关重要。该系统推动了科学发现自动化的前沿。

AI 深度解读

背景

自动科学发现一直是计算学者的长期目标——让机器自主发现自然界的奥秘,使计算系统超越数据拟合工具,迈向生成并完善宇宙机理模型。近年来,符号回归(Symbolic Regression, SR)和基于大语言模型(Large Language Model, LLM)的智能体(agent)取得了进展,表明这类系统能够从数据中恢复方程、融入领域先验知识,并自动化研究流程的部分环节。然而,现有方法大多聚焦于狭窄的方程发现基准测试或宽泛的端到端自动化管道,生物系统领域相对而言仍探索不足。为此,本文介绍了 MEDA 系统——一个由 LLM 和 SR 驱动的智能体框架,专门用于发现生物及生物启发动力系统的常微分方程(Ordinary Differential Equation, ODE)模型。

核心内容

MEDA(Model Extraction via Discovery Agent)是一个基于 LLM 和符号回归的智能体框架,能够自动从数据中提取生物动力系统的 ODE 模型。其工作流程包括五个关键步骤:

  1. 背景知识检索:MEDA 利用 LLM 从文献或知识库中检索与目标生物系统相关的背景知识,例如已知的生物学机制、变量关系等。
  2. 定义可允许变量:根据检索到的知识,系统自动定义哪些变量(如物种浓度、时间等)应被纳入模型,并排除不相关的量。
  3. 生成机械约束:基于生物学先验(如物质守恒、动力学类型),生成候选 ODE 必须满足的约束条件(例如变量非负、特定的耦合形式)。
  4. 提出候选 ODE:使用符号回归(SR)并结合 LLM 的启发式推理,自动生成一组候选 ODE 结构。SR 负责数值符号发现,LLM 提供语义层面的引导,确保候选方程符合生物学合理性。
  5. 拟合与评估:对每个候选 ODE 进行数值拟合(使用实验数据或模拟数据),评估其拟合精度(如轨迹匹配度)和结构准确性。最终选择表现最佳且生物学合理的模型。

MEDA 在三个方面进行了评估:

  • 经典模型检索:能否从已有数据中重新发现已知的生物 ODE 模型(如 Lotka-Volterra 捕食者-食饵模型)。
  • 基于推理的外推:在未见过的变体(如不同参数或拓扑结构)上,是否能够通过推理正确推导出新的 ODE。
  • 开放性发现:在没有预设目标的情况下,能否自主发现具有生物学意义的新 ODE 模型,并利用实验数据验证。

在所有测试场景中,MEDA 均成功恢复了正确的状态变量,在检索和外推任务中实现了强结构恢复率,并生成了生物学上可信的发现导向模型。消融实验和鲁棒性分析表明,知识引导的形式化(knowledge-guided formalization)和机械约束是系统的关键支撑组件;而仅依靠数值拟合(即纯粹的 SR 不结合领域知识)虽然能保持轨迹兼容性,但会保留生物学上错误的方程。

关键要点

  • MEDA 是首个将 LLM 智能体与符号回归结合、专门用于生物 ODE 发现的统一框架,其工作流程覆盖从知识检索到模型验证的全过程。
  • 系统利用了 LLM 的常识推理能力来获取生物学背景知识、生成机械约束,从而引导 SR 生成符合领域规律的候选方程,避免纯数据驱动的过拟合。
  • 评估涵盖了三个递进层次:经典模型复现(验证基本能力)、推理外推(检验泛化能力)和开放发现(测试探索创新能力)。
  • 关键成功因素在于知识引导和机械约束:消融实验显示,移除这些组件后系统虽然仍能拟合数据轨迹,但会得到生物学上错误的结构。
  • 鲁棒性分析表明 MEDA 对噪声数据具有一定容忍度,且在不同数据集上保持稳定表现。
  • 局限性:当前系统主要针对生物动力系统,且依赖 LLM 检索到的知识质量;若背景知识缺失或错误,可能影响发现结果。

意义与影响

MEDA 的提出标志着自动科学发现在生物系统建模领域的重要进展。其意义主要体现在以下方面:

  1. 缩小了 AI 与生物学建模之间的鸿沟:以往符号回归方法难以融入生物学先验,而纯 LLM 方法缺乏数值精度。MEDA 通过联合 LLM 和 SR,实现了语义与数值的深度融合,使自动发现的模型既在数学上精确,又在生物学上可解释。
  2. 提高了发现效率与可重复性:传统生物 ODE 建模需要大量领域专家进行手动假设、拟合和验证。MEDA 将这一流程自动化,可显著加速从实验数据到机理模型的过程,减少人力投入和主观偏差。
  3. 为开放科学探索提供了新工具:在无预设目标的情况下,MEDA 能自主提出生物合理的 ODE 模型,有助于发现未知的动力学机制或隐藏的变量关系,推动理论生物学的发展。
  4. 强调了领域知识在 AI 驱动科学发现中的不可替代性:实验表明,仅靠数值拟合无法保证生物学正确性,知识引导和机械约束才是自动化发现可信模型的关键。这为未来设计其他领域的自动发现系统提供了重要参考。
  5. 潜在应用广泛:除了基础生物学,MEDA 可扩展至生物医学(如疾病传播模型、神经动力学)、生态学、合成生物学等领域,甚至适用于任何可用 ODE 描述的动力系统。

尽管 MEDA 仍处于初步验证阶段,但它展示了 LLM 智能体与符号回归结合的巨大潜力,为下一代自主科学发现引擎铺平了道路。未来工作可能包括引入多模态数据(图像、文本)、支持更高阶微分方程以及实现人机协作的交互式发现流程。

查看原文 →arxiv.org