AI合成生物，再登Nature子刊！美国防部高度关注，直面这些迫在眉睫的风险……

近日，上海举办了2025生物科学智能产业生态创新发展高峰论坛。

会议聚焦人工智能(AI)与生物制造深度融合路径，举行了《2025人工智能赋能生物制造产业创新发展蓝皮书》启动仪式，还创办了2025生物科学智能产业生态联盟，镁伽科技、百图生科、迪赢生物等30余家单位加入。

与此同时，越来越多企业将“AI+合成生物学”作为重要战略，上市龙头中嘉必优、华恒生物、凯赛生物、川宁生物等均有所布局。足以看到，业界对两者跨界融合所催生的创新潜力寄予厚望。

然而随着AI合成生物学的发展，背后的军民两用风险、治理差距和道德困境也随之出现，我们需要相关的监督策略和法规来使行业负责任、可持续的发展。

这篇近日发布于Nature子刊《npj Biomedical Innovations》的论文：The convergence of AI and synthetic biology: the looming deluge. 就聚焦于这一问题，下文中我们对其进行了编译和选读，以供行业交流。

01

AI合成生物 进展到哪一步了？

AI 在合成生物学中的应用分为两个阶段。

最初，机器学习和生物设计工具用于生物设计任务，例如根据氨基酸序列预测蛋白质结构。曾获2024诺贝尔化学奖，为人们熟悉的AlphaFold就属于此类。

而现在，随着transformer等深度学习架构的日益普及，大型语言模型 （LLM） 被用于执行更复杂的任务。

例如根据核酸序列预测物理结果，使用使用AlphaFold 3 ，已经可以准确预测生物分子相互作用的结构。

而未来的生成式AI不仅会提供判别和预测能力，还可能会诞生“AI生物设计师”，类似 BioAutomata 这样的平台体现了这一愿景，AI已经可以指导工程微生物的设计-构建-测试-学习（DBTL）周期的每一步。

论文还关注到了一些具体的细分领域应用，包括：

Ansa Biotechnologies、TeselaGen 和 Synthace 等公司在为设计微生物菌株或开发基因疗法的客户提供此类 AI 引导的 DNA 设计和优化服务

Biotium、Strateos 和 Emerald Cloud Lab 等初创公司在利用AI，为客户提供快速微生物菌株和酶优化等服务。

Design-by-Data 和 Flatcarbon 等初创公司利用AI，对微生物、酵母或细胞系进行正向工程设计。

02

直面黑匣子：风险和治理挑战

可解释性，是AI合成生物所面临的第一道挑战。

许多用于生物设计的 AI 模型，如生成神经网络或梯度提升模型，都以“黑匣子”的形式运行。这一形式并不妨碍技术实用性，但限制了安全的可评估性，也可能延缓用于生物设计的 AI 模型的接受和合法化。

例如，蛋白质设计大型语言算法可能会产生有缺陷的序列建议，但这些建议仍能获得高性能分数。

此外，如果算法存在未被发现的缺陷或训练偏差，黑客可以利用这些缺陷或训练偏差来故意输出危险设计，那么生物安全风险就会增加。

美国国防部的DARPA最近发布的恶意AI报告，就围绕生物制造的数据或模型中毒进行了兵棋推演，突出了不透明系统的漏洞。

而早在2024年，该部门就启动了生物制造Switch计划，目标开发一套敏捷、可重新编程的生物制造系统，增加供应链的弹性和适应性，以满足国防部的各种需求。

而且AI 模型和工具的数字化和分布式特性使防止滥用的工作进一步复杂化，与物理材料不同，包含 AI 算法或 DNA 序列的数字文件可以很容易地跨境共享和复制，因此难以跟踪和控制其传播。

所以，为了减轻这些风险，需要采取多管齐下的方法，包括技术解决方案和政策干预。

从技术角度来看，需要增强的筛选方法来检测和过滤掉潜在危险的序列，包括由 AI 算法生成的序列，在政策方面，需要国际协调和统一治理框架。

最后，论文强调了关键的第一步是迫切需要解决人工智能合成生物学的黑匣子，不仅能加速科学理解和应用开发，还能将技术交到更广泛的用户手中，可以使问题解决大众化，并从不同的贡献者那里获得创新解决方案。

文章来自于微信公众号“智药局”，作者是“向然”。