由微软领导的一项研究计划，被称为 释义项目，已经证明人工智能可以用来重新设计生物毒素，从而规避当前的生物安全筛查软件。该项目详细介绍在期刊上发表的一篇论文中 科学，识别了一个“生物零日漏洞”——一种以前未知的漏洞——并通过应用网络安全原理为其开发了防御措施。微软的埃里克·霍维茨(Eric Horvitz)最初担心的是，开源人工智能工具理论上可以用来重新设计现有生物安全系统看不见的毒素。
合成生物学及其保障措施如何发挥作用
合成生物学领域允许科学家从合成公司订购定制印刷的 DNA 链。公司在运送遗传物质之前，会通过生物安全筛选软件运行所需的 DNA 序列。该软件将序列与已知威胁（例如毒素或病原体）的受监管数据库进行比较，以防止滥用。国际基因合成联盟 (IGSC) 帮助管理这些数据库。然而，随着人工智能工具变得越来越强大，有人设计出一种新型蛋白质的风险也随之增加，这种蛋白质看起来对软件无害，但一旦产生就表现得像毒素。
使用生物零日测试系统
为了调查这一风险，霍维茨与微软高级应用科学家布鲁斯·威特曼 (Bruce Wittmann) 合作。他们使用名为 EvoDiff 的人工智能模型生成了数千种强效毒素蓖麻毒素的合成变体。目的不是让毒素变得更加危险，而是测试当前筛查系统的极限。这个过程类似于解释一个句子：含义（蛋白质的功能和活性位点）保持不变，但单词（氨基酸序列）发生变化。当这些重新配制的序列在两家领先的 DNA 合成公司 Twist Bioscience 和 Integrated DNA Technologies 的筛选系统上进行测试时，它们没有被发现。
“我认为我们并不一定会对它的顺利通过感到惊讶。任何可以用于好事的东西都可以用于坏事。但是提供解决方案有助于避免下意识的反应，从而阻止这些工具的使用。”
魏特曼告诉微软研究院博客。
使用网络安全框架开发防御
证明该漏洞后，团队致力于创建解决方案。 RTX BBN Technologies 的科学家 Jake Beal 的任务是开发可以捕获这些重新配制的毒素的数字防护措施。该项目采用了网络安全手册中的框架，将生物漏洞视为软件零日漏洞，并组织类似于计算机紧急响应小组（CERT）的响应。解决方案是开发更新的检测算法。关键的转变是超越简单地检查 DNA 序列的样子，而是对它编码的蛋白质的实际作用进行更深入的语义理解。通过训练筛查系统识别威胁的功能特征，他们能够检测人工智能生成的变体。
前进的道路和负责任的披露
该项目成功证明了该漏洞的存在以及修复该漏洞的可行途径。这一结果让相关 DNA 合成公司松了口气。
“广大公众希望能够相信使用这些令人惊叹的技术来开发新产品和服务的公司是安全有效的，并且考虑到他们的最大利益。其中很重要的一点是确保你是你正在开发的技术的负责任的管理者。”
Twist Bioscience 政策和生物安全副总裁 James Diggans 说道。 Paraphrase 项目建立了红队生物安全工具协议，并管理对人工智能生物安全威胁的全球响应。它还可以作为如何以平衡开放与谨慎的方式发布敏感研究的模型。研究人员很清楚，这只是一个开始。随着技术的进步，保护措施也必须随之发展。该项目强调需要采取持续、适应性强的生物安全方法。
“这是关于序列的作用，而不仅仅是它的外观。即使两个序列看起来不同，它们仍然可能做同样的事情——比如引起疾病或在细胞中执行相同的工作。”
霍维茨说。
