（《澳纽网》编译报道）
人工智能安全公司Anthropic近日发布报告披露，今年已多次阻止科学家利用其先进AI模型进行可能有助于开发生物武器的研究。该公司表示，由于无法确定这些研究是出于合法目的还是恶意意图，因此选择谨慎行事。
Anthropic威胁情报主管雅各布·克莱因在接受采访时指出，恶意活动往往不会像漫画中那样直白，情况极其微妙。他强调，有效的生物学研究既能带来疫苗等突破，也可能被用于设计危险病原体，这种双重用途带来了巨大的不确定性。
尖端AI模型可能促进已知或全新生物病原体的开发，这是专家们对这项技术最严重的担忧之一。与灾难性网络攻击或AI智能体失控相比，生物滥用作为AI的生存风险受到的关注较少，部分原因是过去的案例通常只出现在研究环境中。
战略风险委员会高级研究员安德鲁·韦伯在审阅报告后表示，这些发现是“国家支持的生物武器开发者利用领先AI模型快速进步能力的案例，令人不寒而栗”。
Anthropic的长篇报告列举了过去八个月其Claude聊天机器人各模型被滥用的一系列事例。一些例子与过去的披露类似，包括疑似与中国和伊朗政府有关联的行为者针对异见者和侨民社区进行监视。报告还提到俄罗斯官方媒体使用Claude生成伪装成独立报道的在线宣传。
报告还记录了另一种新型滥用：试图利用Claude开发用于常规武器设计和开发的软件，包括枪支、导弹、武装无人机和炸弹。报告详细描述了在中国的三起、俄罗斯的两起和也门的一起案例。报告未点名也门案例涉及哪一方，但上下文清楚表明指的是伊朗支持的胡塞武装。
在所有威胁类别中，可能生物研究最令人担忧。Anthropic未披露它阻止的研究人员或机构的名称、所属国家或所涉具体生物制剂。该公司表示，这些科学家规避了旨在阻止被封锁地区用户访问其AI模型的控制措施，并设法混淆研究目的以避开安全护栏，相关账户已被封禁。
在5月的一个案例中，一名科学家寻求Claude帮助撰写拨款申请，以资助针对基孔肯雅病毒的研究。这类功能获得性研究可能合法且促成疫苗开发，但也可能制造出超级病毒。Anthropic认为这项研究令人担忧，部分原因是它能够辨别出这项工作拟在一家军事研究机构进行。
微生物学家兼公共卫生专家苏珊·莫纳雷斯在审阅报告后表示，这些发现提供了现实证据，支持了有关不良行为者正试图秘密利用先进AI的担忧。她指出，AI有着巨大前景，但使其成为可能的同样能力也可能让不良行为者在光天化日之下制造我们可能无法预见、一旦释放可能无法阻止的病原体。
韦伯呼吁将能够进行这种级别生物研究的AI工具仅限于可信研究人员使用。他表示，俄罗斯、中国和朝鲜继续开发被禁止的生物武器，这使我们必须阻止其研究人员使用这些极其强大的模型。
