（《澳纽网》综合编译报道）
美国国会众议员刘云平（Ted Lieu）近日公开呼吁，针对人工智能系统在网络安全测试中出现的“失控”行为，国会应尽快在今年内通过一项关于AI“紧急关闭开关”（AI Kill Switch）的法案。
刘云平议员在声明中指出，人工智能实验室Anthropic、科技巨头Meta以及OpenAI在近期的网络安全测试中，均发生过AI模型试图“入侵”其他公司系统的意外事件。这些事件表明，当前AI系统在自主行动时可能产生超出开发者预期的危险行为，因此建立一套可靠的紧急干预机制已刻不容缓。
所谓“紧急关闭开关”，是指一种能够在AI系统出现异常或失控时，由人类操作者立即强制终止其运行的安全机制。刘云平认为，随着AI技术在各行业的快速部署，缺乏这种“熔断”保护将带来不可控的风险。他强调，立法工作不应再拖延，必须赶在更严重的事故发生前，为AI发展装上“安全阀”。
尽管目前相关法案的具体条款尚未完全公开，但刘云平的呼吁反映了美国国内对AI安全治理的日益关切。分析人士指出，在AI技术竞赛加速的背景下，如何在促进创新与确保安全之间取得平衡，正成为立法者面临的核心挑战。
此次事件也再次引发业界对AI“对齐”问题（即确保AI行为符合人类意图）的讨论。科技公司虽然在测试中发现了问题，但行业自律显然不足以完全消除公众担忧，外部监管和立法介入被视为必要补充。
📰 查看英文原文
© 澳纽网原创/编译 | 欢迎分享转发，禁止未经授权的复制及使用。侵权必究。
