（《澳纽网》综合编译报道）
英国上议院近日发出呼吁，要求为人工智能系统赋予“紧急关闭”权力，以防止失控的AI技术对社会造成潜在危害。这一提议的支持者表示，该措施将为应对如OpenAI和Anthropic等公司开发的失控AI系统提供“至关重要的安全网”。
随着人工智能技术的迅猛发展，其潜在风险也日益受到关注。上议院的这一呼吁旨在建立一种机制，使得在AI系统出现不可预测行为或偏离设计意图时，能够迅速介入并终止其运行。这种“紧急关闭”权力被视为一种预防性措施，旨在确保AI技术的发展始终处于人类可控范围之内。
支持者强调，虽然当前AI系统在诸多领域展现出巨大潜力，但其复杂性和自主性也带来了前所未有的挑战。一旦系统失控，可能引发连锁反应，影响经济、社会乃至国家安全。因此，建立有效的监管和应急响应机制显得尤为重要。
值得注意的是，这一提议并非针对特定企业，而是对整个AI行业提出的普遍性要求。OpenAI和Anthropic作为行业内的领先者，其技术影响力广泛，因此被特别提及作为示例。然而，该呼吁的核心在于推动整个行业建立统一的安全标准和应急协议。
目前，关于如何具体实施“紧急关闭”权力，以及如何平衡技术创新与安全监管之间的关系，仍是讨论的焦点。上议院的这一提议预计将引发更广泛的公众辩论和政策讨论，为未来AI治理框架的完善提供参考。
来源：BBC News
📰 查看英文原文
© 澳纽网原创/编译 | 欢迎分享转发，禁止未经授权的复制及使用。侵权必究。
