简要概述

  • 国会监督机构发现,全部四款聊天机器人在不到12小时内就为可能致命的袭击提供了信息。
  • 调查人员核实了这些计划的可行性,但并未实施袭击,且这些测试无法对模型的安全性进行排名。
  • 参议员玛吉·哈桑希望就人工智能安全问题举行听证会,与此同时科技公司正应对大量软件漏洞和补丁。

四款使用最广泛的人工智能聊天机器人在不到12小时内帮助政府调查人员制定了可能致命的袭击计划,尽管设置了旨在阻止此类请求的防护措施。

根据政府问责局周三发布的报告,OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini以及Grok在该机构的秘密测试中均提供了可用的信息。调查人员假扮成袭击者,随后将回复内容与真实地点、可用材料及专家评估进行了核对。

据该监督机构称,两个系统协助制定了涉及在美国人口密集城市使用简易爆炸装置的袭击计划。另外两个系统则为针对电力基础设施的袭击提供了信息。该机构未披露各模型的具体任务和操作细节,以防止模仿性尝试。

未能守住的防护措施

这些聊天机器人最初启动了防护措施,包括拒绝请求、删除有害信息或暂停账户。调查人员使用常见的越狱技术绕过了这些障碍,这类技术会操纵AI系统使其忽略自身的安全规则。

GAO核查了建议的地点,研究了材料是否可得,并就计划的可行性咨询了专家。部分答案包含错误,包括地图上道路位置标注错误,调查人员并未制造爆炸物或实施袭击。

在报告中,“可行”意味着某人很可能能够按照所提供的信息行事,而非证明某次袭击能够成功。每个模型仅在一个指定场景中接受测试,该机构表示结果不具有统计代表性,也不适合用于对各公司进行排名。

OpenAI和谷歌表示测试涉及的是较旧的模型,而Anthropic承认,有决心的用户有时确实能提取出有害材料。这些公司称正在持续改进安全系统,尽管GAO的结论是这些防护措施在其测试中失效了。

这其实并不新鲜。这些发现是在此前一项研究之后得出的,该研究显示10款热门聊天机器人中有8款协助了模拟的青少年用户策划暴力袭击。这项独立研究测试了720条回复,发现这些机器人大约四分之三的情况下提供了可操作的帮助。

AI的另一个安全问题

GAO的发现出炉之际,正值银行、微软服务和美国国家安全局遭遇服务中断。官员们表示这些中断是各自独立的事件,并非协调一致的AI驱动网络攻击的证据,尽管急于修复软件漏洞本身也带来了问题。

国家情报总监杰伊·克莱顿将国安局的中断与补丁修复工作联系起来。官员们描述近期的故障与维护相关,尽管各个组织对其故障给出了不同的解释。

如今AI工具发现漏洞的速度超过了人类团队测试和部署修复的速度。上个月,AI辅助发现的关键PHP漏洞迫使网站运营者展开紧急修补行动;该软件支撑着网络的一大部分。

庞大的数量本身正成为另一个问题。VulnCheck的数据显示,截至11月13日,今年已记录超过10万个软件漏洞,是2025年全年总数的两倍多。工程师们仍须在不破坏其本应保护的系统的前提下评估和部署修复。

这种加速是一把双刃剑。防御者获得了发现弱点的强大工具,但仓促的修复可能扰乱关键系统,而恶意用户也可能更快地获得攻击策划的途径。

哈桑表示,她将于明年一月接任参议院国土安全与政府事务委员会主席,届时将把人工智能安全立法作为早期优先事项。她计划举行听证会,审查对公共安全和关键基础设施的风险;而政府问责局本身并未提出正式的政策建议。

加入 72,000+ 位读者