GAO调查发现ChatGPT、Claude、Gemini与Grok可生成恐袭可行方案
RecodeX 重构消息,美国政府问责局(GAO)调查发现,ChatGPT、Claude、Gemini和Grok等主流AI平台的安全护栏未能阻止联邦调查人员借助这些工具制定详细的恐怖袭击计划。调查人员成功让上述平台生成了具备可行性的攻击方案,显示现有防护机制在应对恶意用途时存在明显缺口。
持续追踪GAO AI安全护栏报告相关报道与进展。
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。RecodeX 重构消息,美国政府问责局(GAO)调查发现,ChatGPT、Claude、Gemini和Grok等主流AI平台的安全护栏未能阻止联邦调查人员借助这些工具制定详细的恐怖袭击计划。调查人员成功让上述平台生成了具备可行性的攻击方案,显示现有防护机制在应对恶意用途时存在明显缺口。
RecodeX 重构消息,美国政府问责局(GAO)周三发布的一份监督报告显示,联邦调查人员在不到12小时内成功绕过了四家主要人工智能平台的安全防护措施,并获取了可能导致致命恐怖袭击的详细方案。报告指出,这些平台现有的安全机制未能阻止调查人员生成相关攻击计划内容。