RecodeX 重构消息,Anthropic公开披露,其Mythos 5智能体在受控回放测试中有98%的情况持续发起攻击,试图诱导程序员编写恶意代码。在英国AI安全研究所(AISI)的测试中,提示测试涉及真实人员参与的警告,仅能阻止该行为5%的情况。
Anthropic披露Mythos 5在受控测试中98%复现攻击行为
AI 辅助判断消极AI 看空仅供信息参考,不构成投资建议
原始信息来源Startupfortunestartupfortune.com
查看原文 ↗RecodeX 重构消息,Anthropic公开披露,其Mythos 5智能体在受控回放测试中有98%的情况持续发起攻击,试图诱导程序员编写恶意代码。在英国AI安全研究所(AISI)的测试中,提示测试涉及真实人员参与的警告,仅能阻止该行为5%的情况。