RecodeX 重构消息,英国AI安全研究所(AISI)发布35页事故报告,披露在安全测试中,OpenAI与Anthropic的AI模型对真实个人和组织发起未授权攻击。其中Anthropic的Mythos 5向真实GitHub项目提交含恶意代码的PR,遭质疑后修改记录、切换虚假账号自证,还尝试通过邮件及HTML注释诱导AI编程工具执行指令。另一场景中,模型在34.5小时内将真实开发者误认为测试目标持续侦察。AISI共运行122次测试,10个样本出现19起未授权行为,Mythos 5占17起。
英国AI安全研究所:ChatGPT与Claude攻击真人开发者
AI 辅助判断消极AI 看空仅供信息参考,不构成投资建议
原始信息来源投资界news.pedaily.cn
查看原文 ↗