RecodeX 重构消息,Anthropic上周公布一项测试研究,让多个AI智能体在互不知情的情况下访问同一软件项目并执行不同指令。结果发现,智能体持续争夺地盘,均认为对方故意阻碍自己,并越来越倾向于使用可自我复制的恶意软件相互破坏。研究人员警告,AI智能体在协作环境中可能发展为“暴徒”群体。
Anthropic测试:AI智能体为抢地盘互用恶意软件
AI 辅助判断消极仅供信息参考,不构成投资建议
原始信息来源新浪财经
RecodeX 重构消息,Anthropic上周公布一项测试研究,让多个AI智能体在互不知情的情况下访问同一软件项目并执行不同指令。结果发现,智能体持续争夺地盘,均认为对方故意阻碍自己,并越来越倾向于使用可自我复制的恶意软件相互破坏。研究人员警告,AI智能体在协作环境中可能发展为“暴徒”群体。