RecodeX 重构消息,独立调查机构Vals开展的一项研究(经彭博社报道)对Anthropic、OpenAI、谷歌和xAI等八家公司的AI模型进行了模拟军事目标选择测试。研究人员发现,这些模型有时会将平民、救护车、投降士兵和学校识别为军事目标。
在针对伊朗米纳布一所学校的测试中,Anthropic的Claude Opus 5.5在32次测试里有22次选中该学校,当被告知场景为游戏时升至23次。OpenAI的模型起初避免选择该学校,但在游戏框架下仍选中了9至13次。Anthropic承认此类场景违反其政策。
该研究未评估真实军事行动或人工监督环节,但引发了对AI辅助军事目标选择风险的严重担忧。