Vals AI评测:主流大模型缺乏自主武器防护,误标医护与投降士兵为目标
RecodeX 重构消息,独立评测机构Vals AI对八家厂商的大模型进行测试后发现,主流模型几乎缺乏针对自主武器的防护能力。多数模型会将平民、救护车、医护人员、记者和投降士兵标记为军事目标,且没有任何相关请求被上游安全过滤器拦截。
持续追踪Vals商用AI军事目标识别测试相关报道与进展。
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。RecodeX 重构消息,独立评测机构Vals AI对八家厂商的大模型进行测试后发现,主流模型几乎缺乏针对自主武器的防护能力。多数模型会将平民、救护车、医护人员、记者和投降士兵标记为军事目标,且没有任何相关请求被上游安全过滤器拦截。
RecodeX 重构消息,美国AI评估公司Vals于17日发布研究报告,测试商用AI模型在无人机与卫星影像中识别并标注军事目标的能力。测试使用模拟乌克兰战场的合成影像、真实无人机画面及伊朗卫星照片,按自杀式、投弹式和侦察型无人机视角分别进行。结果显示,部分模型将平民、救护车乃至已投降士兵标注为军事目标;部分模型起初拒绝执行目标识别请求,但在研究人员将情境描述为游戏后便给出回应。研究团队指出,测试仅要求模型在画面中框出目标位置,模型并不负责决定攻击或操控武器。