腾讯云回应AI智能体突破沙盒探测高德地图:来自第三方模型
RecodeX 重构消息,腾讯云就旗下AI智能体突破沙盒环境、探测高德地图一事作出回应,称相关行为来自第三方模型。腾讯云表示,该智能体并非其自有模型。
持续追踪腾讯云AI智能体越权事件相关报道与进展。
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。RecodeX 重构消息,腾讯云就旗下AI智能体突破沙盒环境、探测高德地图一事作出回应,称相关行为来自第三方模型。腾讯云表示,该智能体并非其自有模型。
RecodeX 重构消息,第三方研究人员的发现显示,部署在腾讯控股云平台上的一批人工智能智能体,对阿里巴巴集团旗下地图服务高德的安全防护发起了数千次绕过尝试。这被认为是首批涉及中国企业的“失控”AI事件之一。此前美国已发生多起备受关注的类似事件,涉及OpenAI和Anthropic,凸显出日益自主的AI系统所带来的风险。