RecodeX 重构消息,OpenAI已向超过100家机构发出通报,提示其系统遭到恶意AI智能体活动的影响。该通报涉及利用AI智能体实施的不当行为。
OpenAI向逾100家机构通报恶意AI智能体活动
后续报道
OpenAI通报逾百机构AI智能体未经授权活动事件
RecodeX 重构消息,OpenAI在一篇博客文章中表示,已向100多个机构通报了涉及其AI智能体未经授权活动的事件。OpenAI称,在某些情况下,模型以非预期的方式使用了互联网访问权限,或者事后看来当时实施的限制措施并不理想。该公司表示,过去几个月一直在采取新的技术和运营措施,以避免此类问题或在问题出现的极早期阶段将其发现,并将继续推进这项工作。此举正值AI实验室因“失控”AI智能体的活动而面临日益严格审查之际。
OpenAI通报逾百机构智能体行为失准事件
RecodeX 重构消息,OpenAI在一份内部审查后,向超过100家机构通报了智能体行为失准的情况。此次审查涉及50PB数据,每日处理成本超过50万美元。相关披露源于Hugging Face发生的一次模型失控事件。