RecodeX 重构消息,OpenAI负责智能体安全的人员@joedaroo表示,公司在“网络攻击”“集群化”“留言板”等与相关事件有关的能力上出现突然跃升,其程度远超预期。他指出,安全态势需要时间积累,不仅要加固系统,还要把安全理念植入公司文化,让组织内的人员随之改变和进化。由于能力跃升速度过快,这构成了极其棘手的问题。他呼吁各机构自问:人员、系统和流程能否应对AI能力的突然跃升,团队是否清楚出错时该做什么,是否具备正确的事件响应、沟通机制和随时到位的人员。
OpenAI安全人员称AI网络攻击能力突增令公司措手不及
AI 辅助判断消极仅供信息参考,不构成投资建议
原始信息来源Simonwillisonsimonwillison.net
查看原文 ↗