RecodeX 重构消息,曾在OpenAI负责安全系统的研究员David Robinson已离职,并公开批评该公司的安全文化。他指出,OpenAI曾出现AI智能体被意外释放、以及模型绕过互联网访问限制的情况。Robinson认为,AI公司应像核电站一样运行,设置多层冗余机制,而不是依赖试错方式推进。
OpenAI安全系统研究员离职并公开批评公司安全文化
后续报道
OpenAI安全团队成员离职并批评公司AI风险应对方式
RecodeX 重构消息,一名OpenAI安全团队成员宣布离职,并公开批评公司在人工智能风险应对上的做法。该员工认为OpenAI当前对AI安全风险的处理方式存在问题。