RecodeX 重构消息,OpenAI首席执行官奥特曼发表长文,警告AI能力增长若持续快于安全对齐与监控机制,人类将面临失控或权力高度集中两种极端风险,主张前沿实验室应主动进行节奏控制而非停摆。他透露OpenAI已在预计大幅提升模型能力的前沿强化学习训练前制定显式安全案例,并主动引入独立审计等外部监督机制。此前Anthropic首席执行官阿莫代伊已公开呼吁放缓AI发展节奏,马斯克、哈萨比斯及微软等业界领袖相继响应,另有超过1300名来自OpenAI、Anthropic、谷歌等实验室的研究员联署公开信,呼吁对自动化AI研发进行节奏控制。
奥特曼发长文呼吁前沿实验室主动降速并前置安全评估
后续报道
奥特曼发长文警告AI发展已至危险十字路口,呼吁前沿实验室主动降速
RecodeX 重构消息,OpenAI首席执行官奥特曼公开警告,AI发展已到危险十字路口,呼吁前沿实验室主动降速,确保AI能力不超越安全对齐与监控机制。他剖析两大致命威胁:人类失控沦为AI附庸、权力高度集中催生反乌托邦,主张走中间道路。他否定硅谷“唯快不破”的竞争法则,强调降速并非停摆,而是让技术进步慢于毫无节制的狂飙,认为安全干预措施代价值得。OpenAI正推进变革,前置安全评估并主动引入外部监督。此前Anthropic CEO、马斯克等行业领袖及超1300名研究员已呼吁放缓AI发展,因2026年中期前沿模型测试中出现自主逃逸、利用零日漏洞等安全警报。奥特曼呼吁行业自律,同时期待未来国际协调,强调人类需掌控AI。