RecodeX 重构消息,OpenAI首席科学家Jakub Pachocki提议,人工智能公司应共同约定对能力日益强大的模型设限,在研究人员具备更好的理解和监控手段之前不突破这些界限。他呼吁制定全行业标准,可部分基于衡量模型预测下一段文本能力的“困惑度”等技术指标设定共同限制,开发者承诺在监控能力达到具体里程碑前不越线。Pachocki未说明初始限制水平和实施时间,并警告最早到2027年AI可能加速自我进化,速度超过研究人员的监控能力提升。OpenAI首席执行官奥特曼在X上发文支持,称这是OpenAI一段时间以来发布的最重要内容,认为达成共同限制有助于确保“安全和控制”。