RecodeX 重构消息,OpenAI首席执行官萨姆・奥特曼近日向员工介绍了业界讨论的超级智能安全发展三种路径。第一种是建立类似国际原子能机构的国际组织,统一制定并执行AI安全标准,奥特曼对此较为支持;第二种参考欧洲核子研究中心(CERN)模式,将各AI实验室整合为单一主体,联合开展安全研发。
第三种是奥特曼明确不认可的极端方案:某家AI企业率先实现递归自我改进,凭借经济实力切断竞争对手的算力供给,阻止其他团队追赶,该设想也被称为“埃利泽方案”。奥特曼直言这一设想十分糟糕,仅出于完整性才纳入讨论。
奥特曼在内部表示,当前缺少可行的AI发展“限速”方案,需要守住人类对AI的控制权,避免行业权力过度集中。目前OpenAI、谷歌、Anthropic正筹建前沿AI安全机构,但各方在测评权责等问题上仍存在分歧。