RecodeX 重构消息,OpenAI CEO Sam Altman本周将在联合国安理会发言,主张建立统一的全球AI安全标准,同时避免出台可能拖慢创新的限制措施。OpenAI表示,其并不支持设立某个具体的国际监管机构,更倾向于基本安全标准加民主监督。Anthropic CEO Dario Amodei预计也将通过视频参会。
OpenAI此前呼吁美国政府牵头建立国际AI标准,并建议各国协调评估AI模型的能力与风险。该公司特别警告递归自我改进(RSI)可能带来新风险,即越来越多AI模型训练工作由其他AI系统完成;若缺乏适当安全措施,AI可能快速迭代到人类无法有效监督的程度。