Sam Altman 离开 OpenAI 董事会安全委员会

OpenAI 宣布其首席执行官 Sam Altman 将退出安全委员会，该委员会将完全由独立董事会成员组成，以确保公司对自身行为的有效监督。安全委员会现由 Zico Kolter 担任主席，并包含多位在技术与安全领域的专家，以评估新的 AI 模型的安全性和发布时机。OpenAI 正在努力接受委员会的建议，提升透明度和安全实践，与外部机构展开合作。

重点

– OpenAI 首席执行官 Sam Altman 宣布退出安全委员会。
– 新的安全委员会由独立董事领导，确保公司行为的有效监督。
– Zico Kolter 被任命为安全委员会主席。
– 委员会有权听取主要模型的简报，并推迟新模型的发布。
– 最近的 o1 模型被评估为“中等风险”。
– OpenAI 努力改进安全性，采纳委员会建议，增加透明度。
– 公司在内部和与外部团体中，统一其安全性实践。

https://www.axios.com/2024/09/16/openai-sam-altman-safety-committee-members