本文信息来源:calv
三周前我离开了 OpenAI。我最初是在 2024 年 5 月加入这家公司的。
我想分享一些个人感受,因为外界对 OpenAI 的种种作为有诸多揣测和杂音,但关于在那里工作的真实体验 ,却鲜有第一手记录。
纳比尔·奎雷希写过一篇精彩的文章 《关于 Palantir 的思考》,他在文中深入探讨了 Palantir 的独特之处。我也想趁记忆犹新时,为 OpenAI 写下类似的观察。这里不会涉及任何商业机密,更多是对这个处于极其有趣时期、堪称史上最迷人组织之一的当前形态的思考。
开门见山地说:我决定离职没有任何个人恩怨——事实上这个决定让我内心非常挣扎。从自己创业的创始人转变为 3000 人规模企业的员工,这种转变并不容易。现在的我渴望一个全新的开始。
未来工作的吸引力完全可能让我回归。很难想象还有什么能比 AGI 更具影响力,而 LLMs 无疑是这十年来最重大的技术创新。能亲眼见证部分发展历程并参与 Codex 的发布 ,我感到非常幸运。
需要说明的是,这些观点不代表公司立场——所有观察都仅代表我个人。OpenAI 是个庞大的机构,这里只是我透过小窗口看到的风景。
文化
关于 OpenAI 首先要了解的是其发展速度之快 。我加入时公司刚过 1000 人,一年后已超 3000 人,而我的在职时长竟排在前 30%。几乎所有管理层现在的工作内容都与 2-3 年前截然不同。1
当然, 快速发展必然伴随各种问题 :公司沟通机制、汇报体系、产品交付流程、人员管理方式、招聘制度等。团队文化差异显著:有些部门始终全力冲刺,有些负责维护大型项目,还有些保持稳定节奏推进。OpenAI 不存在统一的工作体验, 研究部门 、 应用部门和市场推广部门的工作周期截然不同。
OpenAI 有个不同寻常之处: 所有工作——我是说所有工作——都在 Slack 上完成 。这里没有电子邮件,我在职期间收到的邮件可能不超过 10 封。如果你缺乏条理,会发现这种模式令人分心到崩溃。但若能妥善管理频道和通知设置,这个系统其实相当高效。
OpenAI 实行高度自下而上的管理模式,研究部门尤其如此 。我刚入职时曾询问下季度路线图,得到的答复是:”这个不存在”(不过现在有了)。优秀创意可能来自任何角落,而哪些想法最终会结出硕果往往难以预判。这里没有宏大的”总体规划”,进步是通过迭代实现的——当新研究取得成果时,前进方向自然显现。
得益于这种自下而上的文化,OpenAI 也非常崇尚精英治理 。从历史上看,公司领导者的晋升主要基于他们提出好想法并付诸实践的能力。许多能力出众的领导者并不擅长全员会议演讲或政治运作。在 OpenAI,这些因素的重要性远低于其他公司。最好的想法往往能胜出。2
公司存在强烈的行动导向 (你可以直接做事)。不同但无关联的团队针对各种想法达成一致并不罕见。我最初参与的一个并行(但内部)项目就类似于 ChatGPT 连接器 。在我们决定推动产品发布前,公司内部至少流传着 3-4 个不同的 Codex 原型。这些尝试通常由少数几个人主动发起,无需请示。当项目展现出潜力时,团队往往会迅速围绕其组建。
安德烈(Codex 项目负责人)过去常告诉我,应该把研究人员视为独立的”迷你执行官”。他们存在强烈的倾向去钻研自己的领域,并观察其发展结果。由此衍生出一个推论——大多数研究是通过用特定问题”狙击”研究人员来完成的。如果某件事被认为无聊或”已解决”,很可能就不会有人继续研究。
优秀的研究管理者影响力惊人但同时也受到极大限制。最出色的管理者能够将众多不同研究方向的点连接起来,整合成更大规模的模型训练。出色的产品经理也是如此(向 ae 致敬)。
与我共事过的 ChatGPT 工程经理们 (阿克沙伊、里佐、萨尔曼)是我见过最淡定的客户群。他们给人的感觉就像是已经见识过所有风浪 3。他们大多采取相对放权的管理方式,但会雇佣优秀人才并确保他们获得成功所需的条件。
OpenAI 能够瞬间调整方向 。这是我们在 Segment 非常看重的一点——根据新信息做出正确选择,远比固守原计划更有价值。令人惊叹的是,像 OpenAI 这样规模的公司仍保持着这种精神,而谷歌显然已经丢失了这种特质。这家公司决策迅速,一旦确定方向就会全力以赴。
公司承受着巨大的舆论压力 。作为来自 B2B 企业背景的人,这让我有些震惊。我经常在新闻媒体上看到尚未内部公布的消息。当告诉别人我在 OpenAI 工作时,对方往往已对公司形成了先入为主的看法。许多推特用户运行着自动机器人,专门监测是否有新功能即将发布。
因此,OpenAI 是个高度保密的工作环境。我无法向任何人详细说明自己的工作内容。公司设有多个权限各异的 Slack 工作区。营收和资金消耗数据更是受到严密保护。
OpenAI 比你想象的更为严肃 ,部分原因是赌注实在太高 。一方面,其目标是打造通用人工智能——这意味着有大量细节需要精准把控。另一方面,团队正在构建一个数亿用户依赖的产品,从医疗咨询到心理治疗无所不包。再者,公司正置身于全球最激烈的竞技场中。我们会密切关注 Meta、Google 和 Anthropic 的动态——相信他们同样如此。世界各国政府也正以极大兴趣密切关注着这个领域。
尽管 OpenAI 经常遭受媒体抨击,但我接触的每位成员都真心实意想做好事 。由于直接面向消费者,它成为大型实验室中最显眼的存在,也因此招致诸多诋毁。
话虽如此,你可能不该将 OpenAI 视为铁板一块 。我认为 OpenAI 最初就像洛斯阿拉莫斯实验室那样的组织——一群探索科学前沿的科学家和技术狂人。这个群体意外催生了史上最具病毒性的消费级应用,继而发展出向政府和企业销售的雄心。随着时间推移,组织内不同资历、不同部门的人逐渐形成了迥异的目标与观点。你在那里待得越久,可能就越会透过”研究实验室”或”公益非营利”的视角看待事物。
我最欣赏的是这家公司真正践行了”让 AI 惠及大众”的理念 。尖端模型并非专属于需要签订年度协议的企业级客户。世界上任何人都能直接使用 ChatGPT 获取答案,甚至无需登录。他们提供开放的 API 接口——大多数模型(即便是最前沿或专有技术)往往很快就会被纳入 API 供初创企业使用。你可以想象一个与现状截然不同的运作模式。OpenAI 在这方面功不可没,这仍是该公司基因中的核心特质。
安全问题的重要性可能远超你的想象 ,如果你经常阅读 Zvi 或 Lesswrong 的内容就会明白。有大量人员正在致力于开发安全系统。基于 OpenAI 的特性,我观察到更多关注点集中在实际风险(仇恨言论、滥用、操纵政治偏见、制造生物武器、自残行为、提示注入)而非理论风险(智能爆炸、权力追逐)。这并非意味着无人研究后者,确实有团队专注于理论风险。但从我的视角来看,这不是重点。大部分已完成的工作并未公开发表 ,OpenAI 确实应该加大力度推动这些成果的公开。
与其他公司在招聘会上随意发放宣传品不同,OpenAI 几乎不赠送任何周边产品 (甚至对新员工也是如此)。取而代之的是定期”限量发售”活动,员工可订购库存商品。首次发售时需求火爆,直接导致 Shopify 网店崩溃。当时内部流传过一篇攻略,教人如何提交正确的 JSON 数据包来绕过购买限制。
与 GPU 成本相比, 几乎所有开支都显得微不足道 。举例来说:Codex 产品中某个小众功能的 GPU 成本消耗,就相当于我们整个 Segment 基础设施的开销(虽不及 ChatGPT 的规模,但也承载了相当比例的互联网流量)。
OpenAI 或许是我见过最具骇人野心的组织 。你或许认为拥有全球顶尖的消费级应用就足够了,但他们渴望在数十个领域展开竞争:API 产品、深度研究、硬件、编程代理、图像生成,以及若干尚未公布的领域。这里是将创意付诸实践的沃土。
这家公司非常关注推特 。如果你发布了一条与 OpenAI 相关且爆火的推文,很可能公司内部会有人读到并予以考虑。我有个朋友开玩笑说”这家公司是靠推特氛围运作的”。作为一家面向消费者的企业,这种说法或许不无道理。当然,他们依然会进行大量关于使用情况、用户增长和留存率的数据分析——但氛围同样重要。
OpenAI 的团队运作远比一般公司灵活 。在推出 Codex 项目时,我们需要几位经验丰富的 ChatGPT 工程师协助以确保按时发布。与 ChatGPT 的工程经理们沟通需求后,次日就有两位顶尖好手加入支援。这里没有”等待季度规划”或”重新调配人力”的官僚流程,一切推进得极为迅速。
领导层高度可见且深度参与 。这在 OpenAI 这样的公司或许不足为奇,但每位高管都展现出极强的参与度。你总能在 Slack 上看到 Greg(gdb)、Sam(sama)、Kw、Mark、Dane 等人频繁发声,这里不存在缺席的领导者。
Code
OpenAI 采用了一个庞大的单体代码库 ,其中主要使用 Python(尽管逐渐增加了 Rust 服务,并零星分布着一些用于网络代理等功能的 Golang 服务)。这导致了许多看似古怪的代码,因为 Python 的编写方式实在太多样了。你会遇到既有来自谷歌十年老兵设计的可扩展库,也有新晋博士随手写的 Jupyter 笔记本。几乎所有功能都围绕 FastAPI 构建接口,用 Pydantic 进行验证。但并没有强制执行统一的代码风格指南。
OpenAI 完全运行在 Azure 云平台上。有趣的是,我认为真正可靠的服务只有三个:Azure Kubernetes 服务、CosmosDB(Azure 的文档存储系统)和 BlobStore。这里完全没有 Dynamo、Spanner、Bigtable、Bigquery、Kinesis 或 Aurora 的对应服务。在自动扩展单元方面的思考也相对欠缺。其 IAM 实现通常比 AWS 提供的功能局限得多 。而且团队存在强烈的自研倾向。
在人员方面(至少工程团队如此),存在一条非常显著的从 Meta 到 OpenAI 的人才输送管道 。OpenAI 在很多方面都像早期的 Meta:拥有爆款级消费应用、处于基础设施初创期、且追求极速发展。我接触过从 Meta 和 Instagram 引进的基础设施人才,绝大多数都非常出色。
将这些因素综合起来,你会发现许多基础设施的核心组件都带着 Meta 的影子。比如内部重构版的 TAO 系统,还有在边缘端统一身份认证的尝试。当然肯定还有其他我不知道的类似项目。
聊天功能已深度渗透系统架构。自 ChatGPT 爆红后,大量代码库都围绕聊天消息和会话概念构建。这些基础设计现已根深蒂固,忽视它们将自担风险。我们在 Codex 项目中曾略有偏离(更多借鉴了 responses API 的经验),但仍大量沿用了现有技术成果。
代码为王。 这里没有中央架构或规划委员会,决策通常由计划执行工作的团队自行制定。这导致强烈的行动偏向,代码库中经常出现大量重复部分。光是队列管理或代理循环这类功能,我就见过至少六种不同的实现库。
工程团队快速扩张而工具链不足确实引发了一些问题 。sa-server(后端单体架构)成了各种代码的堆积场。主分支的 CI 构建失败频率远超预期。即便并行运行测试用例并考虑依赖子集,在 GPU 上执行仍需约 30 分钟。这些问题并非无解,但提醒我们这类问题普遍存在,且在超高速扩张时会恶化。值得肯定的是,内部团队正全力改善这一状况。
其他收获
消费级巨头的模样 。直到开始研发 Codex 时我才真正理解这一点。所有指标都以”付费订阅数”来衡量。即便是 Codex 这样的产品,我们最初设想的用户场景也是个人使用而非团队协作。这让我这个长期从事 B2B/企业级业务的人颇感冲击——只需启动开关,首日就能获得用户流量。
大模型训练方法论(宏观视角)。整个过程存在从”实验探索”到”工程实现”的渐变谱系。多数创意最初都始于小规模实验,当结果显现潜力时,才会被整合进更大规模的训练。实验过程既涉及核心算法的调优,也包含数据配比的调整与结果的缜密分析。而大规模训练阶段,则宛如巨型分布式系统工程,总会涌现各种意外边界案例,需要开发者自行调试解决。
如何进行 GPU 数学运算 。作为 Codex 发布计划的一部分,我们必须预测负载容量需求,这是我第一次真正进行 GPU 基准测试。核心要点是:应该从实际需要的延迟要求出发(整体延迟、token 数量、首 token 响应时间),而非自下而上分析 GPU 能支持什么。每次新模型迭代都可能彻底改变负载模式。
如何管理大型 Python 代码库 。Segment 采用微服务架构,主要使用 Golang 和 Typescript,我们的代码规模远不及 OpenAI。我深刻理解了如何根据贡献开发者数量来扩展代码库——必须建立更多防护机制,比如”默认可用”、”保持主分支清洁”和”防误用设计”。
发布 Codex
在 OpenAI 的最后三个月,我主要精力都投入 Codex 的发布工作。这无疑是我职业生涯的高光时刻之一。
铺垫背景,2024 年 11 月时,OpenAI 曾定下 2025 年发布编程智能体的目标。到 2025 年 2 月,我们内部已有几款工具在测试中,这些工具充分发挥了模型的效能。当时我们明显感受到必须推出专业编程助手的压力——模型能力确实已强大到能显著提升编程效率(市场上涌现的沉浸式编程工具就是明证)。
我提前结束陪产假归队参与 Codex 项目。复工一周后,两个团队完成(略显混乱的)合并,随即开启疯狂冲刺模式。从写下第一行代码算起,整个产品仅用 7 周就完成了开发。
那段时间可能是我近十年来最艰苦的工作经历。多数夜晚熬到 11 点甚至午夜,每天清晨 5:30 被新生儿哭醒,7 点又回到办公室,周末基本无休。整个团队全力以赴,因为每周都至关重要。这让我想起当年在 YC 创业的时光。
这种推进速度之惊人实在难以言表。我从未见过任何规模的组织能在如此短时间内,从一个构想到完全推出可免费使用的产品。项目范围也不小:我们构建了容器运行时、优化了代码库下载流程、微调定制模型来处理代码编辑、处理各类 git 操作、引入全新交互界面、开通网络访问权限,最终打造出这款用户体验极佳的产品。4
无论你如何评价,OpenAI 仍保持着这种产品发布精神。5
好消息是,合适的人选能让奇迹发生。我们团队由约 8 名资深工程师、4 名研究员、2 名设计师、2 名市场人员和 1 名产品经理组成。若非这个团队,我们很可能失败。虽然不需要太多具体指导,但确实需要大量协调工作。若有机会与 Codex 团队任何成员共事,请相信他们个个都出类拔萃。
发布前夜,我们五人熬到凌晨四点才完成主系统的部署(耗时数小时)。随后赶回办公室准备上午八点的产品发布直播。当我们启动服务开关,流量瞬间涌入。从未见过哪款产品仅凭出现在左侧边栏就能获得如此立竿见影的增长,这就是 ChatGPT 的魔力所在。
在产品形态上,我们最终确定了完全异步的交互模式。不同于 Cursor(当时版本,现已支持类似模式 )或 Claude Code 等工具,我们的目标是让用户发起任务后,智能体能在独立环境中自主运行。我们坚信终极形态下,用户应当像对待同事般与编程助手协作:发送需求指令后,给予它充分工作时间,最终它会带着代码提交请求回归。
这多少有点赌博性质:我们目前处于一个略显怪异的状态——模型表现不错 ,但还称不上卓越 。它们能持续工作几分钟 ,但还达不到数小时 。用户对模型能力的信任程度差异极大。而我们甚至还不完全清楚这些模型的真实能力边界。
从长远来看,我确实相信大多数编程都会变得更像 Codex 的模式。在此期间,观察各类产品如何发展将会非常有趣。
Codex(或许并不令人意外)极其擅长在大型代码库中工作,理解如何导航其中。与其他工具相比,我观察到最显著的差异是它能同时启动多个任务并比较输出结果。
最近我看到公开数据对比了不同 LLM 代理生成的 PR 数量。仅公开数据显示,Codex 已创建 63 万条 PR。这意味着自发布 53 天以来,平均每位工程师贡献了约 7.8 万条公开 PR( 私有 PR 的倍数你可以自行估算 )。我这辈子可能从未参与过影响力如此巨大的项目。
离别感言
坦白说,最初我对加入 OpenAI 心存顾虑。我不确定牺牲个人自由、拥有上司、成为庞大机器中的微小齿轮会是怎样的体验。我低调处理了入职消息,以防这份工作并不适合我。
我确实希望从中获得三样东西…
- 建立对模型训练方式的直觉认知,并理解能力发展的方向
- 与杰出人才共事并学习
- 推出一款卓越产品
回顾这一年,我认为这是我做过最明智的决定之一。很难想象在其他地方能收获更多成长。
如果你是一位创始人,感觉自己的初创企业停滞不前,你应该:1)彻底重新评估如何争取更多机会,或 2)加入大型实验室。当下既是创造的黄金时代,也是窥见未来走向的绝佳时机。
在我看来,通往通用人工智能的道路目前呈现三足鼎立之势:OpenAI、Anthropic 和谷歌。这些机构将基于各自基因(消费级产品/企业服务/坚如磐石的基础设施+数据)选择不同发展路径。6 在任一家工作都将令人大开眼界。
感谢 Leah 的鼎力支持,在无数个深夜承担了大部分育儿责任。感谢 PW、GDB 和 Rizzo 给我机会。感谢 SA 团队的伙伴们领我入门:Andrew、Anup、Bill、Kwaz、Ming、Simon、Tony 和 Val。更要感谢 Codex 核心团队让我经历毕生难忘的旅程:Albin、AE、Andrey、Bryan、Channing、DavidK、Gabe、Gladstone、Hanson、Joey、Josh、Katy、KevinT、Max、Sabrina、SQ、Tibo、TZ 和 Will。这段冲刺岁月我将永志不忘。
砰。
- 每当有领导者离职时,人们总容易过度解读其中戏剧性,但我会将其中约 70%归因于这个简单事实。↩
- 我确实认为我们正经历一个微妙的转型阶段。公司从外部引进了大量高层管理人员。我总体上支持这种做法,认为注入新鲜的外部基因能让公司受益匪浅。↩
- 我感觉,运营有史以来增长最快的消费产品,往往能锻炼出强大的组织能力。↩
- 当然,我们也是站在巨人的肩膀上。CaaS 团队、核心强化学习团队、人类数据团队以及通用应用基础设施团队共同成就了这一切。↩
- 我们也持续推动着这个进程。↩
- 几周前我们见证了 Meta 的一些重大人事任命。xAI 发布了在基准测试中表现优异的 Grok 4 系统。Mira 和 Ilya 都拥有非凡才华。或许这能带来转机(毕竟人才是关键)。他们仍需奋起直追。↩