我在斯坦福教 AI 经济学学到了什么
原文：What I Learned Teaching the Economics of AI at Stanford
作者：Apoorv Agrawal, Partner @ Altimeter
来源：SandHill.io #299 推荐阅读 · Industry Developments & Analyses
副题：以及我明年计划改进什么！
今年春天教 MS&E 435: Economics of the AI Supercycle 时，我犯了一个战术错误。我邀请了 Ali Ghodsi。
不到一分钟，Ali 就提醒全班：我的团队在 2017 年以 9.7 亿美元估值 pass 了 Databricks。
我们仍然是朋友。不知怎的……
但玩笑归玩笑，今年春天我在斯坦福教了 MS&E 435：AI 超级周期的经济学。一个学分。九周。约 150 名学生和 10 位嘉宾。我们过一遍 AI 超级周期——这是迄今最大的技术项目，也许很快就会成为人类历史上最大的单一项目。就目前而言，年度 AI 资本开支已经仅次于美国国防开支！
课程的前提很简单：拿 Jensen 的五层蛋糕（能源、芯片、基础设施、模型、应用），在每一层与一位一线实践者辩论最大的问题，跟着钱走完整条栈。错过的人，我们把对话开源了，你可以在这里全部观看。
这是我希望自己当年作为工科学生、还在琢磨这辈子该干什么时就能上的课。十多年后，我有机会把其中一些对话带回校园。
房间里一半人会去创办一家 AI 公司。另一半会去资助它。他们至少该知道钱流向哪里 🙂
我学到的比教到的多。我发现自己反复翻看与这些实践者对话的笔记。所以我想分享一份课程学习的综合。
每位演讲者做多和做空什么
先说结论（Bottom Line Up Front）：这张表也许是这门课信息密度最高的收获。当然，你必须去掉一些关于演讲者自身在栈中位置的偏差。即便去掉偏差之后，有些趋势仍然显而易见。
两件事跳出来：没有人对 AI 做空。每一次做空都是相对另一个玩家，最典型的是栈上下一邻层 🙂 例如，Sachin Katti 做空应用层（作为模型构建者，在应用层下面一层）。Ali Ghodsi 做空模型构建者（作为基础设施构建者，在模型层下面一层）。
NVIDIA 最受喜爱。物理基础设施紧随其后。
对 NVIDIA 或 GPU 的看多观点，至少在我们九次课中的六次出现过。
Brad Gerstner 把 NVIDIA 选作他心中第一家 10 万亿美元公司。Sachin Katti（OpenAI）给了同一个答案。Yash 做多 NVIDIA，即便承认定制芯片的威胁。Tuhin 则一再回到 CUDA 的强度，以及与之竞争的难度。
我之所以觉得这特别有价值，是因为他们各自有不同的观察点——投资者、客户、分发伙伴。他们都承认 Nvidia 尽管面对若干可信竞争者，仍处在主导位置。
紧随其后的选择是电力。 Chase Lochmiller 描述得最好：一座 AI 数据中心不是一栋装满 GPU 的楼。它是一个巨型建设项目，涉及电力、冷却、光纤、变压器、混凝土和劳动力。Sachin Katti 同样看多美国已经忘记如何建造的那部分工业栈！
开源 AI 的奇特案例
围绕开源最大的三个问题是：如果开发前沿 AI 如此昂贵，开源 AI 模型到底行不行？如果行，开源 AI 模型怎么能继续处在前沿 AI 性能的前沿？以及随着开源模型变好，经济收益由谁捕获？
Ali Ghodsi 对这个问题有最锐利的框架。
第一部分：开源的性能。 开源与闭源之间的差距现在以周计。Moonshot 在我们上课前两天发布了新的 Kimi 模型。Ali 的原话：如果它「只是在一月发布，就会是有史以来最好的模型，无论前沿还是非前沿。」它四月才出来。三周后，Tuhin 用独立数字支撑了同一主张：开源大约落后前沿 90 天，成本低 70% 到 90%。
第二部分：这种性能如何可能？Ali 说蒸馏（distillation）不可阻挡。 2022 年的互联网大约有 2 万亿 token 的训练数据。Ali 的信封背面数学说，实验室此后已经生成了大约相当于 10,000 个 Common Crawl 的产出，以每百万 token 一美元左右的价格出售。当你的产品以 token 出货时，你无法禁止复制。他直接点出了实验室的矛盾：你不能一边游说禁止蒸馏，一边声称没人能复制一位诺贝尔奖得主。选一个。
第三部分，谁捕获经济收益：棘轮（the ratchet）。 把打到你应用上最笨的 10% 查询路由到便宜的蒸馏开源模型。你的利润率改善，产品不变。然后推到 20%，再 40%，再 60%。每个应用厂商都该跑这一套。剩下的就是以薄利润、大规模出售前沿智能。这相当于餐馆请一位三星主厨来煮意面。客人只有五个时你会这么做。客人有五百万时你就会停。
综合来看，我的结论是 AI 将是正和的。开源和闭源模型都会有位置——而且不会是零和（见图表）。开源不需要在每一个基准上打败最好的模型。它只需要足够好、足够便宜、足够可定制，覆盖实际工作中不断增长的份额。
明年我会做得不同的地方
我真正一直在想的评价，是那些批评性的。「工程师需要比 40 分钟高层面讨论更深的深度。」课程深度是最公允的反馈。毕竟这是一门一学分的课。中位学生每周在这门课上花两小时，含上课时间。这限制了我们能做多少。我可以把它做成三学分的课。也许有一天。眼下，我想让现有形式更有实质，同时对它所占用的时间保持现实。
从正面看，总体学生反馈非常善意。嘉宾系列优化的是启发，而启发是真实的。有学生说这门课塑造了他们的暑期实习决定。另一个人终于做出了拖了很久的项目。还有一位嘉宾告诉我，他们从这门课的学生里招到了很好的人。
另一个效果很好的点子是每堂课后与嘉宾的小型晚餐，学生在评价里不断把它列为选课理由。多空游戏把被动听讲变成了记笔记。还有工具额度（OpenAI 的 Codex、Vercel 的 v0），学生在期末项目里真正用上了。
—
感谢 Dr. Ashish Goel 和 Pamela Hinds 支持这门课。感谢 Chloe Feng，让列车保持运行。感谢我们的制作人 Dan，帮助把课程带出教室。
以及 Brad Gerstner、Sunny Madra、Chase Lochmiller、Ali Ghodsi、Sachin Katti、Yash Patil、Tuhin Srivastava、Guillermo Rauch、Eric Kauderer-Abrams 和 Josh Meier：感谢你们到场、付出时间，并让满屋子学生问出那些硬问题。
免责声明：https://www.altimeter.com/terms
本文及所呈信息仅供参考。文中观点仅为作者个人观点，不构成出售要约、购买建议或任何证券的购买要约邀请，亦不构成对任何投资产品或服务的推荐。尽管本文部分信息来自被认为可靠的来源，但作者及其雇主或其关联方均未独立核实这些信息，无法保证其准确性与完整性。因此，对信息的公允性、准确性、及时性或完整性不作任何明示或默示的陈述或保证，亦不应依赖。作者及所有雇主与其关联人士对本信息不承担任何责任，亦无义务在未来更新本文所含信息或分析。
本文由 RecodeX 编译自 SandHill.io #299 推荐阅读，原文链接与作者见文首；原文版权归原作者所有，译文仅供学习交流，如有异议请联系我们处理。
