Safetymogging 与 marginmaxxing 加速派

相信 Anthropic，并部署物理 AI

思考 AI 安全，它最终与底层业务密不可分。文本与编码模型周围正在发生的，显然很快会来到物理 AI。

Ant 的财务

上周 Anthropic 出了两件重要事：

1. Dario 主张我们需要“控制前沿节奏”，通过一系列控制与协议集体放慢 AI 发展
2. Anthropic 泄露了一些伪财务数据，声称他们盈利且高毛利率……如果你排除股票薪酬、训练与收入分成——也就是你知道的他们所有成本……

即便我们把人人当真、相信其最佳意图，我们仍须接受这些基本是同一故事，或至少同时性意味着我们必须如此对待。

所以如果你相信 Dario 与 Anthropic 领导层真心相信 AI 安全是值得事业，他们不可能单边行动，因为核心资产（模型）贬值多快。如果不是人人同时放慢，Ant 死。对他们方便的是，如果人人（国内外）都放慢，他们赢！

而这当然与财务密不可分。

三月：

训练是收入成本，不是 R&D 成本。停止训练，人人流失并转到竞争者或蒸馏的中国版本。实验室永久投入难以置信的金额构建这些快速贬值资产（capex 与训练）。每个新 SOTA 模型比上一个更贵；我们正快速接近 >10 亿美元训练运行。

我认为值得相信担心 AI 安全的人，或至少听他们说完。但直到他们做任何与自利相悖的事，很难信任其提议的补救。

当然每一方（安全、开源等）的每个论证听起来都像有大量利益的党派动机推理。因为就是！

从纯财务视角，“剥除训练并加回收入分成后 80% 毛利率”显然好笑。许多人把它比作 WeWork 的“社区调整 EBITDA”，但实际比那更荒谬。

“社区调整 EBITDA”是对愚蠢但非疯狂概念（本质上四面墙毛利）的疯狂名字。如果 Adam Neumann 是正常人，只叫它“同店毛利”之类，没人会眨眼。Ant 的毛利率是名字正常但概念彻底疯狂。

新的/编造指标没问题。财务关乎讲故事，当你发明指标时，你是为了突出故事中否则未说或说得不够的部分。

几十年前 EBITDA 被认为是荒谬编造指标（你怎么能排除利息与税！）但重点是它显示业务能支撑的债务负载，并帮助表明电信等折旧重业务能抛出的现金。所以它可论证地似是而非但有用。

对 Anthropic，不清楚指标除了“IPO 将至”还要告诉我们什么——除非也许他们不计划需要继续训练前沿模型，因为他们认为能让其他所有人也停。

过时：AI 安全。流行：机器人安全！

未来不会与过去完全断裂。过去当整个类别失败时，不是因技术失败。是因非常人类的问题挡在成功部署路上。

• 美国太阳能/电气化落后 20–30 年，因为人们觉得卡特把太阳能板放白宫有点怂
• 我们核电可能落后约 50 年，因为继续发展太吓人
• 我们正因反科学阴谋论者从疫苗黄金路径坠落。这将使世界付出数百万不必要死亡。
• 港口永远不会自动化，因为工会。
• AV 大概十年内不会在纽约上线，因为恐惧与监管俘获。

这些不是技术问题，也不独特。

它们是恐惧驱动的 doom loop，驱动投资不足与缓慢部署，最终使社会/政治问题看起来像（甚至造成）技术问题。

我们不能重跑 AI 传播剧本（它会杀光我们）。相反，技术领导者有责任为物理 AI、机器人、自动化等做肯定、积极与人文主义的论证。我们领域的信誉处于历史低点。数据中心与 LLM 正成为自伊拉克战争以来最显著且负面的议题领域。

与其只试图在成功/可行性上爬坡，我们需要在接受度上爬坡，或从可怕之山爬下。

当我们/我在 pAI 供应链中寻找押注，特别关注系统集成商（记住，部署是我们时代的任务）时，似乎有一整片宇宙围绕安全、合规与保险的机会，试图磨平一些锋利边缘。

安全将同时驱动需要被解决/规模化通过的监管要求，并在买家端创造更软要求——尤其当机器人在与人类混合环境中交互时。

其他

• 上周末我在 Court Street 的 Sam’s 吃饭，由 Georgia 与 Long Island Bar 团队新重开。晚餐很有趣，绝对值得一访。小牛肉帕尔马大受欢迎。
• 《世界上最可靠 AI 检测器有人类问题》：Armed with near-perfect detection tool, Pangram is fighting to convince the public AI cheating can be caught. 常读者知道我是 Pangram 大粉丝，但随时间清楚我们真没有围绕 AI 写作的好规范。我绝对坚持如果你没花时间写，我不会花时间读，但现在我们在“人类”与“垃圾”之间没有好模型，我认为担心猎巫是公平的。“一滴算数”在我看来不是最优结果，把执行完全归功于 AI 对人类想法/思考也不。
• 我一直说 Fort Greene 正成为新西村，而西村成为新 Murray Hill……但昨晚我在西村喝酒，收回这话。有点恐怖秀！不过我仍坚持 TikTok 在毁掉我的街区。
• 这桌游（从未成功完成！）听起来完全彻底疯狂！也有点像我个人地狱。使 cones of dunshire 看起来像跳棋。
• 度假时我建了一个邮件机器人，为我读邮件并就任何重要事给我发短信。太棒了。我全程完全关掉通知，解释什么重要，除紧急需要时大体断联。甚至只是开着通知也会把你拉进黑箱。这对我是很棒的个人 Agent 用例。大粉丝，下次离开还会再做。

本文由 RecodeX 编译自 Safetymogging and marginmaxxing the accelecels（作者：Yoni Rechtman），首发于 SandHill.io #302 推荐阅读。译文仅供学习交流，观点不代表本站立场，版权归原作者所有。