Anthropic 首席执行官达里奥·阿莫代伊：“我不希望 AI 被用来对付我们自己人”

人们对 Dario Amodei 的看法不一。

美国总统唐纳德·特朗普曾抨击 Anthropic 首席执行官以及这家 AI 公司其他联合创始人是激进的“左翼疯子”。Amodei 的“过错”是什么?竟敢主张不应将 Anthropic 的服务用于五角大楼在国内实施大规模监控，或用于完全自主武器。

颇具影响力的科技分析师本·汤普森也批评 Amodei 一再渲染 AI 风险，称这是一种“把灾难幻想当作营销工具”的做法。即便如此，汤普森最近仍将 Anthropic 评为当前 AI 竞赛中的领跑者，理由是其开发出广受欢迎的编程工具，并发布了强大的 Claude Mythos 模型，稍后还会谈到这一点。

但资深硅谷投资人迈克尔·莫里茨爵士却热情得多。“我认为他是个非凡的人物，是货真价实的真材实料，”他告诉我，“他是一位造诣极深的技术专家，也作出了出色的战略选择。”

在如此褒贬不一的评价之下，我愈发想见见这位曾从事计算生物学研究、如今掌舵着历史上增长最快公司之一的人。Anthropic 刚刚以 3800 亿美元估值融资 300 亿美元，据称正朝着今年晚些时候进行大规模股票市场上市迈进。

阿莫代伊对 AI 潜力的热情如此高涨，以至于他设想，不久的将来 Anthropic 将在一个数据中心里运行着“一个由天才组成的国家”，并将对我们所有人的生活带来深远影响。尽管外界议论纷纷，认为 AI 泡沫即将破裂、这项技术如今正触及高得离谱的成本天花板，阿莫代伊仍坚信，他所谓的“庞大算力团块”的扩张之路还远未走到尽头。

“彩虹没有尽头，彩虹本身就是一切，”他说，“我们看不到任何放缓的迹象。”

“我是第一个说，这将彻底改变世界，而我们低估了它的重要性的人。”

Amodei 选择在他家乡旧金山历史悠久的 Jackson Square 街区的 Cotogna 餐厅见面。这个街区里一些红砖建筑的历史可追溯到 19 世纪 50 年代初加州淘金热时期。我后来得知，Cotogna 在意大利语中意为榅桲。我们用餐的这家餐厅被形容为隔壁米其林三星餐厅 Quince 更“休闲、更适合社交”的姊妹店，也许比起后者，这里才是接待硅谷数十亿美元富豪更自然的场所。

我提前到达后，热情的接待经理迎上前来，把我带到一张户外餐桌旁——这张桌子已由 Anthropic 的安全团队提前布控。唯一的问题是，我们整个午餐期间，雨点始终淅淅沥沥地下个不停。不过，透明的塑料围挡和顶棚让我们保持干爽。等待期间，我看着白色无人驾驶 Waymo 汽车沿着 Pacific Avenue 轻快驶过，仿佛瞥见由 AI 驱动、正加速向我们袭来的未来。

“我对我们能够为生物学做些什么感到非常兴奋。AlphaFold 给了我很大启发。我认为 Demis 已经为我们所有人指明了道路。”

阿莫代伊很快就到了，身穿白色 T 恤和蓝色开衫。蓬乱的头发、蓝框眼镜和专注严肃的神情，让这位 43 岁的科技企业家依然给人一种印象：他还是职业生涯初期那个书呆子气十足的学术研究者。

我们开始谈起阿莫代伊在这座城市的 Mission District 长大、经历第一波互联网繁荣时期是什么感觉。令人意外的是，他说自己当时并没有太关注这些。“尽管我在这里长大，也看着 Google 和 Yahoo 这些公司出现，但我其实从来没有真正对此感兴趣，”他说。

他当时热爱的领域是物理学，并在 Stanford University 学习这门学科，之后又在 Princeton 完成了生物物理学和计算神经科学的哲学博士学位。“我想研究真正困难的问题。我想理解这个世界和宇宙，”他说，“我曾设想自己会成为一名教授。”

作为一名意大利移民皮革工匠的儿子，Amodei 说他热爱意大利美食(这也解释了他为何选择 Cotogna)，尽管他遗憾自己从未学过意大利语。“我在语言方面一直很差，绝对是差透了，”他笑着说。

阿莫代伊说，年轻时，他和比自己小四岁的妹妹 Daniela 也像许多孩子一样，曾梦想着有朝一日能一起为世界做点好事。但就连他自己也承认，现实竟真如此发展，令他感到意外：2021 年，Daniela 与哥哥以及其他联合创始人共同创办了 Anthropic，并将其设立为一家公益公司。他们都已承诺，未来将捐出自己 80%的财富，但具体通过何种机制实施，仍在研究之中。

他将功劳归于 Daniela，认为她帮助在 Anthropic 团队中灌输了惊人的信任与忠诚。与大多数人员流动频繁的初创公司不同，Anthropic 的核心团队一直保持着罕见的稳定性，任职时间最长的 17 名员工至今仍留在公司。 在我们共进午餐前，我看了一段七位创始人参与的视频讨论，他们之间的默契展露无遗。其中一位创始人有些腼腆地承认，自己从未想过要创办公司，但觉得确保 AI 以安全方式发展是他的“责任”。“我也是这样的态度，”Amodei 告诉我。

我们都点了蟹肉浓汤作为前菜。两名服务员走来，颇具戏剧性地将汤汁浇在撕碎的蟹肉上，又在我们中间放下一盘四个迷你小面包供我们分享。这道浓汤好得惊人，口感既顺滑又鲜活提神。我们两人都像苦行僧般只喝气泡水。

Amodei 说，他对 AI 的兴趣源于阅读未来学家 Ray Kurzweil 所著的 《奇点临近》。他说，他并不认同整本书，因为其中有一些“疯狂”和“科幻”的内容，但他认为 Kurzweil 提出的核心洞见是正确的：计算能力的指数级增长最终将催生达到人类水平的 AI。“那是我 2005 年时的灵感来源，”他说着，又顺手拿起了第三个面包卷。

在 Stanford University School of Medicine 担任博士后研究员、苦苦寻找癌症生物标志物期间，Amodei 日益意识到，人工智能可以成为加速科学发现的强大工具。谈到竞争对手人工智能研究实验室 Google DeepMind 的联合创始人 Sir Demis Hassabis 所取得的成就时，他满怀钦佩——后者于 2024 年因帮助开发 AlphaFold2 模型而获得诺贝尔奖，该模型已预测出 2 亿种蛋白质的结构。

“我对我们能为生物学做些什么感到非常兴奋，”阿莫代伊说。“AlphaFold 给了我很大启发。我认为 Demis 已经为我们所有人指明了方向。而且，你知道，我也想做出类似的事情。”

为此，Anthropic 本月以 4 亿美元收购了生物科技初创公司 Coefficient Bio。Anthropic 还任命诺华首席执行官 Vas Narasimhan 为董事会成员。

他的目标并不是亲自开发药物，而是在制药流程的每一个阶段部署由人工智能驱动的工具。他表示，人工智能可以帮助提出疾病治疗方式的假设、识别候选药物，并开展更高效的临床试验。

阿莫代伊承认，目前公众关于人工智能存在两种令人困惑的叙事，而这在一定程度上也是由他本人推动的。2024 年，阿莫代伊发表了一篇题为 《充满仁爱之力的机器》 的长文，阐述了人工智能可能带来的颠覆性益处。后来他告诉我，他相信人工智能可以帮助将美国年度 GDP 增长率提高到每年 10%，甚至更高。

但他担心，眼下围绕人工智能风险的负面叙事正占据上风。他本人今年发表了一篇题为 《技术的青春期》 的文章，详细阐述了人工智能的诸多危险。他还警告称，人工智能可能在五年内消灭约 50%的初级白领岗位，导致失业率飙升，从而进一步加剧了外界对经济动荡的担忧。

阿莫代伊坚持认为，人工智能公司必须正视这项技术将带来的经济冲击。他表示，负面叙事之所以占据主导，部分原因在于人工智能行业尚未真正兑现其承诺的益处。在这成为现实之前，人们对正面说法提出质疑也是可以理解的。“那只是宣传吗?那只是不会成真的空头支票吗?我们必须真正把它变成现实，”他说。

“我们不应否认颠覆将会发生。我们只需要让积极影响大到足以成为应对这种颠覆的工具，”他说。他的座右铭是，人工智能只能“以信任的速度扩散”;而当前，信任正十分稀缺。

我认为，我们应该以监管汽车和飞机的方式来监管人工智能

本月，Anthropic 通过经过严格控制发布的 Claude Mythos Preview 模型，震动了网络安全界。该公司表示，Mythos 已发现了数千个所谓的“零日”网络漏洞——即此前从未被发现的漏洞——涉及所有操作系统和网络浏览器，其中一些漏洞存在时间长达 27 年。此后，包括美国官员在内的相关人士已与该国几家最大银行举行紧急会谈，以确保其网络系统的安全。

阿莫代伊介绍说，Anthropic 已启动“Glasswing 项目”，与包括 Amazon、Apple 和 Microsoft 在内的 40 多家机构合作，帮助发现并修补网络安全漏洞。但在其部分代码遭泄露后，Anthropic 自身的数据安全做法也正面临审视。阿莫代伊表示，他怀疑开源模型和中国开发者将在六到 12 个月内复制 Mythos 的能力。

与他某种和平主义者的名声相反，Amodei 热衷于让民主国家政府利用这些强大 AI 模型的优势，来对抗俄罗斯和中国等威权政府，并支持包括乌克兰和台湾在内的盟友。“我们很期待美国政府使用这项技术，”他说，并表示这或许有助于“瓦解”威权政权。“但我不希望它被用在我们自己的人民身上，或被用于不民主的目的——无论是被专制政权使用，还是被我们自己的政府使用。”

阿莫代伊表示，他无法谈论 Anthropic 目前对五角大楼提起的法律诉讼 ，该诉讼质疑五角大楼将其列为“供应链风险”所造成的损害性认定。Anthropic 此前曾反对军方提出的部分 AI 用途，称在少数情况下，这些用途可能“不是在捍卫民主价值，而是在削弱它们”。五角大楼则坚持，所有 AI 公司都应接受其技术的“所有合法用途”。“很遗憾，Dario Amodei 是个骗子，而且有上帝情结，”五角大楼高级官员 Emil Michael 在 X 上发文称。

我说，遭到自己国家总统如此公开的抨击，想必令人不安。Amodei 表示，他并未把这些批评看作针对个人。 “各种各样的人会出于各种各样的原因说各种各样的话。实际上，我认为，拥有一套原则并坚守这些原则，会让人感到非常解脱，”他说。

这时， 我们的主菜上桌了：Amodei 点的是芦笋披萨，我的是意大利乳清干酪大馄饨。Amodei 用手拿着披萨吃，我则切开那只硕大的“信封”状意面，里面流出了带着微酸味的奶酪。

一些评论人士认为，Anthropic 通过开发 Mythos，已获得了堪比民族国家的力量。因此，出于安全考虑，这家公司是否应该被收归国有?对此，Amodei 反驳称，他坚信美国的制衡原则。他认为，任何一家公司——或任何一个政府——单独掌控这项技术都会十分危险，这也正是 Anthropic 如此紧密地与其他方面开展合作的原因。

我们有义务无私地回馈社会。社会也不必因此对我们顶礼膜拜。

他说，他始终坚信，企业、公民社会和政府必须携手合作，应对我们面临的技术挑战。“我是个爱国者。我相信这个国家，”他说，“我们认为，我们在帮助所有人找到解决之道方面发挥着重要作用，并且要成为值得人们信赖的负责任行动者。”

继 Mythos 发布后，Amodei 更加坚信，有必要对人工智能实施强有力的监管。他推测，在未来六到十二个月内，生物安全领域也可能出现类似的危险。“我认为，我们应该像监管汽车和飞机那样监管人工智能，”他说，“所有人都意识到它们具有巨大的经济价值，但必须被谨慎地制造出来。如果造得不对，它们就可能致命。”

阿莫代此前曾与科技行业的其他人士发生交锋——他称这些人为“倾向于制造混乱的参与者”——这些人曾投入资金，反对那些支持由各州就 AI 立法的公职候选人。作为回应，Anthropic 向致力于游说推动更严格安全监管的超级政治行动委员会 Public First Action 捐赠了 2000 万美元。

他希望，“Project Glasswing”能够成为未来发布强大前沿模型方式的一个原型。 他说：“这是良好的第一步，但如果我们能做出更完整的东西，那就再好不过了。”

大型模型开发者都应携手合作，帮助建立一套针对这项技术强制性评估的框架。他建议由某个第三方机构来制定标准，例如由业界支持的非营利组织 Frontier Model Forum。“比如，你的汽车有没有刹车，有没有安全气囊，有没有安全带?”

那岂不是意味着他得与自己最大的竞争对手、OpenAI 掌门人 Sam Altman 携手合作?我问道。Amodei 笑了。今年早些时候在新德里举行的一场人工智能峰会上，Amodei 和 Altman 在台上都没有牵手，这一幕广为人知，与其他所有主要与会者形成鲜明对比。Anthropic 团队中有许多人——包括 Amodei 在内——此前都曾在 OpenAI 工作，后来选择出走，因为他们担心 Altman 对安全问题的重视还不够。

阿莫代谨慎行事，不想与奥尔特曼进一步激化矛盾，但他仍抱有希望：如果能够在一批核心人工智能公司之间形成足够的势头，那么所有人都会感到有必要加入进来。他还补充说，美国政府官员此前一直反对过于干预性的法规，但如今也“明白当下的关键时刻”。“我是乐观的。这些都是成熟老练的行动者，而且他们有动力把事情纠正过来，”他说。

阿莫代伊没有时间吃甜点或喝咖啡。但在我们的午餐即将结束、谈到富人的责任时，他却比整场午餐中的任何时候都更显得神采飞扬。

他认为，我们正经历一个新的“镀金时代”，在这个时代，少数“幸运得难以置信”的亿万富翁(包括他自己)积累了巨额财富，并有义务更多地投身慈善事业。Anthropic 的一些创始人与“有效利他主义”运动关系密切，该运动试图计算出捐赠资金的最佳方式。Amodei 尤其批评那些科技巨头：他们对媒体上“有失公允”的批评感到恼火，随后又通过收购自己的媒体机构来“买下裁判员”。他拒绝点名，但暗示《金融时报》的读者或许能猜到他们是谁。

“我们有义务无私地回馈社会。而且社会并不需要因为我们这样做就崇敬我们，”他说，“即便媒体说我虐待小狗，我仍然有这些义务。”

他的临别之语清楚表明，Amodei 希望将自己塑造成 AI 辩论中的“正派人物”之一。但 Amodei 的语气令许多硅谷批评者感到刺耳，他们指出，他所宣扬的原则恰好与 Anthropic 的商业利益相契合。与此同时，股东资本主义的激烈竞争压力也将施加其自身冷酷无情的逻辑。

不过，由像阿莫代伊和哈萨比斯这样由科学家转型而来的企业家，还是由“取向混乱的参与者”率先实现人类水平的人工智能，这对世界而言或许有着至关重要的意义。作为当前人工智能竞赛中的领跑者，阿莫代伊势必将面临愈发严厉的审视。