曾就 AI 安全问题向教宗和埃隆·马斯克发出呼吁的物理学家

他将其中一份文件递给了与会者之一、AI 翻译公司 Translated 的首席执行官 Marco Trombetti。该文件印刷着一项呼吁：在能够以安全方式实现之前，应暂缓开发具有人类智能水平的 AI。

走在文艺复兴时期的建筑之间，Tegmark 压低声音说道：“Marco，你会在这样一份声明上签字吗？”

Trombetti 一开始有些犹豫。十多年来，Tegmark 的组织——Future of Life Institute——一直试图敲响警钟，提醒先进 AI 可能对人类造成灾难。在 OpenAI 的 ChatGPT 发布后不久，Future of Life Institute 曾发起一次著名呼吁，要求暂停最先进 AI 的发展。

如今，他提出了一个更加大胆的请求：可能全面停止这场推动股市运转的超智能构建竞赛。

Trombetti 最终还是签了名，与另外 13 万多名人士一道，其中包括 AI 领域的重量级人物 Geoffrey Hinton、MAGA 的坚定支持者 Steve Bannon、前政府官员 Susan Rice，以及名人 will.i.am、Prince Harry 和 Meghan Markle。Tegmark 所用的措辞甚至被写进了致教宗的上诉。

58 岁的 Tegmark 身穿他标志性的摩托车夹克，顶着一头蓬乱的棕色头发，穿着一件抨击“AGI”（具有人类般智能的 AI）的黑色 T 恤，整体形象有点像极客版的雷蒙斯乐队成员。“这是我们迄今为止做得最成功的一件事，”他最近在波士顿郊区家附近接受采访时说，指的是该声明获得的签名数量远超该组织以往发布的公开信。

围绕 AI 的政治格局正在发生变化。曾经只限于极客圈内争论的风险担忧，如今已进入主流视野，并越来越呈现出跨党派共识，这在很大程度上源于人们对 AI 将如何影响就业市场的恐惧。

根据皮尤研究中心的一项最新研究，约有一半的美国人表示，他们对 AI 的担忧多于兴奋，而 2021 年这一比例为 37%，且这种担忧在政治光谱两侧都普遍存在。

这一趋势的一个标志是 Tegmark 最近出现在班农的《War Room》播客节目中。该节目的主持人表示，尽管特朗普政府在 AI 问题上采取加速主义立场，但 Tegmark 的信息仍然能引起对就业感到忧虑的极右翼听众的共鸣。

“我们的节目是特朗普总统最大的支持者，但在这一点上，人们首先希望放慢速度，其次他们希望设立护栏，”班农在一次采访中表示。

在另一阵营中，弗吉尼亚州民主党众议员、国会 AI 核心小组联合主席唐·拜尔也同意泰格马克的看法。“我所代表的选民对 AI 的担忧远远多于兴奋，”拜尔说。

推动监管的反对者，例如特朗普的 AI 沙皇大卫·萨克斯，则认为，美国无法承受在 AI 竞赛中输给中国的代价。

游说马斯克

特格马克出生于瑞典，母亲是瑞典心理学家，父亲是美国数学家。他在转向物理学之前学习的是经济学，并在加州大学伯克利分校获得了该学科的博士学位。他于2004年加入麻省理工学院的物理系。

在一次物理学会议上，他首次进入了雅安·塔林的圈子。塔林是 Skype 的联合创始人之一，后来成为资助 AI 安全工作的最大慈善家之一。特格马克向塔林阐述了他关于建立一个帮助推进这场斗争的组织的愿景，塔林同意以最初的 10 万美元为其提供资助。

2014 年，在麻省理工学院举办的一场太空主题会议上，特格马克主动与埃隆·马斯克攀谈，此前他的一名学生提出了一个问题，引出了这位亿万富翁后来广为流传的玩笑：关于 AI，“我们是在召唤恶魔”。马斯克后来创立了 xAI，并于 2015 年参加了特格马克组织的一次波多黎各会议，宣布向特格马克的非营利组织捐赠 1000 万美元。马斯克未回应置评请求。

手持麦克风的埃隆·马斯克和穿着 T 恤的贾恩·塔林都是参加由马克斯·泰格马克主持的人工智能会议的与会者之一。 未来生命研究所

Tegmark 的组织在 2021 年获得了一笔意外之财，当时 Ethereum 联合创始人 Vitalik Buterin 捐赠了价值超过 6.65 亿美元的加密货币作为捐赠基金。

ChatGPT 于 2022 年推出数月后，Future of Life Institute 以一封公开信登上全球头条，这封信由包括马斯克以及 Apple 联合创始人史蒂夫·沃兹尼亚克在内的 3 万多名人士签署，呼吁对最先进的 AI 开发暂停六个月。

没有人选择暂停，但特格马克将这次演练视为一次胜利，因为它去污名化了对 AI 发展进行批评的行为。

“希望你存了点钱”

特格马克最近的活动更为直截了当，也更具民粹色彩。

他说，人类可以从帮助完成特定任务（例如治愈癌症）的 AI 工具中受益，而不必构建一种可能在经济上取代人类或接管政府的“通用”AI。

“AGI 是唯一一种会摧毁所有工作的 AI，”Tegmark 说道。

为阐明其立场，Future of Life Institute 支持了一场遍布旧金山的讽刺性广告牌活动，活动由一家虚构的 AI 公司 Replacement AI 发起，声称要在就业市场中取代人类。“我们的 AI 可以自动化你所有的工作。不再有周一、不再有老板，也不再有薪水！希望你还有积蓄 [LOL emoji]，”其中一块广告牌上写道。

该组织还资助政策、研究、教育和助学金项目，其中包括一项 AI 新闻学研究金。

Tegmark 对人工智能的看法让他在硅谷一些人眼中颇具争议。

今年夏天，他收到了 OpenAI 的传票，后者试图获取有关未来生命研究所与 Musk 之间关系的信息。

Tegmark 认为某些特定任务的 AI 工具可以造福人类。Josh Reynolds/The Washington Post/Getty Images

一位 OpenAI 发言人提到了 OpenAI 首席策略官 Jason Kwon 过去在 X 上发表的声明。Kwon 表示，向多个非营利组织发出的传票与 Musk 对这家初创公司提起的一项诉讼有关——该诉讼质疑其转换为更传统公司结构的能力。Tegmark 一直是 OpenAI 转换的批评者，但否认目前与 Musk 有任何关联。未来生命研究所表示，这位亿万富翁目前既不提供资金，也未在那里担任任何角色。

该组织对暂停 AI 开发的呼吁揭示了 AI 安全社区内部的裂痕。特格马克表示，这些分歧是刻意为之。

迄今为止，由 Tallinn 支持的组织，以及由 Facebook 联合创始人 Dustin Moskovitz 及其妻子 Cari Tuna 资助的组织，一直是 AI 安全领域最大的资助方之一，其目标和方法往往高度重叠。

但特格马克表示，他的上诉遭到了他们的慈善机构 Coefficient Giving（近期由 Open Philanthropy 更名）拒绝或无回应，尽管多年来该机构已向他的组织捐赠了超过 100 万美元。特格马克还称，Anthropic 的领导层也没有加入他的上诉，而该公司的领导人与该慈善机构在个人和哲学层面有着深厚的联系。

Anthropic 拒绝发表评论。Coefficient Giving 的一位发言人表示，由于对于哪些 AI 威胁最为紧迫存在分歧，该机构避免“采取可能暗示对正确方法已有定论的机构立场”。

Tegmark 将此视为 AI 安全领域正在形成两大阵营的证据：一方希望构建超级智能，并尝试确保其安全；另一方则认为，除非能够被证明是安全的，否则根本不应构建比人类更聪明的 AI。他将自己归于后者。

“这会变得很糟糕，”班农说。“你谈论的是 21 ^世纪最重要的权力来源。”