Sierra 首席执行官布雷特·泰勒谈为何 AI 泡沫让人想起互联网热潮

本文信息来源:theverge
这位 OpenAI 董事长如今在新创公司 Sierra 投身人工智能代理领域,诠释为何押注 AI 全赛道
欢迎收听解码器节目,我是亚历克斯·希斯。作为周四客座主持人的最后一期节目,我最近在加利福尼亚州旧金山参加了由 Alix Partners 举办的现场活动,与人工智能初创公司 Sierra 的首席执行官兼 OpenAI 董事长布雷特·泰勒进行了对话。
很少有人能像布雷特那样近距离观察科技行业。他在谷歌担任早期工程师后创立了社交网络 FriendFeed,并于 2009 年将其出售给 Facebook,随后担任该公司首席技术官。后来他又创立了 Quip 并出售给 Salesforce。
在最终成为 Salesforce 联席 CEO 后,他离职创办了 Sierra 公司,致力于重塑企业运用 AI 进行客户支持的方式。期间他曾在埃隆·马斯克收购推特时担任董事会主席,并在 OpenAI 首席执行官萨姆·奥特曼遭解雇又复职后出任 OpenAI 董事会主席。
正如我们的对话所示,布雷特全身心投入 AI 领域。就在本周,Sierra 公司完成新一轮融资 ,估值达到 100 亿美元。本期节目中,我们将探讨 Sierra 的创立历程及其 AI 智能体的开发。我还向布雷特询问了 OpenAI 现状以及 AI 行业的整体发展轨迹。我们涵盖了广泛话题,希望您能和我一样被布雷特的独到见解所吸引。
好的,以下是我与 Bret Taylor 的对话内容:
本次访谈经过适当编辑,以确保内容简洁清晰。
希望观众朋友们熟悉解码者节目。这个夏季我担任客座主持,因为我们的总编辑 Nilay Patel 正在休育儿假。非常高兴能在此与 Bret 对话,感谢你参与节目。
谢谢邀请。
我想从 2023 年初说起。当时你正辞去 Salesforce 联席 CEO 的职务。能否谈谈你决定创立新公司的过程以及当时的考量?为什么最终选择了 Sierra 这个方向?
我宣布离开 Salesforce 的时间点,恰巧与 ChatGPT 面世只相隔几天。不知道你是否相信宇宙的玄妙力量。但对于每个普通人——尤其像我这样的技术爱好者——初次接触这类产品时,它完全占据了我的全部思绪。
说实话,离开 Salesforce 时我并未百分百确定要做什么。我原本打算先离职再规划未来——人生有时就需要这种洒脱。但这项技术立刻让我深深着迷。我不仅个人频繁使用,好友[LinkedIn 联合创始人]里德·霍夫曼还向我展示了 GPT-4 的早期版本,其展现出的共情能力和拟人化表达简直令人难以置信。虽然我关注 AI 领域多年,但坦白说,如果在[2023 年]10 月或更早时让我解释什么是大语言模型,我大概只会茫然以对。
我最终意识到,这项我原本未能密切追踪的技术确实将改变世界。我知道自己想投身其中。尽管还不清楚具体要做什么,但这没关系。这让我想起初次接触互联网时的感受——当时所有人都明白它将颠覆一切。至少我是这么认为的,并为能在这个领域工作感到兴奋,这就是全部的动力来源。
后来我和克莱·巴沃尔共进午餐。我们相识二十年,原本并没打算共同创业,但在饭局中我发现他同样为之着迷。当时他正为[谷歌 CEO]桑达尔·皮查伊工作,那顿饭比我们原计划多上了好几道菜。
我们决定创办公司时,其实毫无具体规划。但我们的出发点是:当技术发生地震式变革时,大量商机会自然涌现——因为这会重新洗牌消费者需求、企业诉求,以及软件供应商能调配资源满足这些需求的能力。
回顾互联网的兴起,它催生了当今股市中的一些巨头,如亚马逊和谷歌。它冲击了像微软这样的公司,后者在变革中变得更加强大;同时也冲击了像 Siebel Systems 这样的企业,它们的复苏则略显逊色。最终,原有的竞争格局发生了巨大变化,巨大的市场机遇随之涌现。以互联网为例,搜索和电子商务便是其中的典型代表。
我认为大型语言模型——这个话题我们稍后可能会深入讨论,毕竟我现在的回答已经过于冗长——确实意味着从软件工程到客户服务等众多不同市场都将被彻底改变和颠覆。现在创业真是再有趣不过的时机了。
于是,我们离职后给了自己几个月时间从工作中恢复过来,随后与众多客户交流后决定创立 Sierra。在 Sierra,我们致力于为客户体验打造人工智能助手。从 ADT 家庭安防公司到纽约的 Ramp,再到 SiriusXM,这些企业都在使用 AI 助手来接听电话、处理数字平台事务,或进行对话交流——它们的功能涵盖方方面面:无论是帮你升级或降级 SiriusXM 套餐,还是在 ADT 报警系统触发时主动联系用户,我认为这些都令人相当振奋。
跟我聊聊 Sierra 以及你们如何实际服务一位新客户。详细说说这个流程,因为这完全是一个新兴领域。我的意思是,客户服务本身并不新鲜,但你们的实现方式是全新的。与你们过去在其他公司的做法相比,现在与客户合作的方式有什么独特之处?
我先从商业模式说起,因为这能帮助你理解。Sierra 与传统软件公司的一个关键区别在于,我们只对结果收费。对于大多数客户而言,这意味着当 AI 客服自主解决了客户来电或在线咨询的案例时,我们才会收取费用。如果 AI 客服必须转接给真人处理,则不会产生任何费用。
我们非常看好这种商业模式,我认为它将成为智能代理的标准商业模式。因为”代理”一词源自”代理权”,其本质就隐含了一定程度的自主性。在我看来,最先进的代理系统将能真正启动并完成各类任务——无论是为销售团队开发新潜在客户,解决客户服务咨询,还是为反垄断审查进行法律分析,诸如此类的任务都能胜任。
如果一个 AI 代理不仅能帮助人们提高效率,还能实际完成任务,为何不直接为完成得好的工作付费呢?看看大多数公司,如果某项工作的成果是可衡量的,比如销售,通常会支付佣金,对吧?不仅仅是固定工资。所以我认为,可以说代理按佣金支付的方式,不仅能在供应商、合作伙伴和公司之间形成良好的激励机制,从第一性原理来看也是合理的。这就是为什么我认为它会像基于云的软件的出现一样。当马克(本尼奥夫)和帕克(哈里斯)创立 Salesforce 时,它是订阅制服务而非永久许可,这改变了软件行业的格局;代理也会带来同样的变革。
回到我们与客户的合作方式,这就引出了一个问题:如果你只在软件见效时获得报酬,软件供应商与企业之间的关系是怎样的?大多数软件供应商与客户之间保持着一定程度的疏离关系。如果你见过那些实施大型 ERP 系统的人——我对 ERP 系统了解不多,但显然它们非常难以落地,因为我遇到的每个实施过这类项目的人都说,实际花费的时间比预期多两年,成本也远超预算。
如果你去和参与这类项目的上万人交谈,系统集成商会把问题指向软件供应商,软件供应商又推给系统集成商。没人真正指向企业本身,因为企业才是付钱的那方。所以每个人都说:”哦,你们很棒。不,我相信一切都没问题。”这就像成功时众人邀功,失败时无人认领。问题的部分原因在于,这种合作关系中真正在乎结果的只有企业一方。
于是大家都在互相指责,这就需要一位优秀的 CIO 或 CTO 来协调解决,但你能看出其中种种扭曲的激励机制。或许合作方按小时计费,这可不是什么好激励。软件供应商已经完成了销售,后续能否成功部署就只能祝你好运了。
我认为采用基于成果的定价模式,需要软件公司与其合作企业之间建立不同的关系。这如今在 AI 领域颇为流行,部分原因正在于此。没有哪家软件公司愿意变成专业服务公司。所以你不能把旋钮直接调到 11 档,打造出你理想中的那种公司。但这确实意味着更高层级的责任归属。
在与客户的关系中,我们着重关注了几个不同的方面。一是产品的易用性。我们认为,要实现理想成果,必须让达成目标的过程尽可能简单。我们在市场上拥有独特优势——既为技术团队提供产品,也为运营团队打造解决方案。即便毫无技术背景,用户也能轻松构建智能体。我们始终致力于赋能更多客户体验专业人士。在合作层面,我们还提供全方位的智能体开发支持。如果您需要协助推动智能体项目落地,我们会全力出动提供帮助,这种服务模式可谓独树一帜。
我不确定一切将如何发展,但我真心认同这个愿景。当我与客户交流时,我很欣赏这种理念——他们能确切知道我们提供的价值,因为他们只需在智能体工作时付费。我就是喜欢这种简单直接的合作关系,对此我深信不疑。
你有数百家客户,其中50%的年收入超过10亿美元,20%的年收入超过100亿美元,是这样吗?
正确。
为什么选择专注于这样的客户群体,而不是采取类似 Shopify 那样的大规模策略?为什么要瞄准大企业?
大企业有大问题。我推崇第一性原理思维——如果你是一家大型消费品公司,在全球拥有1亿消费者,在大型语言模型出现之前,你根本无法与所有用户进行对话。用呼叫中心的术语来说就是”单次联系成本”,这个指标本质上衡量了接听电话或回复聊天所需的全部人力与技术成本。实际成本取决于对话复杂程度、客服人员的资质水平,以及服务团队是在岸还是离岸运营。
但假设接听一通电话的成本介于10到20美元之间。对于大多数消费品品牌而言,每位用户的平均收益还抵不上这通电话的成本。所以企业根本负担不起通话的开销。这正是为什么当你试图联系任何消费品品牌时,总会发现无法接通人工服务。
甚至有专门网站汇总各大消费品品牌的客服电话。这并非企业漠视用户,纯粹是经济账算不过来。如果每位想要致电的客户都能接通人工服务,这些企业就得破产——这对消费者显然也不是好事。而大语言模型的出现彻底改变了这个局面,它能将通话成本降低一到两个数量级,使得建立对话的经济逻辑发生了翻天覆地的变化。
我们之所以追求服务大型企业品牌,是因为这类客户体验的阶梯式提升,对于拥有数千万乃至数亿用户的企业至关重要。这些企业正是全球规模最大的公司。最令人振奋的是,当大多数人思考 AI 客服助手时,往往联想到呼叫中心自动化——这确实是重要组成部分。
但是,如果你通过我刚才所说的视角来思考,现在可以用相同的成本与客户进行的对话量,比过去多出一到两个数量级。这确实令人瞩目。试想所有那些争夺客户的企业——比如说手机公司——你们争夺的是客户这块固定大小的蛋糕,他们正决定选择哪家公司。如果你能将客户关注度提升100个基点,那将创造巨大价值。若能将客户流失率降低500个基点,这将彻底改变你公司的终身价值计算公式。
因此我认为人们正在思考这个问题。降低通话成本确实是最直接的影响,这很棒;你可以节省这笔钱并回馈给股东。但我认为更成熟的企业在思考的是:”我能否借此扩大市场份额?”这才是真正令人兴奋的地方,也是我们正为全球一些顶级品牌努力实现的目标。
目前是否有代理程序能在无人介入的情况下为客户执行任务?我说的不只是聊天机器人,而是真正涉及经济利益的操作,或者本该由人工处理但实际无需介入的事务。现阶段是否存在这样的实例?
我可以举几个例子。我们合作的零售商允许客户上传破损商品的照片,系统会立即裁定保修索赔,并连通库存系统为您寄送新品。您还可以通过我们平台上的 AI 代理全程完成房屋再融资贷款。
没有人参与其中?
无需人工干预。这些代理在它们所做的事情上表现惊人,你可以通过基于 Sierra 平台构建的代理采取行动——我们的客户 100%都在这样做。某种程度上,AI 中有种技术叫检索增强生成,说白了就是回答问题。事实证明,这现在基本上成了标配。把 ChatGPT 和知识库拼凑在一起并不难。如今大多数工程师一个周末就能搞定,这说实话令人震惊。三年前这还是科幻小说的情节;现在成了周末项目。欢迎来到科技的世界。真是不可思议。
实际上,能够在高度监管的流程周围设置精密防护栏……我们服务于健康保险支付方行业、医疗服务提供商领域,与银行合作,同财产与意外伤害保险公司打交道。如果你讨论的是诸如理赔处理这类受严格监管的复杂对话,这绝非检索增强生成技术能解决的,对吧?这是一场在监管框架下展开的极其复杂的对话。如何围绕这类流程部署基于人工智能的防护机制?如何构建基于确定性规则的监管框架?又该如何解决跨越40多种语言的转录准确性这类基础性难题?
事实证明,转录准确性在漏掉”和”或”或”这类词时并不太重要,但如果漏掉的是你的账号数字,问题就严重了。那么如何攻克这些难点呢?我们提供道路救援服务,实际场景中,如果你曾与 AI 客服对话时突然有汽车鸣笛,它往往会停止应答——因为它无法分辨汽车喇叭声和人类语音的区别,误以为自己被打断了。
我们的平台正是为解决这些问题而设计的:有效的防护栏、支持多语言的文字与语音对话、确定性防护栏、基于 AI 的防护栏(我们称之为监督模型)——这些功能既极其有效又非常有趣。还包括一些简单的识别能力,比如知道”嘿,这只是背景里的电视声,现在没人说话”,或者”那是汽车喇叭声,不是有人要打断我”。我相信三四年后这些都会变得很简单,但现在确实很难实现,这就是为什么我们的产品需求量如此之大。
很高兴你提到语音。我很想听听语音如何超越聊天进入这个领域,你认为语音在智能助手中的占比会超过文字吗?
的确如此。语音已成为我们平台中比文本更重要的部分,这相当引人注目,毕竟我们去年11月才推出这项功能。我认为这源于几个原因。首先,从人性化角度来说——如果你看过未来题材的电脑电影或科幻作家描绘的未来图景,会发现人们通常都在和电脑对话。我认为这是最符合人体工学的交互方式。我们天生就会说话,人人都掌握这门技能。因此,这种交互方式门槛极低,非常亲民。我们经常讨论数字鸿沟,而如果与数字技术互动的主要方式就是说话——尤其是当系统支持多语言且极具耐心时——这该是多么理想的全民无障碍方案啊。
如果你观察电信行业、健康保险行业以及其他类似行业,很多客户服务依然是通过电话进行的。不仅是患者或消费者,还包括医疗服务提供者与支付方之间的沟通,大量交流仍依赖电话。而人工智能所做的是将最古老的模拟通信渠道之一——公共交换电话网络——首次实现了数字化。过去几乎每家公司都有数字自助服务团队,这实际上是一种委婉的说法:“请您使用我们的网站而非致电,因为这对您更好,对我们也更有利:成本更低、速度更快。”那时整个团队都致力于此。现在情况变成了:“或许打电话给我们也不错。结果发现,我们网站上接待您的客服代表同样会接听电话。”这确实有些不可思议。
你常提到 TCP/IP,就好比运行在互联网协议上的 TCP。这有个专门的术语。我们基本上是把互联网搬到了手机上;我们首次让手机成为了数字技术的传输渠道。因此,如果你观察……创业圈有句谚语说:”你要做止痛药,而不是维生素”,因为人们会购买止痛药,而购买维生素只是想想而已。
这确实是一种解药。你刚刚经历了最昂贵、最乏味的沟通渠道——而且顺便说一句,每个人也都讨厌它,即便你电话那头是史上最优秀的客服人员,通常也得在等待十分钟转接后才能对话。因为要建立一个客户无需等待转接的呼叫中心,从经济角度来看根本不切实际。
这就是那种消费者和企业都无人为现行电话系统辩护的局面。各方都对它深恶痛绝,而现在出现了能彻底解决问题的技术。正因如此,我认为它将产生重大影响。但展望未来,前景仍不明朗。我虽身处诸多 AI 事务的核心,却也无法预判世界将走向何方,不过这一切确实令人振奋。看看 WhatsApp 在巴西和印度的应用方式,你会不禁思考:这种对话式数字交互是否会在其他市场同样普及。
四年前我在巴西目睹有人通过 WhatsApp 办理抵押贷款时,简直惊呆了。我追问:”快告诉我这是怎么操作的”——原来就是上传 PDF 文件。试想若全球每家企业的客户体验都配备对话代理,或许每家公司都会通过 WhatsApp 开展业务,又或许智能音箱将因此重获生机。
我思考着开车上班时使用 CarPlay 的情景。从很多方面来说,我非常喜欢这个产品,但它实际上并不能让你做什么事。想象一下,在开车上班途中既能分类处理邮件,又能与个人助理对话——突然之间,你的通勤时间就变得高效无比。这就像和一个无所不知的私人助理交谈,简直太酷了。我认为这非常令人兴奋。我们讨论手机,因为我觉得这确实是能产生巨大经济影响的领域。现在,我们正让电脑具备对话能力,我认为这既是技术变革,也是用户界面范式的转变。而我从未对此产生过怀疑。
前几天我这样打电话——对线上听众说明一下,我是把手机贴在脸颊旁边,在这之前我一直以为这是正常姿势。我孩子当时就说:”你把手机贴在脸上?”那表情活像看到有人舔手机似的。现在所有孩子打电话的方式都不同了。直到那一刻我才意识到这很反常,然后突然反应过来:”我他妈真的老了。”
我意识到,那些从小接触这些科技、从未见过旋转拨号电话的孩子们,他们与新技术互动的方式截然不同。今天的孩子们将在一个理所当然的世界里长大——电脑当然能听懂我带着微妙语气和讽刺的对话,当然会有个人 AI 助手帮我规划下一次旅行。
我们甚至还没开始思考第二、第三级的连锁反应,就像我孩子觉得把手机贴在耳边通话很奇怪这件事,至今还让我震惊。但我认为我们正站在重大变革的起点,对此我抱有很多期待。和许多人一样,我读着 《焦虑的一代》 这类书,突然发现自己也轻度沉迷于盯着口袋里发光的屏幕。不禁会想:如果把时间快进四五年,软件会逐渐隐入生活背景吗?那些烦人的琐事——比如电话等待接听、找不到联系方式——这项技术会让它们统统消失吗?
“当然,随时联系我们。”而且它完全了解我的状态——比如当我乘坐 BART 地铁时不想让旁人听到对话,会选择文字聊天;当我双手提东西时则会偏好电话沟通。所有这些场景都能无缝适配。
因此我对此充满期待,因为正如所有技术浪潮的规律,我们正处于马斯洛需求层次理论的最底层。虽然现在还难以窥见顶层自我实现的具体形态,但我相信我们将快速抵达那个阶段。Sierra 的愿景是助力全球企业完成这场进化。第一步是为客户打造令人惊叹的客服体验,让他们感受到被尊重、被重视,并获得真正的个性化服务。第二步是让企业为未来任何可能性做好准备。当人们开始在 OpenAI 而非搜索引擎上进行消费研究时,对话式商务究竟意味着什么?这又将如何重塑商业生态?
我相信你们很多人都这样做过,比如拿到体检报告时。我总是在见医生前立刻把报告上传到 ChatGPT,虽然不知道他对此作何感想。但我敢保证,他的其他病人百分之百也在这么做。整个世界正在改变。因此,我们在 Sierra 思考的很多问题是:如何帮助全球每家企业在这个新世界里获得成功?
不过,从技术上讲,你们是否在自主研发模型?你们真正掌握的核心技术秘密是什么?是模型本身,还是其他方面的创新?
我们进行了大量微调工作,但从不预训练任何模型。我认为大多数应用型 AI 公司都不该这么做。预训练模型是快速贬值的资产,很难为股东创造实质性回报,而且技术复杂度极高。以我们平台上的智能体为例,生成单条回复可能涉及 20 多次推理调用。这还只是复杂性的冰山一角——底层实际运行着众多不同模型,没有单一供应商,甚至参数规模(衡量模型复杂度的指标)也各不相同。
我认为这正是像 Sierra 这样的应用型 AI 公司未来的发展方向,因为这就像在问”存储数据的最佳方式是什么?”。对于在场的科技从业者而言,从 Snowflake、Databricks 到传统的事务型数据库,市面上存在无数种数据库和数据存储系统。如今我们已经发展到这样的阶段——现代技术人员能够明确判断:”看,针对这个使用场景,这才是正确的选择。”
我认为这正是应用 AI 领域的发展方向——不是通用人工智能,而是应用 AI 领域。在这些场景中,模型真正成为了基础设施组件:有时你需要极速响应的方案,有时需要成本优先的选择,有时又追求顶尖输出质量。这种在性价比与响应速度之间的灵活选择,意味着企业总能在这套参数矩阵中找到最适合自身需求的解决方案。
我认为最终会像数据库市场那样。真正从事这些智能体及其他应用构建的实践者,才是主流群体。他们并非那些懂得如何预训练模型的研究人员。就我的直觉而言,随着这些模型在上下文理解与规则遵循能力上的提升,甚至微调技术也会逐渐式微。但基于这些模型开发应用的含义,将更像是问”你会用数据库吗?”而非”你会写数据库吗?”如今这两者代表着截然不同的技能组合,而我认为这正是应用型 AI 市场的发展方向。
我认为从 GPT-5 的发布可以看出,模型仍在不断进步,但飞跃式的变化已不如从前显著。或许随着领域发展加速,这种情况会有所改变?
我在这件事上并不完全赞同你的观点,不过你先把问题问完吧,毕竟是我无礼地打断了你。
你也不该同意;毕竟你是 OpenAI 的董事会成员。但我想说的是,你是否认同模型本身正在变得商品化这一观点?我的意思是,你将其称为基础设施,但我想探讨的是,如果这是真的,会产生哪些二阶效应?如果这些模型真的变得即插即用,虽然它们确实具备某些更优特性,但已不再像过去那样带来阶梯式的巨大变革。
我之所以持不同意见,并不是因为我是 OpenAI 的死忠粉——虽然我确实是,也很乐意扮演这个角色。实际上,我只是想说,这真的取决于具体任务。如果有人之前用 GPT-4.0 或 4.1 来编程,之后换成 GPT-5 继续编程,就会发现性能有了显著提升。
从这个任务的视角来看,性能确实实现了阶跃式的提升。对于那些用 AI 来编写代码代理的人来说,从这一使用场景出发,你刚才的说法显然不成立。性能绝对是发生了质的飞跃。今年早些时候,我用 ChatGPT 规划了家庭度假,当时用的应该是 4.0 版本。我猜如果换成 GPT-5 来做同样的行程规划,大概也就是”还行吧,稍微好点”的程度。不过我那次假期很完美,可能只是我的标准不够高?说不定效果会好得多呢。
我认为,对于许多任务而言,我们已经达到了足够智能的水平。因此当新模型发布时,如果你用”规划我的假期”这样的标准来衡量,可能会觉得”天啊,我看不出这个模型质量有多大提升”。但如果你正在尝试发现新疗法、进行药物研发,或是试图自主编写复杂软件,又或者处理复杂的异步代理任务,你对模型进步幅度的感知可能会截然不同。所以我的直觉(当然这只是个人观点)是:人们对这些模型带来变革程度的认知,将越来越取决于你试图用它们解决多复杂的问题。
如果你思考构建通用人工智能意味着什么,我们还需要一些改进,对吧?OpenAI 研究员塞巴斯蒂安·布贝克在 X 上发布了一个非常有趣的帖子 ,他给 AI 看了一篇数学论文,结果 AI 竟然用一种我无法理解的数学类型提出了相对新颖的解法。我只能说到这里了,但这确实非常有趣。那是一种极具创造性的表现,几乎就像 AlphaGo 诞生时那种”哇,这太有意思了,是一种全新的数学方法”的惊叹时刻。显然,如果我们想要达到开发新型 AI 研究、发现新药物疗法、证明世界上某些未被解决的数学问题的程度,我们还有工作要做。目前我们还没达到那个水平。
但我猜测您提出这个评论的动机在于,对于大量任务而言,模型已经达到了某种程度上的”够用”水平。回到您的问题——这意味着什么?我认为 OpenAI 是一家使命驱动的公司。我们的使命是确保通用人工智能造福全人类,我们正致力于实现有益的人工通用智能(AGI),但目前尚未达成目标。我们需要持续进行相关研发工作。现有系统中确实存在某些超智能的组成部分,但更多领域仍未达到这种水平——这正是我们当前重点攻关的方向。
是否意味着塞拉公司解决的不同任务,或者你个人生活中的应用,都需要这些极其强大的模型?未必如此,我认为这将催生一个由模型及其用途构成的生态系统。但令人振奋的是,就在旧金山这片区域,我们的探索远未结束。我们渴望创造通用人工智能(AGI),这才是真正激动人心的事。尽管有人认为这些模型的进步正在放缓,但我并不认同。从数学奥赛成绩等真实研究突破中可以看到——这些突破性进展是先前模型根本无法实现的重大变革,我认为它们简直令人振奋不已。
很高兴你提到 AGI。我越来越觉得没人能准确定义 AGI 的含义,但作为 OpenAI 的董事会主席,你对 AGI 的理解其实至关重要。我很想知道 AGI 的定义,也很想知道你如何理解它——尤其是过去一年左右,这个定义是否有所变化?你是否形成了”这就是 AGI”的具体标准,当我们实现某个里程碑时就能宣告成功?
首先,我来回答最后一个问题:情况是否已经改变?是的,对我而言确实变了。我认为我们现在已经达到了三年前我对 AGI(通用人工智能)的定义。实际上,顺便说一句,我觉得现在我们已经达到了几乎全世界在三年前对 AGI 的认知标准。有个叫图灵测试的东西——虽然我不清楚论文里最初是如何定义的,但我在计算机科学中学到的是:与 AI 进行对话,并让它基本无法与人类对话区分开来。我们早在多年前就已经超越了这一点。这曾是人工智能领域长期关注的重要里程碑。我们不仅通过了测试,而且说实话,忘掉图灵测试吧。那是史上最聪明的计算机科学家提出的一个并不高明的想法。
因此我们不断调整目标,因为这项技术的能力已经无数次超越我们集体的预期——我们直觉中认为属于通用人工智能(AGI)的领域,如今已被超越四到五次。我现在的理解是(未来可能还会改变):在数字技术与创意领域,这些模型是否已在几乎所有方面达到或超越人类智能?我特别强调数字创意领域,是因为创造新型数学(许多人会将此归类为 AGI 和超级智能的范畴)是一回事,但与物理世界互动则完全不同。我认为后者是与智能本身无关的另一类问题。具体来说:你可以设计出新疗法,但临床试验是完全独立的流程。所以我想衡量的核心,始终是其中的智能部分。
AGI 中“G”(通用)的另一部分在于泛化能力。我不认同这点,但和许多研究者交流后发现——这就是人工智能有趣之处,最聪明的人在这些问题上也意见不一——如果你造出了一个在数学上极其出色的系统,问题在于它在其他众多领域能有多强?你会遇到一些研究者认为:“数学某种程度上是推理的基础,所以它在很多方面都会很强。”而另一些人则质疑:“我不确定,它能泛化到生物学等其他领域吗?”
我更倾向于认为,只要模型不是专门针对数学奥林匹克这类任务训练,而是作为模型的副产品,它就能实现泛化能力。不过我认为仍需观察,看看它如何推广到其他科学领域等方向。但看着技术进步的速度,以及 OpenAI 和其他研究实验室不断产出的成果,我变得越来越乐观。我期待看到首个真正由通用人工智能带来的科学突破——我觉得未来几年内就可能实现,虽然无法确定,但预感会成真。这个问题其实更适合 OpenAI 的研究人员来回答,但当你看到这些早期成果时,确实会感到可能性正在浮现。
为什么像你前老板马克·扎克伯格这样的人现在开始谈论超级智能?这其中的区别是什么?在硅谷和旧金山这一带,现在人们突然都在讨论超级智能,仿佛大家突然耸耸肩说”我们做到了,我们通过了图灵测试?”这是怎么回事?
[笑]这是一种品牌重塑,没错。
对,就是换个招牌。区别在哪?老实说,我真不太明白。
“超级智能”字面意思就是比人类更聪明。如果说存在微妙差异的话——如果你创造出一个具有普适智能、运作水平和你我相当的产物,现在这还算不上惊艳吗?顺便说一句,没有冒犯你的意思,亚历克斯。我觉得能造出这种智能体就太棒了。对我来说,你的智商已经够用了。
所以我认为这是真正非凡的更高标准。从研究和安全角度考虑有几点原因:讨论超级智能很有意义,因为它提醒我们——当模型超越人类自身的推理能力时,该如何监控它们?如何确保安全?如果技术超越了人类的理解范畴,就必须用技术来监控技术。非 AI 领域早有先例,比如飞机或汽车里就有许多监控装置,它们能处理人类无法理解或反应不及的状况——这确实是至关重要的研究领域。
我认为讨论这个问题很有意义。其中公关层面的部分我不太关注也不愿多想,但从安全性角度思考就很有价值。一个核心问题是:如果人类无法理解 AI,又怎能确保它符合人类意图?人类亲自理解 AI 的重要性,与我们创造监督型 AI 来理解它相比孰轻孰重?在技术发展过程中,有许多技术和哲学层面的问题亟待解答。
最近我参加了与山姆·奥尔特曼共进的晚餐 。这场晚餐引发大量头条新闻,因为山姆表示他认为我们正处于 AI 泡沫中。他的原话是:”有人将损失巨额资金。我们不知道是谁。同时也有很多人会赚得盆满钵满。”
这就像那句老营销格言。
是吗?
我只有50%的营销活动是有效的。
哪一个?
我就是不知道是哪50个,是啊。
没错。你同意这个观点吗?如果同意,理由是什么?
哦,绝对没错。我之前做过这个类比,所以如果你听过的话我表示抱歉,亚历克斯,但我认为这与互联网泡沫有很多相似之处。回顾互联网泡沫时期,很多人会想到那些失败案例,比如 Pets.com 和 Webvan。但从过去 30 年的视角来看,如今全球最大的公司中,包括亚马逊和谷歌这两家巨头,大多数都是那个时代的产物。再看看微软的市值有多少来自云计算等业务,你就会开始意识到:”实际上,如果看看全球 GDP,有多少是由互联网的存在创造或影响的?”可以说,1999 年的那些人某种程度上是对的——互联网几乎在每一个衡量维度上都产生了深远影响。
即便是像 Webvan 这样的案例,随着互联网变得更加普及,如今已涌现出 Instacart、DoorDash 等真正健康的商业模式,它们建立在智能手机和互联网规模成熟的基础之上。因此,某些具体创意其实并不差,只是可能为时过早。
但纵观互联网发展,如果你从亚马逊上市之初持有其股票至今,收益会非常可观。而作为 Webvan 的股东,感受可能截然不同。这两种情况同时存在——我认为当下的大型语言模型和现代 AI 技术必将对经济产生巨大影响,单看软件工程和客服领域就可见一斑。
我们从未实现过软件工程师数量充足的情况,但借助编程智能体,很可能会做到这点,毕竟我们把稀缺资源变得更为充裕。软件开发市场的规模有多大?说实话,我甚至不知如何衡量——某种程度上,现在全球每家公司都是软件公司。
因此我认为,就我个人而言,这个领域必然会出现一些巨大的赢家。由于蕴含的经济机遇如此庞大,最终会吸引大量投资者涌入,有些公司会失败,有些则会成功。回顾互联网初期铺设光纤的那些企业,很多都破产了,但那些光纤最终仍在发挥作用——只不过使用者变成了接手的下家企业、私募基金或其他收购实体。
我深信人工智能将重塑经济格局,就像互联网那样在未来创造巨大的经济价值。但同样明显的是,我们现在正处于泡沫之中,许多人将会损失惨重。这两者完全可能同时成立,历史上也不乏两者并存的先例。
你是否担心 AI 泡沫可能正出现在你所在的企业级 AI 领域?最近有份麻省理工的报告引发广泛讨论 ,指出许多 AI 投入并未见效。我知道你们采用了更注重成效的差异化定价模式。但在我看来,泡沫可能正来自那些蜂拥而入、在无效项目上豪掷千金的企业。当潮水退去时会发生什么?
我会把对行业泡沫的担忧与那份研究报告区分开来——我并不同意该研究的结论。我确实存在担忧,但并非因为那份报告,所以需要将两者剥离。最后我会谈到那份报告,因为它其实比我对企业生存危机的忧虑更乐观些。但请允许我先从担忧说起。
是啊,说起来挺奇妙的。有个关于我重写谷歌地图的传闻一直在流传,它基本属实但也像许多精彩故事一样稍加润色。我觉得有趣的是人们爱讲这个故事,因为他们会说”哇,一个人用一个周末就写出了这么多代码”。而现在如果你用过 Codex 或 Cloud Code,你就会觉得”是啊,我完全可以让人工智能代理用一个周末搞定这事”。
这种感觉太令人兴奋了,那些曾构成我个人身份核心的技能,现在正被 AI 智能体所掌握。或许还没完全实现——我写的代码还算不错。但再过几年,是的,AI 智能体肯定能做到这些。未来几年间,我们会从”哇,这太惊艳了”的赞叹,变成”什么?这居然是人工完成的?”的质疑。
商业层面则关乎未来软件市场的形态。这是个发人深省的问题——当你深入思考时就会发现…就像自动驾驶技术曾让我们无比振奋,却经历了漫长发展瓶颈。即使最聪明的人也难免误判或过度乐观。但当我们用 AI 智能体来从事软件工程,实际上是在用人工智能取代最稀缺的资源、最高薪的职业之一。这会产生什么影响?很多人问我:”还该不该在大学主修计算机?”我有些个人见解,答案大概是肯定的,但说实话没人能真正预知未来。
我们是否会进入这样一个世界:软件开发——而开发并非软件最困难的部分,正如大多数软件从业者所知——将很大程度上变成一种商品?或许会。很多人是这么认为的。那对软件市场会产生什么影响?我的假设是实际上变化不会太大。我不认为当你购买一个 ERP 系统时——回到我的 ERP 话题;不知道为什么今天早上我一直在想 ERP 系统——你买的不是那些实现它的代码和数据。你购买的是这样一个事实:许多公司都在使用它来管理账目,你能够每个季度在上面完成结算,它是可靠的,服务器有补丁更新,因此你知道你的云端 ERP 系统不会有安全漏洞,并且该系统拥有这些合规认证以及所有其他不那么令人兴奋但却是企业软件中乏味却重要的部分。
作为一家大型快速消费品公司,如果你能自主编写 ERP 系统,这真的是个好主意吗?我并不完全认同。我常说软件就像草坪,需要持续打理。一旦自建系统就等于买下责任,你必须全权负责系统的运维工作。比如新会计准则出台时,突然就全得自己处理了。因此我认为 AI 确实会改变软件开发方式,但要说它能彻底颠覆企业软件市场的存在格局?我对此持保留态度。当然也可能是我判断失误。
这确实是个崭新的世界。我们正处在一个前所未有的时代,因为我们将稀缺之物变得充裕。最近我频繁想起一部电影,推荐大家去看,那就是《隐藏人物》。这部精彩的电影讲述了将人类送上月球的故事,但特别聚焦于那些进行数学计算的女性,她们被称为“计算机”。我就是一台计算机。直到和孩子们一起看了这部电影,我才知道这曾是一个职位名称。
这很有趣。其中有一位女性,他们正在安装一台 IBM 计算机,那机器有一个客厅那么大,而她以一种机灵的方式学会了用穿孔卡片来编程,基本上是为了保住工作。我们现在都正在经历这样的时刻。就好比说,我是一台计算机,一个计算器,本质上就是这样。而我在谷歌地图上的故事,就像是一个关于计算机或计算器的故事,对吧?但我认为二阶和三阶效应还有点模糊。我相信企业软件市场将从软件转变为智能代理,但我觉得企业想要购买的是能解决问题的方案,而不是自己开发软件。所以我坚信这个市场会继续存在。
关于那项研究,我不知道数据依据是什么。我认为它存在问题,因为它把人们用 AI 自行开发软件和购买现成解决方案混为一谈了。我觉得这是两种非常不同的 AI 应用方式。我们的客户在概念验证后上线使用我们平台的案例,基本上成功率是百分之百。我想这是因为我们卖的不是 AI,我们卖的是客户体验,你只需打开就能用。
在旧金山的某个地方,有一家很棒的公司叫 Harvey。虽然我不清楚它的总部具体位置,但它确实是一家非常出色的企业。我和许多律师事务所聊过,他们都在使用 Harvey 进行大量的法律分析,而且都取得了成功。但这并不是一个 AI 项目。Harvey 只是运用了 AI 技术——这是公司能够存在的唯一原因。人们选择它,是因为想要一个更好的反垄断审查流程,而这正是他们购买这项服务的目的。
我认为我们正处在人工智能的早期阶段,目前还没有完美的供应商能解决企业面临的所有问题。因此,你要么选择等待,要么只能自己动手开发。我并不知道正确答案是什么。当你尝试自行构建这些系统时,会发现其复杂性如同冰川般巨大。最终你会发现许多所谓的“人工智能旅游”现象——很多人都在做表演性的人工智能项目,但真正实现最后一公里的突破却异常困难。我认为解决方案将是应用型人工智能公司。如果你希望打造更优质的客户体验,就选择 Sierra;如果你需要法律人工智能助手,就选择 Harvey。
我认为我们需要逐一审视每个应用场景,从供应链优化到财务核算,甚至可能为会计部门配备审计助手。这些都将由 AI 智能体来实现,但我相信每个垂直领域都会诞生专门的公司。这才是 AI 软件正确的打包和采购方式。当前市场研究反映的是整个行业尚不成熟——并非每个细分领域都有现成解决方案。不过在座有不少风投人士,多亏你们的支持,相信几年后局面就会改观。届时这些新型智能体公司将如同当年的 SaaS(软件即服务)一样,成为企业级解决方案的下一个前沿阵地。
好的布雷特,我们今天就聊到这里。非常感谢你。
感谢邀请。