每一波技术浪潮都会构建一层信托机制，人工智能正在为其自身的信托体系而努力

本文最初发表于我的《福布斯》专栏。

“伦敦劳合社的历史已有 300 多年，它的诞生初衷是为那些无人信任的海上船只提供保险服务。而‘人工智能劳合社’目前还不存在，但它即将出现。”

信托机构往往不会率先介入。它们总是在技术已经造成破坏之后才出现。

例如，四大会计公司都是在 1850 年左右成立的。这一时间点绝非偶然：工业革命使得企业规模变得过于庞大、结构也愈发复杂，所有者已无法直接对其进行核查，于是便出现了专门负责此类核查的新职业。独立审计师由此成为了支撑现代资本市场运行的信托层面。

保险实验室的诞生，源于电力既具有强大的作用，又十分实用，但偶尔也会带来灾难性后果。而那些默默运行 SSL 证书授权机构的出现，则是因为电子商务需要一种方法来确认向用户索取信用卡信息的网站确实是真实的。当然，劳埃德保险社最初也只是一间咖啡馆，船主们会在那里尝试评估那些他们无法直接看到的风险。

目前，人工智能正处于这一空白地带。的确，这项技术正在被广泛应用，但它同时也带来了新的风险。为了解决这一问题，一种新的验证机制正在出现，我认为这是目前最重要、却尚未有人提及的创业领域。

早期的那波浪潮旨在验证人工智能所说的内容。

早期的 AI 验证工作主要致力于确认模型是否安全、准确，以及相关声明是否真实。这一阶段从 2022 年底持续到 2024 年底左右，解决了当时模型所面临的特定问题。

这带来了一定程度的幻觉检测、提示词注入防御以及深度伪造检测功能。

第一波技术发展隐含的假设是，会有人或确定性系统来阅读输出内容并据此采取行动。因此，验证层只需标记出有问题的内容即可。

智能代理正在改变一切。

下一波浪潮将验证人工智能的实际行为。

到了 2025 年，人工智能不再为人类生成文本以供阅读，而是开始为自己执行任务。各种交易被完成，退款被处理，文章被存档，法典也被投入实际应用。与此同时，对人工智能系统的验证方式也发生了变化。

该输出已不再准确。

现在，还有谁能够为刚刚发生的事情负责吗？

目前应用最广泛的 AI 场景当属编程。不出所料，这一直是验证技术投入的重点领域。不过，随着相关应用场景的不断拓展，各公司的验证方式也在随之变化，金融科技和保险科技领域便是其中的典型代表。

人工智能承保公司是 2025 年 7 月成立的，属于该领域的少数几家初创企业之一。它推出的产品是为人工智能代理提供保险服务，定价依据是一种名为 AIUC-1 的新审计标准，同时其承保流程还会将保费与相关证据挂钩。

Objection 正在构建一个新闻从业者评级与验证网络，旨在“判定新闻的真实性。如果未来十年的前沿人工智能技术都是基于公开的新闻语料库进行训练的，那么对新闻的验证也就相当于为这些技术奠定了基础。”

本周，由 Fluent 孵化出的 Oath 推出了一家专为人工智能生成的财务文件提供审计服务的持牌审计公司。其理念是：既然人工智能越来越频繁地承担账务处理和税务准备工作，仍需有人对相关财务数据进行最终确认。

归根结底，所有这些举措都遵循同一个理念：将原本属于人类专业范畴的核实功能提取出来，并为那些工作由人工智能自主完成的世界重新构建这一功能。

需要核实的范围正在不断扩大。

显而易见的反对意见是：如果由人工智能来承担核实工作，那么那些负责核实的人就不再存在了。不过我们认为，历史经验恰恰证明了相反的情况。

首先来看看开发者们。ChatGPT 于 2022 年 11 月正式推出，从那以后，AI 编程工具便已从新奇事物变成了普遍使用的标准工具。波士顿大学在 2026 年 3 月发布的一份报告指出，目前有 84%的开发者正在使用或计划使用这类工具。在同一时期，美国的软件开发者人数创下了 250 万的纪录，较 2022 年以来又增加了 40 多万。从业人数是在上升而非下降。

会计行业也经历了类似的长期发展历程。这一职业先后接纳了大型主机、ERP 系统、云计算技术，如今又迎来了人工智能的加入。根据美国劳工统计局的数据，2024 年从事会计和审计工作的专业人士已超过 150 万，创下历史新高，而且该机构预计未来十年这一数字还将保持高于平均水平的增长速度。该机构认为，日常任务的自动化反而会提升对咨询及分析类工作的需求，而非减少其需求。

我是杰文斯。一旦降低了某种有用产品的单位成本，需求就会超过因成本降低而带来的供应量。本尼迪克特·埃文斯也曾就人工智能对就业的影响提出过类似的观点：当某种有用产品的单位成本被降低后，人们往往会要求获得更多这样的产品。

核实就属于这一范畴。

我们正迈向何方？

第一波技术致力于验证人工智能的输出内容，而第二波则着眼于检验人工智能的实际行为。

这一领域发展极为迅速。各类标准将会逐步出现，其中一些甚至会由机器自行制定并用于其他机器之间，同时在整个流程中会存在某个人类机构，在出现问题时愿意承担相应的法律责任。目前我们还未达到那个阶段。

我也预计会出现一批能够“保障”工作成果或承担失败风险的机构，它们会像劳埃德保险集团那样为相关行为提供保险保障。