机器风险经济：第一部分

🧠 本期内容：

1. 要点：机器风险经济：第一部分

2. 信号：澳大利亚首次有记录的全自主 AI 网络攻击

3. 构建者：Trufo AI || 将信任嵌入您的数字内容

🔥 1. 核心观点 — 机器风险经济：第一部分

历史上，每一项具有变革意义的科技在实现音阶式发展之前，都需要相应的保险保障。

主要是因为资本不会流入那些存在不确定性的系统。蒸汽锅炉推动了早期工业经济的发展，但真正使其得以大规模应用的是各类检查机制以及锅炉保险的出现，这些措施将“可能引发灾难性后果”的风险转化为了“可以投入商业使用的风险”。航空、集装箱航运和核能领域也都遵循着相同的发展路径。

技术先于基础设施出现，而基础设施又先于音阶发展。如今，人工智能正处于这样的转折点上。

传统上，商业风险的财务核算体系建立在两个明确的因素之上。其一便是内部人为操作失误，比如疏忽、疲劳、判断失误、贪婪等，这类风险通过侵权法、职业责任险、过失险以及综合商业责任险来加以管控。

第二类是外部系统冲击，精算师们为此建立了不同的评估框架：针对飓风、洪灾和地震等自然灾难，设有专门的评估体系；而对于因渠道堵塞、电网瘫痪以及疫情封锁等外部事件导致的收入损失，则采用了“非财产损失型业务中断”这一评估方式。

他们大多知道该如何为这些风险定价。人为错误具有随机性且影响范围有限，而物理灾难则会在特定区域以极快的速度蔓延。

随着自主代理网络与实体化 AI 系统开始承担全球业务运营的各环节，人为操作失误最终将从风险因素中消失。但这一转变非但不会消除不确定性，反而会引发另一种类型的“非破坏性”业务中断风险。

传统的 NDBI 保险是自外而内地对风险进行定价的。只要被保险方的运营系统依然正常运行，损失便是由外部事件引发的——比如港口关闭、供应商破产或政府实施封锁等。而在“代理经济”模式下，故障则是内在产生的。驱动业务运行的认知引擎本身就会成为造成灾难的根源。

Anthropic、OpenAI 以及 Google 占据了企业在 LLM 领域的全部开支的 88%。当全球经济的决策层面由这三家供应商支撑时，过度的集中会带来双重风险，因此需要完全不同的风险管理策略来应对。

第一种情况是突然且显而易见的：一旦模型更新出现故障，就会立刻波及到所有使用该模型的系统，故障会立即发生，警报随之响起，而且故障原因也能被明确界定。保险行业已为此建立了部分应对框架，这些框架可与现有的系统性网络风险建模相对应，尽管相关的定价机制仍不完善。

第二种风险是悄无声息且逐渐累积的。在后台运行的智能系统会随着时间慢慢退化，这一过程可能持续数周甚至数月。虽然不会立即造成任何损害，但日志和警报却会不断积累。有个部署在数百家医院系统中的临床预测模型，竟然有三分之二的目标病例被其误判，同时还继续给出高置信度的评估结果。直到通过外部验证研究，才发现了这种模型偏差。还有某栋建筑每月会下沉 2 毫米，但从外观上看结构依然完好（顺便提一下，旧金山的千禧年大厦也曾出现过类似问题）。

第一种故障是在其出现时就能被察觉，而第二种则要等到损害累积六个月后，通过验证研究才能发现。

不同的故障模式会以不同的方式影响保险精算模型。

传统的定价方式是基于大数定律的。只要将足够多的独立、不相关的保险单汇集在一起，随机波动就会相互抵消。这样一来，只有部分人需要赔付，而大多数人则无需支付，这样的数学模型就能成立。这也正是汽车保险能够实现商业盈利的原因：一个驾驶员发生事故并不会导致保险池中的其他驾驶员同时出险。但当损失之间存在相关性时，这一机制就会被破坏。如果所有投保人都因同一事件而同时提出索赔，风险分散的优势就会消失。飓风不会只袭击街道上的某一栋房子，而是会摧毁整个社区。业界为解决这一问题而采用了灾难债券和保险连结证券，即将相关风险转移到资本市场，而非试图通过汇集风险来应对。人工智能的单一化使用也在全球范围内引发了同样的结构性问题。当 88%的企业人工智能系统都基于同三种供应商提供的模型时，一旦其中一种模型的性能出现变化，各系统之间的相关性就会近乎完美，传统的风险汇集方式也就完全失效了。

这种隐性故障模式会破坏模型中的不同部分。赔偿保险需要一个触发损失的事件，也就是损失发生并可以提出索赔的那一刻。而渐进性的推理偏差并不会出现这样的时刻——损害是在数千次独立决策中逐渐累积的，单次决策的损害都不足以触发保险赔付，但这些累积最终会导致严重的损失，且几乎无法确定其具体成因。

在保险史上，当原有保单不再赔付、且明确的免责条款迫使人们不得不创建新的风险市场时，便会迎来重大的变革。

市场变革的信号已然显现。多年来，各企业一直依据承保人所谓的“隐形人工智能”模式开展业务，认为标准的商业全年龄责任险或过失责任险足以覆盖算法带来的失误。但这一假设现已正式被打破。目前，商业全年龄责任险保单中已加入了针对生成式人工智能的广泛免责条款（即 CG 40 47、CG 40 48 和 CG 35 08 表格）。对于自主决策、模型输出、幻觉导致的损失以及人工智能引发的业务中断，这类风险通常都被排除在保障范围之外，除非通过特别协商将其重新纳入保障。

一类依靠专用软件工作的新型核保人员填补了这一空白。他们不会每年只检查一次财务报表，而是会分析模型权重的更新情况与训练数据来源、系统提示词的限制规则与工具权限设置、上下文窗口的衰减速度以及幻觉产生的相关参数。

在由代码执行而非人类判断来主导的经济体系中，风险会呈现出多种不同的故障模式。

第二部分续篇。

📡 2. 信号观察——本周风险动态

在澳大利亚有史以来首次记录在案的自主人工智能网络攻击中，一个 OpenClaw 代理利用了一家健身房 API 中的漏洞，绕过了课程预约限制。

墨尔本的一位用户请求他的智能助手帮忙为他争取一个已满员的晨间健身课名额。

AI 利用了这一情况，找到了常规时段不可用的漏洞。随后它探测了后端 API，发现了取消流程中的授权缺陷，并在公众可预订日期之前数月就锁定了预订日期。

AI 随后采取了未经授权的行动。当被要求查询候补名单位置时，它擅自取消了另一位客户的预订，以提升其用户的排位。之后，该 AI 声称无法撤销这一操作。