让人工智能预测变得困难的种种困难

若要更准确地预测人工智能对任何行业的影响，就必须先了解它对整个集成生态系统所带来的整体影响。它或许能够简化工作流程中的某个环节，但当其他步骤试图适应这种提速时，情况又会如何发展？瓶颈会出现在何处，又能否被消除？如果无法解决这些问题，整体的处理效率就不会提升。

人工智能预测旨在预判人工智能系统将具备何种能力，以及这些能力将如何影响各个行业、机构与人们的日常生活。而后者要难得多。

“这并非通过基本原理就能得出的结论，”上周我们谈论人工智能预测问题时，阿比·奥尔维拉是这么告诉我的。我是因为她最近发表的一篇从生物安全角度探讨人工智能预测的文章而联系她的，之后才第一次与她见面。

阿比曾在美国国务院担任外交官超过七年，工作涉及危机应对、国家安全、中国事务、国际协调以及新兴技术风险。她曾在达喀尔和开罗任职，在开罗期间专注于埃及 120 亿美元的国际货币基金组织项目。她还曾在中国事务办公室处理网络安全和执法问题。在她的职业生涯中，她不得不思考贫困、国家安全、危机应对、能源、生物安全、网络安全，以及当技术变化快于政策制定时不得不做出响应的各类机构。如今，阿比撰写《正和》Substack 专栏，并正在创办一个专注于国家能力和经济瓶颈的组织。她还是金门研究所的特别顾问，以及人工智能政策与战略研究所的附属研究员。

在交谈中，我和阿比探讨了她在预测差距方面认为风险最大的领域、造成这些差距的根源，以及可以采取哪些措施来加以解决。

预测差距

预测差距往往源于人们误以为获取信息等同于具备行动能力。人工智能虽能降低理解某一领域的门槛，却未必能让实际执行工作变得更为轻松。

以放射科为例。2016 年，杰弗里·辛顿在多伦多举行的一场机器学习会议上表示，“人们应该停止培训放射科医生”，因为深度学习在五年内就会远远超越他们的能力，这一点“再明显不过”。尽管人工智能在放射科领域已展现出巨大价值（食品药品监督管理局已批准了数百种基于人工智能的医学影像工具），但当初对劳动力市场的预测却大错特错。放射科并没有消失，事实上其需求还在上升。在积极采用人工智能的梅奥诊所，据报道自 2016 年以来放射科的员工数量增长了 55%，该科室还组建了由 40 人组成的人工智能团队，并使用了 250 多种人工智能模型。

“进展令人惊叹，但这些 AI 工具大多只关注一件事，”宾夕法尼亚大学佩雷尔曼医学院放射学教授、《放射学：人工智能》期刊主编小查尔斯·E·卡恩博士表示。正如《纽约时报》所写，“放射科医生的工作远不止研究影像。他们为其他医生和外科医生提供建议，与患者沟通，撰写报告并分析病历。在识别出器官中可疑的组织团块后，他们会结合特定患者的病史，凭借多年经验解读其可能意味着什么。”

AI 改善了医学图像解读的任务，但放射科医生仍需整合临床背景、与医生沟通、指导治疗决策、执行操作并承担责任。能力已经具备，但预测却失败了，因为图像解读只是“放射科工作”这座冰山的顶端——随着 AI 在这一工作流程顶端的任务上变得更加熟练，反而需要更多放射科医生来应对相关工作的增加。

Abi 认为，预测过于关注技术带来的可能性，而未能充分考量现实领域的实际情况以及决定人们是否会、在何处以及为何真正使用技术的社会激励因素。我们需要更好地理解这两个方面：人工智能在哪些环节改变了工作流程，以及世界如何作出回应。

偏见与盲点

AI 预测之所以困难，部分原因在于最接近技术的人往往离预测将发挥作用的领域最远。正如 Abi 所言，“由于 AI 预测往往来自更偏技术、位于湾区的社群，它在涉及社会行为、采用或任何大型现实世界或物理世界组成部分的领域，系统性失误更多。”例如，在旧金山，人们往往从能力出发。软件工程师常将 AI 用于模型能端到端完成大部分工作流的任务。然而，在其他领域，工作流延伸至文本之外，涉及物理系统或与外部参与者的互动，这使得 AI 的影响既更难察觉，也更难预测。

“华盛顿特区的人不太可能使用 Claude Cowork 或 Codex，”她说道。“即便有人在那里使用这些工具，很多时候也只会用聊天机器人版本，这固然不错，但终究无法发挥出人工智能那些令人惊叹的强大功能。”

另一方面，旧金山的人们往往低估了 AI 应用过程中的摩擦，因为他们更关注愿景本身，而非将愿景转化为现实世界成果的具体细致工作。

事实上，这两种观点都不完整。旧金山或许更接近技术能力的前沿，却远离这些能力得以应用的系统。与此同时，华盛顿（或其他非技术权力中心）更接近那些真刀真枪落地的系统，却远离人工智能技术的真正可能性。遗憾的是，公共讨论很少弥合这一鸿沟。最有动力发声的人通常与结果利害攸关（例如，试图推销产品的公司，或试图捍卫自身地位的机构）。倡导行为创造了塑造对话的资源与激励，这固然有价值，但也意味着最响亮的声音未必总能代表从业者的普遍观点。而且，由于人们消费的内容通常是那些本就契合自身世界观的内容，公共讨论日益沦为回音室，而非桥梁。

跨框架研究

这就是为什么 AI 预测需要更多与实际从业者的接触。他们最了解 AI 能在哪些方面改变工作、在哪些方面不能，以及局外人从他们的 AI 象牙塔中容易忽视工作的哪些部分。

阿比认为，我们需要更多能够将技术层面与实际应用层面相结合的研究。她将这类研究称为跨框架研究。

她最喜欢的一个此类研究例子，是一项测试 AI 是否真正帮助新手在实验室完成分子生物学任务的研究。该研究将仅能上网的人群与能上网且可使用前沿 AI 模型的人群进行了比较，然后衡量他们在八周内能否完成动手湿实验任务。结果喜忧参半：AI 似乎在部分中间步骤上有所帮助，但并未显著增加能够从头到尾完成整个实验室流程的人数。该研究试图评估单纯拥有更好的指导与实际执行困难物理流程之间的差距。

对许多行业而言，关于人工智能的一个关键问题是：它能否替代足够的隐性知识、故障排查能力以及实际操作技能，从而改变初学者所能完成的工作。

世界允许人工智能做些什么

这同样对政策制定有着重要影响。如果政府尚不清楚某项技术将会如何发展，就急于制定严格而详尽的规则是毫无益处的。阿比认为，应当更加注重提升在证据逐渐明朗时能够迅速作出反应的能力。

阿比认为，政府应当着力提升生态系统整体能力：改进数据报告机制、优化评估体系，并增强各机构的技术实力。这并非要求政策制定者能够完美预测所有未来的应用场景，而是让他们能够在掌握更多信息、明确发展方向后，及时察觉现状、检验假设并采取有效措施。

人工智能将会改变科学、安全、工业和政府领域。但从技术能力转化为实际变革的进程，却要经过那些最难以从外部进行建模的地区。随着人工智能加快了工作流程中的某些环节，人们就需要更加关注那些仍然进展缓慢、受制于物理条件、隐性因素或制度约束的方面。正如阿比所说：“当其他一切都被自动化之后，各种瓶颈就显得愈发重要。”

那么，问题不在于人工智能能做些什么，而在于它的能力能否改变那些瓶颈。这正是人工智能在技术上能够做到的事情与它实际上能够做到的事情之间的区别。

作者注：仅使用 LLM 进行轻度文字编辑（拼写、语法及清晰度）。内容、含义、语气和结构均未改变。