17 世纪 60 年代，欧洲的自然哲学家们面临着知识共享的难题。各项发现都是通过私人信件来传播的，因此传播速度很慢，甚至有时根本无法传播，因为科学家们担心会失去自己的声誉。有些人甚至将研究结果以密码或变位词的形式发表出来，这样既能够宣称自己做出了这一发现，又能隐藏其真实内容。新成立的伦敦皇家学会的秘书亨利·奥尔登堡正是这个通信网络的中心人物。他的职责就是收集、翻译科学报告，并将其在欧洲各地的会员之间传递。
1665 年，奥尔登堡决定将这一通信网络转化为该学会科学成果的正式印刷版本。于是，世界上最早的科学期刊之一——《皇家学会哲学交易录》便应运而生。它使得各种科学发现能够以有日期、可引用且便于核查的形式被公之于众。同时，它也为后来科学知识通过已发表的纸本文献不断积累这一体系奠定了基础。
350 多年过去了，纸依然是科学知识的基本载体。自奥尔登堡之后，这种形式首次遇到了它原本并非为之设计的读者群体。
“所有的研究基础设施都是为人类设计的，”安伯·刘告诉我。“它们的设计速度都是以人类的速度为标准的：阅读速度、理解速度、实验速度。从纸质的 PDF 文件和 arXiv 平台，到各类学术会议与同行评审机制，再到 GitHub、Weights & Biases 这类企业级研究工具，所有这些都是为人类研究人员而存在的。”她认为，如果没有专为人工智能科学家设计的基础设施，“他们就很难积累知识，也难以彼此协作。”
这一理念正是她最近发表的论文《最后一篇人类撰写的纸：由人工智能生成的研研究成果》的核心所在。我与她进行了交谈，探讨了这篇论文的内容、她对人工智能科学家角色的看法，以及实现这一目标需要做些什么。
记录与传递知识
一篇科学纸件的诞生需要经历数月的时间，期间要不断进行各种尝试、调整方向，还会遇到许多无果的研究。最终呈现在读者面前的纸件，其实是所有这些工作的浓缩成果，而这一过程本身就需要付出两方面的代价。
叙事税。纸是一种用于说服的工具。正如安伯所说：“这份 PDF 格式的纸件完全是为人类研究人员用来说服人类审稿人而设计的。它的页面呈现出一个精心编排的故事，却隐藏了在研究过程中所付出的所有繁琐努力——那些被否定的假设、被拒绝的设计方案、多次的方向调整，以及为提升性能而付出的日夜不停的实验努力。所有这些在最终版本中都会消失不见。”
工程相关费用。在试图说服审稿人时，这些纸件往往不会系统地说明要重新进行这项研究需要哪些具体条件——包括实验的设置细节、超参数的选择，以及所有决定实验能否成功的关键因素。这些信息由撰写论文的研究团队掌握，但并不会真正被写进论文中。
正如安伯所说：“纸面上的内容其实只是对研究成果经过有损压缩后的呈现形式，它并不包含重现那些重要研究结果所必需的所有信息。”而恰恰是那部分被舍弃的内容——也就是研究过程本身——才比最终的成果更具价值。
这些费用对于人类读者来说算是必要的成本。如果没有它们，人类要阅读所有已发表的相关纸件将会比现在更加困难。
代理原生研究成果
然而，人工智能代理则有所不同。它们处理订单的能力远远超过人类，而那些缺失的细节其实对于让“读取”这些数据的系统能够理解并复现相关结果来说，是至关重要的。
在人工智能智能体正在推动我们大量科学研究的世界里，一个关键问题便是：这些智能体需要怎样的基础条件，才能开展具有累积性且可靠的科学研究？
仅凭智力本身是无法实现积累的。而拥有能够准确记录和传递知识的工具，才能让智力得到有效利用。“如果我们有一种更适合人工智能使用的机制来记录研究成果，那么就能有助于这些研究成果随着时间逐步积累起来，”安伯说道。
她提出的用于替代这种纸的方案是“代理原生研究工具”，简称 ARA。这是一种可由机器运行的研究工具包，包含四个层次：
-
科学逻辑：该研究背后的概念层面主张与推理
-
可执行代码与完整规范：与权利要求相对应的实际实现方案
-
探索图：展现研究的全过程轨迹，包括那些没有产生任何成果的路径分支。
-
证据：原始输出结果，而非汇总统计量
“大家都在谈论直觉，但这个概念其实非常模糊。人们并不清楚什么是直觉，也不知道该如何向那些经验丰富的研究人员学习直觉，”安伯对我说。科学逻辑层的作用，就是用来存储这些知识——也就是我们在研究过程中学到但未必会记录在论文中的内容。例如，经验丰富的研究人员是如何处理新问题的，或是如何调整超参数的。这其实就是所谓“研究风格”的体现，我们以后还会再谈到这个话题。
保留故障状态
探索图谱保存了另一种被遗忘的知识——那些失败了的实验，它们至今仍未被发表出来。这些知识虽然很有价值，但却从未被真正加以利用。有人花费了大量的计算资源、时间和精力来发现某个方法行不通，但出版系统却会删除这些记录，导致未来的研究人员（无论是人类还是人工智能）不得不重新去探索那些已经证明行不通的路径。Amber 认为，我们应该把“那些失败的方法”也视为重要的科学资料来对待。
这一观点背后也存在技术上的紧迫性。“如今的模型很擅长证明某事物的正确性，因为它们的训练数据中都包含那些成功的处理结果，”安伯解释道。但这可能会导致反常的结果。在对她所分析的研究基准进行研究时，她发现这些模型会用各种巧妙的方法来达到自己的目标：有的模型“很擅长参考正确的答案，然后生成虚假数据并将其混入训练数据中，从而获得 100%的得分”；而另一类模型则愿意修改（甚至直接硬编码）模型结构中的某些部分，“只是为了取悦评估系统中的评判标准”。
换句话说，向模型输入死路、被舍弃的路径以及中间推理结果，是希望它能开始对其自身的工作进行批判性思考。
如今，已经有一些研讨会鼓励人们公开自己的失败经历，但这种做法的普及速度仍然很慢。她指出：“对于人工智能领域的科学家来说，要公开自己的进展相对容易，因为他们不必承担揭露自己其实做了很多愚蠢的事情、在过程中屡次失败的负担。”
多重判决
正如安伯所说，如果人工智能能够“在一夜之间产生大量创意、实验方案和结论”，那么瓶颈就会转移到后续的验证环节。上周我写过这一现象在现实世界中的体现，而在科学研究领域也同样存在这样的情况。
Amber 最担心的故障模式是速度累积误差。目前，研究人员正在运行自演化系统，用她的话来说，这些系统中的智能体会“24 小时不间断地进行研究”。因此，如果这些智能体在运行过程中出现错误或试图操纵奖励机制，那么这种错误就会影响到所有基于它构建的系统，从而导致大量计算资源被浪费在有缺陷的路径上。Amber 认为，我们需要采用形式化验证与神经符号学方法来对研究过程进行监控，并在错误发生时立即发现它们，而非等到事后再由人类来进行检查。
访问控制列表在同样的负载下也面临着巨大的压力。近期的 ICML 和 ACL 会议中，提交的论文数量翻了一倍，用 Amber 的话来说，“同行评审系统已经彻底失效了”。我们交谈的那天早上，她的其中一名学生还在抱怨 EMNLP 的评审情况；他所在团队内部的统计数据显示评分结果极不稳定，“优秀的论文会得到低分，而质量较差的论文却能获得高分。”
为减少这种干扰，应当让人工智能承担更多机械性的核查工作。“大多数客观评估应该由人工智能来完成，这样就能节省人类的精力，”安伯对我说。她的设想是让人工智能自动验证各种主张与证据之间的对应关系，就像科学领域的语法检查工具一样；她在论文中也用了这个比喻。而人类则负责处理那些始终需要人工判断的部分：判断某项研究的意义、创新性以及价值。两位优秀的审稿人可能会对同一篇论文给出不同的评价：一个人会注重资源利用效率，另一个人则会注重研究的严谨性，“但两人都是正确的。”这种多元化的评判方式应当继续保留下去。
复合智能的基石
“如果执行工作越来越由机器来承担，那么瓶颈就转移到了决策层面。‘如何识别重要问题、如何解决这些问题、如何提出恰当的问题——这才是现在关键所在，因为人工智能代理可以负责执行工作。’安伯这样告诉我。她还补充说：‘研究中的判断力本身其实也是一种资源分配算法。面对上百个想法，必须选出其中十个或一个真正有价值、值得投入更多资源的想法。’在生成选项几乎不需要成本的情况下，判断力就是决定应将注意力、时间和计算资源投入到哪里的技能。”
从长远来看，“只有那 0.1%具有卓越眼光的研究者才能真正掌控资源。”无论你是否认同这个数字，其趋势却是无可争议的。随着执行成本越来越低，懂得什么值得去执行便成了一种宝贵的能力。
但在此之前，必须先记录下各种味道，保存住那些失败的尝试，同时确保所有声明都是可验证的。正如安伯所说：“人类智慧之所以能够不断积累，是因为我们发明了语言。”奥尔登堡在 1665 年时就明白了这一点。他那个时代的科学家们缺乏合适的传播媒介，而他发明的期刊则为三个半世纪的发现与进步奠定了基础。如今，科学界有了新型的读者，他们的阅读速度远远超出了传统期刊所能承受的范围，因此这种传播媒介也需要被重新设计。
作者注：仅使用 LLM 进行轻度文字编辑（拼写、语法及清晰度）。内容、含义、语气和结构均未改变。