Sep 02, 2025
本文信息来源:amplifypartners 如果你正在阅读本文,很可能关注人工智能研究领域。若你关注 AI 研究,或许已目睹过关于通用人工智能发展时间线的争论。当丹尼尔·科科塔科和斯科特·亚历山大警告 AI 代理可能在 2030 年前颠覆政府并毁灭人类时 1,说不定你还为此建造了地下掩体。 多数认为超级智能即将到来的人,都预期会出现”智能爆炸”——即当 AI 能够自动化 AI 研究时,人工智能发展将出现戏剧性加速。具体而言,如果高级推理模型能自主生成并筛选研究构想,再通过代码实现这些构想,这种场景就可能成为现实。 我相信我们很快就能训练 AI 智能体来生成多样化的研究构想,筛选最具潜力的方案进行测试 2,并将这些构想转化为代码实现。但我不认为(仅靠)这些能力能显著加速通用人工智能的研发进程。 要理解其中缘由,我们需要审视当前真正制约 AI 研究的因素。当我询问 AI 研究者”什么让你夜不能寐?”时,答案从”AI 开发生化武器”到”问题数据导致训练发散”不一而足。唉,这两个担忧都确有道理。 从这些对话中可以明确一点:瓶颈并非缺乏创意。研究人员脑海中充斥着各种想法,其中数千个尚未得到验证。随着更多人投身 AI 研究领域,积压的创意只增不减——而且其中很多想法在代码层面实现起来并不困难 3。 算力确实是关键瓶颈;我们只是没有足够的 GPU/TPU 来支持 AI 实验,但许多组织都聚焦于当前/迫在眉睫的数据中心容量危机。 人工智能研究中被忽视的瓶颈在于设计严谨的实验、执行这些实验并分析结果 。 若要加速研究进程,我们需要的不是更多想法或代码。 关键在于更快地开展更优质的实验 4。 那么如何实现?通过与研究人员和工程师的交流,三个核心问题浮出水面: 更优化的实验设计 (包含更严谨的评估方法) 更高效的实验运行方法(检测/调试训练代码问题;端到端管理追踪实验) 更完善的实验分析 (诊断失败原因;从小规模实验推演规模化结果) 当研究人员能够设计出严谨验证假设的实验,在稳定环境中运行,严格评估影响并理解失败原因,还能从小规模试验中推演出普遍规律时,我们将开启加速发展的新阶段。这并非因为实现了 AI 研究的自动化,而是因为我们赋能了成千上万的研究者以更高效率推进工作。第一次智能大爆发或许将属于人类。 这些问题确实非常棘手 5。作为风险投资人兼技术乐观主义者,我相信更好的工具能有所帮助,但仅靠工具无法解决实验设计、执行和分析的难题。许多挑战源于复杂的组织动态和激励机制:领导者必须在竞争优势与开放科学之间权衡取舍;管理者担心严谨的实验会拖慢迭代速度;一线研发人员因追求前沿性能而非可复现性获得嘉奖。在快节奏的市场中,团队往往在模型和软件”勉强够用”时就匆忙发布。随着生成式 AI 市场竞争日益激烈、技术进步速度超出所有人的追踪能力、媒体报道不断煽动炒作与争议,这些压力正不断加剧。 解决这些问题需要研究人员、统计学家、工程师等群体深度协作——其中许多人从未应对过如此艰巨的挑战,也未曾有过合作经验。虽然我能指出在关键问题上运用 AI 魔力的巧妙机会,但真正的工作在于构建正确的文化、激励机制和流程。不过我相信,致力于透明科学和严谨实验的专注研究组织能够取得实质性进展。我们终将攻克这个难题。 第一部分:设计更完善的实验方案 当前 AI 研究实验普遍缺乏严谨性 2013 年 DeepMind 研究人员提出的 Q 学习变体模型,可直接通过原始像素学习玩 Atari […]