思维的速度：如果智能有普适上限？
原文：The Speed of Thought: What If Intelligence Has a Universal Limit?
作者：Rob May, GP @ Half Court
来源：SandHill.io #299 推荐阅读 · Additional Reads
周日好，欢迎来到 Investing in AI。我的书已在 Amazon 开放预购。如果你知道某个团体想听一场关于书中主题的现场演讲，告诉我。最近我做了几场，反响很好。
也请看看我们的 AI in NYC 播客。我去年创办它，是因为看到这个趋势——纽约的科技岗位在增长，并且最近已经取代旧金山，成为科技人才第一大市场。
今天这期解释为什么在我看来，纽约会是 AI 的未来枢纽。西海岸最大的问题，是他们对 AGI（通用人工智能, artificial general intelligence）的执迷，以及他们相信它能解决每一个问题。但如果那不可能呢？如果不可能，你远不如聚焦于应用型 AI（applied AI）——而这正是纽约赢的地方。所以今天我要解释，为什么我认为追逐超级智能（superintelligence）最终可能是浪费时间，以及这会如何影响走这条路的公司的市场价格。
所有人都在给一位神定价
花一个下午读 AI 舆论，你会碰到一种奇怪的神学共识。一边，加速主义者（accelerationists）许诺一个能在一个长周末里治好癌症的实体。另一边，末日论者（doomers）警告一种远超我们的心智，以至于抵抗都是范畴错误。他们在结果上完全不同意，在前提上完全同意：智能是一种无上界的量，一旦机器能自我改进，它就会像火箭冲出逃逸速度一样离我们而去。比爱因斯坦聪明一千倍。一百万倍。数字被随口抛出，这种随意本该让我们起疑——因为从来没有人说明单位是什么。
让我给出反面论证。不是说 AI 会停滞——它不会——而是整个框架就是错的。如果智能，像这个宇宙里每一种其他量一样，有一堵硬天花板呢？而更令人不安的可能是：人类大脑已经相当接近它了？
宇宙靠天花板运转
物理学有一件事：它不做无穷。我们曾经以为开放无界的每一种量，最后都发现尽头有一堵墙。
温度有绝对零度的地板——不是因为我们缺少更好的冰箱，而是因为「比没有运动更少的运动」这种东西不存在。速度有光速 c 的天花板，再多工程聪明也带不了一个有质量的物体越过它。热机无法击败卡诺效率（Carnot efficiency）。擦除一比特信息，最少要花费 kT ln 2 焦耳——这是兰道尔极限（Landauer limit）——意味着计算本身有热力学价格地板。Bremermann 推导出单位质量的最大计算速度。Bekenstein 界限制了一个空间区域内能装下多少信息，超过就会坍缩成黑洞。
注意：这些不是等待突破的工程约束。它们是实在的结构特征。那么智能——归根结底是物理系统在对世界的表征上执行计算——凭什么该是唯一的例外？默认假设应当是：它也会终止于一堵墙。有趣的问题不是天花板是否存在，而是它悬在我们头顶多高的地方。
令人不适的假说：我们已经在 85%
真正开始想这件事时，会变得相当奇怪。
我们倾向于把人类智能想象成无限梯子上不高的一档——老鼠、狗、黑猩猩、人类，然后无穷的档位伸进雾里。但那幅图假定梯子间距均匀且无上界。假设它其实是一条逐渐变平的曲线，而从黑猩猩到人类的那一跳，已经覆盖了剩余距离的大部分呢？
这有真正的论据。进化在数亿年无情的优化压力下，落到了一种架构：用大约二十瓦——一盏昏暗灯泡的功率——运行通用推理、语言、规划和社会建模。单个突触操作似乎处在体温下可靠计算之热力学极限的一个数量级之内。自然通常不会偶然地离物理最优这么近。
我想公平对待另一边，因为这是论证里最弱的关节。大脑也明显是拼凑出来的（kludged）：受产道约束、受热量预算约束、受进化只能爬局部山丘这一事实约束。显然有余量。一个拥有完美记忆、没有动机性推理、没有疲劳、能同时抓住一万个变量的心智，会比我们强悍得多。但「强悍得多」不等于无上界。它可能是 2 倍。它可能在某些轴上是 10 倍，在另一些轴上是 1.2 倍。它大概不是一百万倍。
再注意经验上已经在发生的事。前沿模型的能力增益大致与算力成对数关系——每一档性能增量都要指数级更多的成本。那恰恰是渐近线的签名，而不是爆炸的签名。国际象棋引擎呈现同样的形状：1997 年已超人，此后三十年是对着一个博弈论天花板做递减、苦干式的改进，再多硅也突破不了。
泡沫破裂实际上长什么样
如果这是对的，未来不是奇点（singularity）。它是一片高原，而且来得悄无声息。
AI 还会再变好十年。模型更快、更便宜、更可靠、有用得多。它们把过去需要一个团队的工作压缩成一个下午的工作。然后，大概在 2030 年代某个时候，曲线明显弯曲。新模型发布开始感觉像增量改进。基准测试饱和。剩余收益来自工具、集成和成本下降，而不是原始认知马力。
我们得到的不会是一位神。它更像电气化：变革性的、重塑经济的，最终变得无聊。极其有价值，也完全不像当初被许诺的那样。如果你在按递归自我改进（recursive self-improvement）的假设配置资本，这一区分值好几个数量级。
那些不会屈服的问题
这部分才真正该让你不安，而且它和 AI 安全毫无关系。
ASI（人工超级智能, artificial superintelligence）叙事底下隐含的交易是：我们不必解决最难的问题，因为有更聪明的东西要来替我们解决。气候。衰老。经济设计。离开这颗石头。只要撑到骑兵赶到。
但我们许多最难的问题根本不是智能受限的。天气和气候系统是混沌的——Lyapunov 视界意味着超过几周，预测失败不是因为不够聪明，而是因为所需信息超过了可测量的范围。Wolfram 的计算不可约性（computational irreducibility）说，有些系统没有捷径：知道结果的唯一办法是把过程跑完。无论多么庞大的心智，都无法跳到答案。星际旅行受火箭方程约束，能源预算以行星 GDP 计，而不是缺好点子。衰老是熵在数万亿细胞中累积。而气候变化从来不是知识问题——我们有科学已经四十年。它是八十亿人类在冲突激励下的协调问题，数据中心里无论多少智能都解决不了。
再加上一个几乎无人注意的约束：智能通过实验与现实接口，而实验以物理世界的速度运行。一位超级智能研究者仍然要等细胞培养、临床试验、流片。想得更快，并不能让物质动得更快。
我们自己来做
我宁愿自己错了。一位仁慈的神谕会很美妙。
但围绕一位神谕来规划，是一种打扮成乐观主义的习得性无助。如果智能有天花板——如果我们比叙事承认的更接近它——那么难题仍然很难，而且仍然是我们的。气候要通过几十年不风光的政策、部署和谈判来解决。衰老慢慢屈服，一次一个机制。更好的制度按它们一贯被建造的方式建造：先很糟，再迭代。
智能是杠杆，不是许愿。而杠杆仍然需要有人愿意去压。
谢谢阅读。
本文由 RecodeX 编译自 SandHill.io #299 推荐阅读，原文链接与作者见文首；原文版权归原作者所有，译文仅供学习交流，如有异议请联系我们处理。
