钟摆持续摆动

当算法将话语变成死亡螺旋

本文信息来源：nikunjk

一位知名风投人士发文称，穆斯林”来自一个对一切事物都撒谎的文化”。

380 万次浏览。13.6 万点赞。蓝 V 认证纹丝未动。

算法已经做出了裁决。而明天，它将要求更恶劣的内容。

欢迎来到2025年。微妙差异不仅已经消亡。我们还在教机器在它的坟头跳舞。这不再是极端之间的钟摆摆动。而是向下钻探的螺旋，每一圈都比上一圈更紧缩、更极端。

愤怒制胜

观察新冠疫情讨论的演变轨迹。不是通过辩论或证据，而是纯粹的互动数据驱动。2020年3月：”拉平曲线”；6月：”不过是流感”；9月：”生物武器”；12月：”根本不存在”。

每个新说法都比前一个更极端。事实从未改变，改变的是算法。理性观点正在默默消亡，疯狂言论却破圈传播。

数据很残酷：深思熟虑的帖子获10个赞，煽动性内容却能斩获1万。即便聪明人也学会升级话术，因为理性发言就像对空房间自言自语。

AI 从我们的恶习中学习

AI 智能体很快将创作 80%的在线内容。照此趋势，它们学不到真相，只会掌握模式——研究我们的点击、分享和凌晨两点的愤怒评论。

给 LLM 投喂百万条帖子。”关于移民问题的 nuanced take”无人问津。”他们正在取代我们”却病毒式传播。系统会注意到。现在看看它会产出什么。

我们训练这些模型的目的不是让它们变得智慧，而是让它们学会煽动情绪。每次舆论风暴都在教导这些系统：真相就是最能激怒人的东西。

恶性循环不断加剧。AI 生成煽动性内容，人类因其有效而传播，AI 学会煽动就能赢，于是产出更极端的内容。现实就此崩塌。

没有回摆

人们称之为钟摆现象，仿佛终将回归理性。但钟摆终会平衡，这更像是螺旋坠落。每次摆动都更加极端，因为昨日的极端已成为今日的起点。

还记得”边境安全”吗？现在变成”驱逐数百万”。还记得”警察改革”吗？现在变成”军队镇压”。中间立场未能坚守，它已被彻底遗忘。

巴以冲突印证了这一点。你无法说”哈马斯很糟糕，同时巴勒斯坦平民应享有尊严”。你不能既承认以色列有合理的安全关切，又谴责定居点政策是错误的。算法没有”兼顾”的选项，只有”二选一”。要么选边站，要么被淹没。

未来属于标题党

我即将四岁的孩子将成长在这样一个世界：她阅读的大部分内容都由 AI 生成；历史记录等同于”获得最多互动的版本”；科学共识源自病毒式传播的推文，而非同行评议。

她可能永远看不到真正的辩论。每个立场都被预先压扁成最易传播的形式，每个复杂议题都被简化为战队对抗。人类并没有变得更愚蠢，只是我们构建了奖励愚蠢的体系，并将其交给那些能完美执行奖励机制的机器。

基础设施已然就位。推荐算法优先考虑观看时长而非真相。互动指标偏爱愤怒而非洞见。人工智能系统从我们最恶劣的行为中学习。平台从分裂中获利。

我们并非滑向反乌托邦。我们似乎正有意亲手构建它，每次点击都在添砖加瓦。

这陷阱是我们亲手打造

善良之人也在钻体制空子。我们都在推动钟摆摆向更极端的位置，同时告诉自己别无选择。

几周前我写过关于”规范即代码”的文章。最初标题是《我们将如何管理规范》，无人问津。后来改成《幕后工作已死》，内容丝毫未变，阅读量却翻了十倍。

我痛恨这种手段有效。但除此之外呢？对着虚空呐喊吗？

精妙需要耐心。复杂要求专注。真相需要时间展开。算法不奖励任何这些品质。它只推崇即时、煽动和不完整。于是我们生产这些。我们消费这些。我们教会机器制造这些。

钟摆没有坏。是我们弄坏了它。而我们还在不断推它晃得更厉害，因为这是如今能被听见的唯一方式。

明天，某个 AI 会读到这篇文章。它会学到关于微妙之处的文章应当包含煽动性案例。接着它会生成更极端的内容。

或许我们无法逃离这个陷阱。但偶尔，我们可以选择不分享。不点击。不去喂养我们亲手打造的怪物。

我知道自己做不到。算法把我训练得太好了。