超越 slop、品味与 AI 道德恐慌：社会科学怎么说
原文：Beyond slop, taste, and AI moral panic: What social science tells us
作者：Tim Sullivan, A16Z Crypto
来源：SandHill.io #299 推荐阅读 · Additional Reads
编者按：本周我们继续关于如何应对「AI 写作」舆论的系列。上周我们分享了这篇文章，讨论创始人及其他经常需要沟通的人如何用 AI 写作。
加密圈一度靠「氛围」（vibes）做营销，所以我们试着给建设者的营销实践带入更多严谨。这里，我们用社会科学研究来处理一个本来很主观的话题。
18 世纪早期，如果你住在伦敦，想诽谤对手或仇家，可以去 Grub Street——城北一块以垃圾沟命名的贫民窟。
在挤满枪手写手和失败涂鸦者的窄巷里，你可能会碰到 Samuel Boyse 这类人——一个因债务从爱丁堡逃来的醉酒爱尔兰诗人。他的专长是打油诗（doggerel）。一两先令，他乐意给你作一首。如果口袋更深，他还能炮制一本小册子，把你的目标狠狠骂一顿。
Boyse 住在阁楼里，与酒精成瘾搏斗。有一次窘迫到把背上的衬衫当掉，好买写作必需的纸。（啊，作家的生涯！）Boyse 的处境并不独特——连 Samuel Johnson 这样备受推崇的作家，据说也在 Grub Street 待过——不过 Boyse 是这行里产量更高的实践者之一。
Grub Street 生产了大量我们今天或许会称之为「slop」（廉价、劣质、批量内容）的东西：单行诗、小册子、期刊、报纸——其生产和消费都是为了出售。也许不可避免地，这类写手被比作娼妓，批评者把给小册子作者写稿等同于卖淫。没有体面人会参与如此不堪的作品……只不过很多体面人确实参与了，一边对自己同样津津有味的朋友痛斥它。
我想说的是：slop 绝不是新现象。围绕它的道德恐慌也不是。AI 生成内容只是一个古老趋势的最新一轮：每当技术大幅降低媒体生产成本，就会放出洪水般廉价、衍生的作品——以及一合唱衰文化已跌至新低的批评者。Grub Street 之后是便士报（penny press），然后是低俗小说（pulp fiction），然后是电视（如果你想文雅一点，叫「广袤荒原」vast wasteland；更口语的说法是 boob tube），再然后是博客、社交媒体，现在是 AI。
每当技术降低执行成本，大众就会涌入。每一次，批评都来得又急又猛。每一次，那些自称 cognoscenti（鉴赏精英）的答案都显而易见：对「品味」（taste）的宣称成了他们的避难所，品味被捧上神坛。AI 或许在程度甚至种类上有所不同，但对生产成本下降的文化反应，有迹可循的历史先例。
但这立刻引出许多人正在争论的问题：品味到底是什么？如果品味是专家稳定、一贯应用的标准，那么现代 AI 几乎肯定能鹦鹉学舌般模仿品味。一个在足够多包豪斯（Bauhaus）设计样本上训练过的模型，可以推断出让一件物品「感觉像包豪斯」的原则。一个在某位文学代理人收购记录上训练过的模型，可以近似那位代理人的编辑偏好。把品味理解成对可发现规则的稳定应用，恰恰是现代 AI 擅长的模式识别问题。
反过来，如果「品味」不能还原成稳定标准，那我们使用这个词就太随便了。把品味简单说成「知道什么是『好』」近乎同义反复；而把它还原成个人偏好——我喜欢这个，不喜欢那个——又太主观，无法解释为什么有些人能反复在所有人之前识别出有前途的想法、产品或创作者。
所以，当我们说某人有品味时，我们真正在谈什么？预测？判断？社会位置？经验？运气？「品味」有时是所有这些：它是一个民间范畴，我们把彼此分离的机制都坍缩进去了。AI 迫使我们把它们拆开。社会科学可以帮忙，不是给出一套单一的品味理论，而是把缠在一起的观念分开。一旦识别出这些不同的线索，问题就从「机器有没有品味」变成：当生产变便宜时，哪些产生良好人类判断的机制仍然稀缺。
成功是社会偶然的
有一组研究也许能照亮歌曲如何成为热门。
2000 年代初，哥伦比亚大学社会学家 Duncan Watts 和 Matt Salganik 与研究团队合作，创建了一个人工在线「音乐实验室」（music lab）。数千名参与者被邀请收听并下载不知名乐队的歌曲。研究者把听众分成八组，各组呈现歌曲的条件不同。有的组能看到每首歌已被下载多少次；有的组看不到。团队还在某些「世界」（他们对自己实验条件的称呼）里操纵信息，比如把某首歌显示成第 1 名，而它其实不是。
更大的教训是：当社会信息被隐藏时，下载分布相对均匀。但当人们能看到别人在选什么时，结果就分叉了。在这些被操纵的条件下，一首在某个世界里一飞冲天的歌，在另一个世界里表现很差。
一旦质量越过基本门槛，成功就在很大程度上由社会影响和路径依赖塑造。这让即便是知情观察者也几乎不可能事先预测哪些产品会冲到最顶。换句话说，某个领域的专家——比如电视高管——相当擅长在明显失败发生前把它们过滤掉。但他们无法可靠地在剩下的强候选里预测爆款。或者用 Salganik 的话说，《哈利·波特》（Harry Potter）的成功是一次偶然（fluke）。
成功并不必然由质量单独决定。因此，品味不能简单等于预测成功。
品味是经纪
另一种可能是：我们所谓的品味根本不是预测。也许它是某种特定社会位置的功能：站在一个能让你看见世界如何拼合、或想法与产品如何从一个场域翻译到另一个场域的独特观察点上。
这就是为什么公司里一些最有创新力的员工，往往是与不同群体连接最多的人——或者说，这是另一位社会学家 Ron Burt 的发现。Burt 称之为「经纪」（brokerage）。经纪不是挑选赢家所需的千里眼，而是一种产生新颖重组的结构位置。
Burt 的结论来自数十年对企业内部社交网络的测绘。他不聚焦于个人才华或专业能力，而是问：人们在这些网络中的位置如何影响其表现。首先，Burt 重建了谁和谁沟通。然后他把这些模式与晋升、薪酬、管理者评价等指标对照。他发现，最有创新力的员工很少嵌入在单一、紧密联结 的共同体里。相反，创新者（我们要不要称他们为有品味的人？）占据着「结构洞」（structural holes）：那些原本互不连接的群体之间的空隙。
因为他们在不同圈子里走动，经纪人遇到别人遇不到的信息，更重要的是，从多个视角看问题。他们的位置让他们能重组任何一个单一网络都无法独自产生的想法。在这里，创新不是超凡智力的问题，而是超凡位置的问题。
这暗示品味或许不是一种审美官能，而是一种结构优势。我们常常把品味想象成住在某个人脑子里——一种精炼的感受力或直觉性的审美判断。Burt 则表明，看起来像品味的东西，可能来自某人在社交网络中的位置。那些似乎对什么有趣、原创、有前途有一种不可思议感觉的人，往往是一生都在原本互不连接的社会世界之间移动的人。他们的「品味」并非来自神秘直觉，而来自反复暴露于别人看不见的组合。
一个在——嗯——几乎一切上训练过的大语言模型（LLM, large language model），某种意义上同时能接触所有网络——所以如果结构洞纯粹是信息获取问题，AI 或许会很擅长。但经纪人的优势来自生活在多个社会世界内部，带着由其网络位置而来的具身、关系性和情境性知识。我们可以说经纪人的优势是默会的（tacit）。经纪人不仅仅拥有来自多个共同体的信息；他们主动参与多个共同体。他们积累默会知识、信任和经验，并以 LLM 根本做不到的方式回应新颖激励。你无法单靠训练数据模拟「局外人—局内人」。这是一种站得住脚的人类优势——至少目前是。
当然，Burt 的工作关乎组织生涯与竞争策略，而不是文化产品。但或许我们在其他领域所谓的品味，在结构上等价于 Burt 的经纪——那种真正属于多个世界的人的优势。
判断是训练出来的
那么人类判断从哪里来？我们创造它。
LLM 可以完成常与初级岗位相关的任务：像初级律师一样起草合同，像初级顾问一样做基本财务分析，像工程师一样写代码，等等。有人提出，这也许能让组织用 LLM 替换这些岗位，从而削减成本、提高产出。它也把专业能力交给普通人：你不再需要依赖大型律所（Big Law）及其按时计费，来完成基本（有时甚至复杂）的任务。
经济学家 Christian Catalini 认为，人类在这一切中的角色是核验（verification）：确保 LLM 的输出没有漂得太远。人类检查。人类纠正。人类运用品味？
但这打开了另一个问题：人类在哪里学会品味。好的（人类）评估者，靠学徒制、反馈和暴露来发展能力。
当年我在 Princeton University Press 做初级编辑时，必须把老板用绿色钢笔改过的书稿影印一份，再寄给作者。我们需要一份副本作参考，也以防原件丢失。复印机嗡嗡转着的时候，我会花时间回顾他的修改、读他的问询，既要读懂他的绿墨笔迹（这是一种不可迁移的岗位技能，后来职业生涯里没帮上忙，但当时至关重要，尤其因为包括作者在内的几乎没人能辨认他的字），更重要的是理解他的编辑风格。这塑造了我自己的编辑方式（导师反过来也会审我的编辑），并构成我至今仍在使用的基础。（这段经历也指向另一条常被低估的道理：工作可以很messy。）
换句话说：我们所谓品味的至少一个要素——判断——是一种随时间积累并打磨的辨别力。它不是天生的。如果我们要继续培养有品味的人，就必须创造他们能发展这种能力的空间。
显而易见的反对是：投资学徒制的公司，短期内可能输给激进自动化的竞争对手。也许吧！但这种权衡像过度砍伐森林：把每棵幼苗都砍掉，也许能改善一个季度的报表，但也确保你以后不会有成熟的树。当然，找工作的人也有责任在没有这些岗位的情况下自我训练。
实践会把事情变复杂
把这三项发现推向某种实践，它们都没有崩——但我认为它们的含义也不完全是表面读法所暗示的那样。
先看社会偶然的热门。Salganik 的结论没变：成功仍不由质量单独决定，所以品味仍不能简单等于预测成功。AI 加上去的是体量——跨过「足够好」门槛的候选，多到任何一个策展人都筛不过来。换句话说，电视高管仍以同样方式过滤。只是射门次数多了很多，质量单独决定哪些球进门的比重更低。在这种环境里，成功比以往任何时候都更依赖运气——或者更精确地说，社会或网络位置。那些已经拥有受众的候选，最有可能在赛场拥挤之前赶上浪头。
经纪更站得住。LLM 已经能做经纪里便宜的那一半——把相邻领域正在发生的事呈现给任何提问的人，而这过去需要你真的认识那个领域里的人。（仍然需要有人知道该问什么问题。）真正要紧的结构洞，不是信息意义上的「知道两个世界」。而是栖居于那些还没被写下来、LLM 无法吞进去的世界：亚文化、非正式实践、发生在房间里、从未进入记录的争论，等等。如果经纪继续有回报，那将是因为有人专门去寻找那种未被记录、也无法被记录的领地。
学徒制是标准建议——保护它——仍然成立的那一项。学徒模型假定初级员工通过在资深者指导下做苦活来学习，就像我通过影印导师批改过的书页来学编辑，然后在被允许自己动手后，再让他审我的工作。如果现在 AI 做了那些苦活，轻松的结论就是：学徒制会随训练它的岗位一起消失。
这可能说反了：真正要紧的过程是「有人反复抓住你错的地方，直到你不再错」。如果初级员工的工作变成在监督下检查和纠正 AI 的草稿，而不是自己从零起草（尽管我认为从零起草也很宝贵），这个过程可以存活。改变的不是公司是否留住初级人类，而是这些人类每天做什么。那些干脆取消初级岗位的公司，会连大量脚手架一起拆掉。那些把初级岗位转向有监督核验的公司，可以维持脚手架，同时仍捕获一部分节省。（这里存在一种公地悲剧（Tragedy of the Commons）的可能：所有公司都取消初级岗位，日后全面缺乏资深判断，就像把所有幼树都砍光的木材公司。）
Boyse 把衬衫当掉买纸，死在 Grub Street。据说走过同一条街的 Samuel Johnson 没有留下。不是因为他品味更好，而或许是因为他有更好的脚手架。
在关于 AI 的辩论里，「品味」成了一种图腾，当有人想指出人类能做而机器不能做的事情时就被唤起。但品味不必神秘。它是良好判断在被以下事物塑造之后的样子：奖励实验的环境、让我们接触新颖组合的网络、以及培养辨别力的制度。
在 AI 时代，稀缺资源不是品味。真正面临稀缺威胁的，是那个生产出我们称之为「有品味之人」的社会基础设施。
本文由 RecodeX 编译自 SandHill.io #299 推荐阅读，原文链接与作者见文首；原文版权归原作者所有，译文仅供学习交流，如有异议请联系我们处理。
