本文信息来源：idiallo
当 OpenAI 发布 Sora 的第一个版本时，我感到非常兴奋。多年来，我的硬盘里一直放着一篇短篇故事 ，那是我很久以前写的，一直梦想着把它搬上银幕，拍成一部短片。唯一的问题是，我没有拍电影的专业技能，而且由于很久没用，我的 Blender 3D 技能也已经生疏了。但 Sora 承诺了一种不同的可能。我可以上传草图，输入脚本，然后生成我脑海中的影片。创作的门槛终于被消除了。
但现实与演示有些不同。无论我怎么尝试，生成的结果都完全不像 OpenAI 展示的那样。那些场景只是接近我想要的感觉，而不是我真正需要的内容。
这不仅仅是 Sora。我测试了 Runway ML，体验了 Veo，也尽量控制自己的花费。每个模型生成的东西都如出一辙：表面上“看起来不错”的内容。它们非常擅长制造陈词滥调的场景，生成那种在技术层面样样达标的泛化画面。但要创造出能够融入一个连贯叙事、具有明确意图和具体细节的作品？那几乎是不可能的。
当 Sora 2 发布时，我又从上一次停下的地方继续。也许这一次会不一样。视频比以往任何时候都更真实了，但主要问题仍然没有改变。这些工具的问题不在于无法生成场景或对话，它们当然可以。问题在于，它们生成的是我称之为“AI 视频”的东西，而这是一种拥有自身美学指纹的独立类别。
新的恐怖谷
想想你是如何瞬间识别某些类型的内容的。如果我现在给你描述一个视频：节奏很快，有人直接对着屏幕说话，伴随着多次跳切，眼睛里能看到环形补光灯的圆形反光，背景是他们的卧室。你会立刻说：“这是一个 TikTok 视频。”如今这种格式已经非常明显了。
AI 生成的视频已经发展出了一种独特的外观。它们带有一种明显的视觉特质，一种细微却不对劲的感觉，即使你说不清哪里出了问题，你的大脑也会察觉到。这是一种新的“恐怖谷”效应，每当我遇到它时都会感到强烈的厌恶。而且并不只有我有这种反应。在我身边这一小圈朋友和同事中，我们都形成了同样本能的排斥感。
甚至当 YouTube Shorts 是由真实的人制作时，我也开始对它们产生同样的厌恶。原因很简单，YouTube 一直在暗中使用 AI 修改真实视频 ，让原本真实的内容看起来像是人工生成的。你会注意到人们的面部被磨皮或锐化，而这一切在创作者不知情、未同意的情况下就发生了。从两个方向看，真实内容与 AI 生成内容之间的界线正在变得模糊。
那么，如果这些视频在许多观众中会触发如此强烈的负面反应，AI 生成内容究竟能在哪里“茁壮成长”呢？答案是：垃圾信息制造者、诈骗者、情绪煽动者以及操纵者之中。
这些不良行为者正利用 AI 视频工具大肆牟利。几个月前，我写过一篇关于 AI 视频概览 的文章，我曾推测 Google 可能最终会开始将 AI 生成的视频作为增强版搜索结果使用，将来自多个来源的信息合成为定制的视频摘要。这仍然只是推测。但对于有害内容而言？那不是推测，而是正在发生的现实，而且是在大规模地发生。
主要受害者
主要目标是老年人。我的父母以及他们的同龄人不断在群聊和社交媒体上分享 AI 生成的视频。就在我写这段话的时候，我母亲刚给我发来一个视频，画面里是丹泽尔·华盛顿在给人生建议——当然，这完全是捏造的。
内容种类繁多。有健康方面的错误信息、煽动性的假新闻、声称奥巴马已经皈依伊斯兰教的视频、一位年迈的太极大师提供可疑的养生建议，还有所谓特朗普在事实上从未持有过的立场上“改口”或“加码”的视频。具体说法每天都在变化，但模式始终如一。
尽管我们集体一再努力去教育人们，这些视频仍然像野火一样传播。我花了无数个小时解释为什么这些视频是假的。在我的社区群聊里，我多次讲解过那些明显的体征，比如出现在 AI 生成内容上的那个带眼睛的小云朵图标（sora 水印）。我还分享过实用技巧：如果一个视频看起来好得离谱或震惊到不太可能是真的，就去 Google 上搜索相关信息进行核实。但似乎什么都没有真正奏效。
有些日子里，按照这些视频的说法，我们正在打仗；另一些日子，整个城市被烧毁，或者一场海啸摧毁了洛杉矶。你根本不可能以比这些信息传播更快的速度去辟谣。
当你在 YouTube 上看到这些视频时，往下滑到评论区。你会看到真实的人在严肃地对待虚构的内容，对合成出来的人物表达真挚的情感，争论视频中那些当事人从未真正说过的观点。我会接到海外家人的电话，有人联系我，或者分享他们以为正在我家门口发生的事情。当我问他们是从哪里听说的，他们就转发了一个 WhatsApp 视频。
这个危机没有简单的解决方案。
AI 视频技术已经找到了它的受众，只是不是营销材料所承诺的那类受众。这些工具并非真正为了帮助像我这样的人克服技术限制、将我们的故事变为现实而设计。它们的目的在于赋能那些想要为了互动量、利润或意识形态而操纵、欺骗和剥削他人的人。
我曾尝试寻找合法且有益的 AI 视频生成用例。我思考过教育应用、无障碍功能以及实验艺术项目。也许这些在理论上存在，但在实践中，我不断回到同一个结论。
现在，我遇到的每一个 AI 视频都是有害的。每一个，毫无例外。
要么它是直接有害的，比如传播虚假信息、冒充真实人物、操纵脆弱的观众；要么它是间接有害的，通过训练我们接受一种合成现实——在那里，任何事物都无法被信任，一切都必须被质疑。即便是那些“无害”的 AI 视频，也在助长视觉媒体整体信任度的侵蚀。
这项技术对于不良行为者所找到的用途来说，效果好得令人不寒而栗。我原本希望跨越的创作门槛依然存在。然而，现在又多了一道新的门槛——信任的门槛。而这一道，可能要困难得多，才能重建。