深度学习
所有 AI 视频都是有害的：无一例外
本文信息来源：idiallo 当 OpenAI 发布 Sora 的第一个版本时，我感到非常兴奋。多年来，我的硬盘里一直放着一篇短篇故事 ，那是我很久以前写的，一直梦想着把它搬上银幕，拍成一部短片。唯一的问题是，我没有拍电影的专业技能，而且由于很久没用，我的 Blender 3D 技能也已经生疏了。但 Sora 承诺了一种不同的可能。我可以上传草图，输入脚本，然后生成我脑海中的影片。创作的门槛终于被消除了。 但现实与演示有些不同。无论我怎么尝试，生成的结果都完全不像 OpenAI 展示的那样。那些场景只是接近我想要的感觉，而不是我真正需要的内容。 这不仅仅是 Sora。我测试了 Runway ML，体验了 Veo，也尽量控制自己的花费。每个模型生成的东西都如出一辙：表面上“看起来不错”的内容。它们非常擅长制造陈词滥调的场景，生成那种在技术层面样样达标的泛化画面。但要创造出能够融入一个连贯叙事、具有明确意图和具体细节的作品？那几乎是不可能的。 当 Sora 2 发布时，我又从上一次停下的地方继续。也许这一次会不一样。视频比以往任何时候都更真实了，但主要问题仍然没有改变。这些工具的问题不在于无法生成场景或对话，它们当然可以。问题在于，它们生成的是我称之为“AI 视频”的东西，而这是一种拥有自身美学指纹的独立类别。 新的恐怖谷 想想你是如何瞬间识别某些类型的内容的。如果我现在给你描述一个视频：节奏很快，有人直接对着屏幕说话，伴随着多次跳切，眼睛里能看到环形补光灯的圆形反光，背景是他们的卧室。你会立刻说：“这是一个 TikTok 视频。”如今这种格式已经非常明显了。 AI 生成的视频已经发展出了一种独特的外观。它们带有一种明显的视觉特质，一种细微却不对劲的感觉，即使你说不清哪里出了问题，你的大脑也会察觉到。这是一种新的“恐怖谷”效应，每当我遇到它时都会感到强烈的厌恶。而且并不只有我有这种反应。在我身边这一小圈朋友和同事中，我们都形成了同样本能的排斥感。 甚至当 YouTube Shorts 是由真实的人制作时，我也开始对它们产生同样的厌恶。原因很简单，YouTube 一直在暗中使用 AI 修改真实视频 ，让原本真实的内容看起来像是人工生成的。你会注意到人们的面部被磨皮或锐化，而这一切在创作者不知情、未同意的情况下就发生了。从两个方向看，真实内容与 AI 生成内容之间的界线正在变得模糊。 那么，如果这些视频在许多观众中会触发如此强烈的负面反应，AI 生成内容究竟能在哪里“茁壮成长”呢？答案是：垃圾信息制造者、诈骗者、情绪煽动者以及操纵者之中。 这些不良行为者正利用 AI 视频工具大肆牟利。几个月前，我写过一篇关于 AI 视频概览 的文章，我曾推测 Google 可能最终会开始将 AI 生成的视频作为增强版搜索结果使用，将来自多个来源的信息合成为定制的视频摘要。这仍然只是推测。但对于有害内容而言？那不是推测，而是正在发生的现实，而且是在大规模地发生。 主要受害者 主要目标是老年人。我的父母以及他们的同龄人不断在群聊和社交媒体上分享 AI 生成的视频。就在我写这段话的时候，我母亲刚给我发来一个视频，画面里是丹泽尔·华盛顿在给人生建议——当然，这完全是捏造的。 内容种类繁多。有健康方面的错误信息、煽动性的假新闻、声称奥巴马已经皈依伊斯兰教的视频、一位年迈的太极大师提供可疑的养生建议，还有所谓特朗普在事实上从未持有过的立场上“改口”或“加码”的视频。具体说法每天都在变化，但模式始终如一。 尽管我们集体一再努力去教育人们，这些视频仍然像野火一样传播。我花了无数个小时解释为什么这些视频是假的。在我的社区群聊里，我多次讲解过那些明显的体征，比如出现在 […]
