互联网上色情内容正在被清除，但亿万富翁可以向你出售人工智能裸照

在互联网这个令人着迷的新现实中，少女无法在 Reddit 上了解月经，独立艺术家无法在 Itch.io 上销售色情游戏，但军事承包商可以每月 30 美元为你制作泰勒·斯威夫特脱掉上衣的非自愿深度伪造视频。

周二早些时候，埃隆·马斯克的 xAI 推出了一款名为 Grok Imagine 的新型图像和视频生成器，该生成器具有“辣”模式，输出内容从暗示性手势到裸体不等。由于 Grok Imagine 对创建真实人物图像没有任何明显的限制，这意味着你基本上可以生成任何足够出名的人的软色情内容， Grok 可以重现（尽管从务实的角度看，它似乎主要为女性生成严重的 NSFW 输出）。马斯克吹嘘说，在启动运营一天内就生成了超过 3400 万张图片。但真正的成功之处在于，由于其他公司所没有的法律漏洞和政治影响力，xAI 可以无视禁止其服务中成人内容的压力，同时帮助用户创作出广受诟病的内容。

xAI 的视频功能与名为 Valentine 的浪漫聊天机器人伴侣同期推出，但从某种角度来看却显得格外怪异，因为它的发布正值性（甚至“性”这个词本身）被推向互联网边缘的时期。上个月底，英国开始实施年龄限制规定，要求 X 和其他服务屏蔽 18 岁以下用户的性或其他“有害”内容。大约在同一时间，一个名为 Collective Shout 的激进组织成功向 Steam 和 Itch.io 施压，要求其严厉打击成人游戏和其他媒体，尤其导致 Itch.io 大规模下架所有不适合工作场所（NSFW）的内容。

真人深度伪造色情片是一种未经同意的私密图像，根据唐纳德·特朗普总统今年早些时候签署的《删除法案》，在美国故意发布此类内容属于违法行为。强奸、虐待和乱伦全国网络 (RAINN) 在周四发表的一份声明中称，Grok 的深度伪造色情片是“日益严重的基于图像的性虐待问题的一部分”，并讽刺称，Grok 显然“没有收到关于新法律的通知”。

但乔治华盛顿大学法学院教授、非营利组织网络公民权利倡议 (CCRI) 主席玛丽·安妮·弗兰克斯 (Mary Anne Franks) 表示，根据《删除法案》，Grok“几乎不会承担任何责任”。“刑事条款要求‘发布’，尽管遗憾的是，该法规并未对此进行定义，但这意味着内容将提供给多人，”弗兰克斯说道。“如果 Grok 只允许使用该工具的用户观看视频，这似乎不够。”

根据《删除法案》的删除条款，Grok 可能也不需要删除这些图片——尽管这项规定范围广泛得令人担忧，以至于威胁到大多数社交媒体服务。“我认为 Grok——或者至少是 Grok 的这个工具——甚至不符合‘受监管平台’的资格，因为受监管平台的定义要求它‘主要为用户生成内容提供论坛’，”她说道。“人工智能生成的内容通常涉及用户输入，但实际内容，正如其名称所示，是由人工智能生成的。”删除条款也旨在通过人们举报内容来发挥作用，Grok 不会公开发布图片给其他用户——这只会让大规模创建图片变得异常容易（并且几乎不可避免地会发布到社交媒体上）。

几个月前，弗兰克斯和CCRI曾因其他原因指出， “受保护平台”的定义过于狭隘，存在问题。这是《删除法案》未能服务于受非自愿亲密图像影响的人们，同时又对善意行事的网络平台构成风险的诸多方面之一。弗兰克斯在6月份接受《Spitfire News》采访时表示，该法案甚至可能无法阻止Grok公开发布经过人工智能修改的真实人物淫秽图片，部分原因是Grok是否属于受该法律影响的“个人”仍存在疑问。

这类失败是互联网监管的一个常见现象，表面上，互联网监管的目的是打击有害或不适当的内容；例如，英国的授权使得独立论坛的运营变得更加困难，但孩子们仍然很容易浏览这些论坛。

雪上加霜的是，尤其是在美国，监管机构未能对实力雄厚的公司（包括马斯克旗下的众多企业）的各种违规行为施加有意义的惩罚。特朗普几乎完全放过了马斯克旗下公司的不良行为，即使在正式辞去政府效率部的要职后，马斯克可能仍然对联邦贸易委员会等监管机构保持着巨大的影响力。（xAI刚刚与国防部签订了一份高达 2 亿美元的合同。）因此，即使 xAI 违反了《取缔法案》，它也可能不会面临调查。

除了政府之外，还有层层把关者决定平台上哪些内容可接受，而他们通常对性内容持悲观看法。例如，苹果公司就曾敦促Discord、Reddit、Tumblr和其他平台审查NSFW内容，并取得了不同程度的成功。Steam和Itch.io在面临失去与支付处理商和银行关系的威胁下，重新评估了成人内容，而这些机构此前曾对OnlyFans和Pornhub等平台施加压力。

在某些情况下，例如 Pornhub 的情况，这种压力是由于平台允许明显有害和非法的上传内容。但苹果和支付处理商似乎并没有坚持强硬、均匀执行的政策。他们的执行似乎在很大程度上取决于公众压力与目标对象的权力之间的平衡，尽管马斯克与特朗普闹翻，但几乎没有商界人士的政治权力比他更大。苹果和马斯克就苹果的政策多次发生冲突，苹果在收费结构等方面大多坚持立场，但在一些较小的问题上显然做出了让步，包括将其广告从纳粹泛滥的平台上撤下后归还给X。

苹果已禁止一些小型应用使用人工智能技术制作真人裸照。这会对 Grok 施加同样的压力吗？Grok 的视频服务仅在 iOS 上推出。苹果尚未回应置评请求，但大家不必太过担心。

Grok 的新功能对于那些现在可以轻松地在主流人工智能服务上拍摄未经同意的裸照的人来说是有害的，但它也表明了“更安全”互联网的承诺是多么空洞。小型平台面临着删除人类自愿录制或完全虚构的媒体内容的压力，而一家亿万富翁经营的公司却可以从在某些情况下完全非法的事情中赚钱。如果你在 2025 年上网，你会发现一切都与性无关，包括性——而性，通常与权力有关。