在遭 Civitai 平台封禁后，用户将 5000 个用于生成真人非自愿色情内容的模型重新上传至 Hugging Face。
估值数十亿美元的 Hugging Face 公司作为最常用的 AI 工具资源共享平台之一，目前托管着超过 5000 个旨在复现真实人物形象的 AI 图像生成模型。这些模型此前均托管在 AI 模型分享平台 Civitai 上——据 404 Media 报道， 该平台曾被用于制作非自愿色情内容，直到 Civitai 因支付处理商施压将其下架 。
今年 5 月 Civitai 宣布将封禁这类模型后，用户们通过协同社区行动将这些模型从 Civitai 下载并重新上传至 Hugging Face 进行存档。Civitai 在封禁公告中表示，会给原始上传者预留”短暂过渡期”再执行删除。早在 5 月初，当 Civitai 透露因支付处理商压力必须修改内容政策时，其用户就开始在 Discord 上组织存档行动；待平台正式颁布”真实人物”模型新规后，这场存档行动便进入了高速推进阶段。
截至发稿时，该 Discord 频道已有数百名成员仍在搜寻并分享那些被 Civitai 下架的模型，并将它们重新上传至 Hugging Face。部分用户甚至分享了一款同样托管在 Hugging Face 上的软件，该工具支持用户将 Civitai 模型批量自动上传至 Hugging Face。
Hugging Face 未回应多次置评请求。针对这些模型此前托管在主要用于 AI 生成色情内容的平台（且本报道证实曾被用于制作非自愿色情内容）的情况，该公司也未就其将如何监管这些模型、是否计划进行监管等具体问题作出回应。
通过一篇我报道的研究人员抓取 Civitai 的论文，我发现了那些被重新上传到 Hugging Face 的真实人物模型。 该论文显示该平台主要被用于色情内容 ，且在 5 月修改政策后删除了至少 5 万个旨在复制真实人物形象的 AI 模型。苏黎世大学的研究人员 Laura Wagner 和 Eva Cetnic 向我提供了一份所有被删模型的电子表格，其中包含模型名称（几乎总是女性名人或不太知名的网络红人姓名）、先前托管在 Civitai 上的链接，以及 Civitai 用于识别其网站上所有模型的 SHA256 哈希值。
那些将 Civitai 模型重新上传至 Hugging Face 的人似乎在刻意隐藏这些模型在 Hugging Face 上的真实用途。在 Hugging Face 平台上，这些模型被冠以”LORA”或”测试模型”等通用名称和 URL 链接。用户仅通过浏览 Hugging Face 页面，既无法识别这些模型实际用于生成真人肖像，也无法通过搜索名人姓名找到它们。要发现这些模型，用户需要访问 Civitai 档案管理员创建的独立网站。在该网站上，用户可以输入 Civitai 模型名称、该模型在被删除前于 Civitai 的原始链接，或是模型的 SHA256 哈希值。所有这些查询都会引导用户进入一个说明页面，其中详细解释了模型用途、显示其真实名称，并展示多张该模型能生成的示例图像。页面底部则附有一个或多个指向 Hugging Face”镜像”站点的链接——这些正是模型被重新上传的地址。
通过使用瓦格纳和塞特尼克提供的数据，并将其输入这个 Civitai 档案网站，我成功定位到了托管在 Hugging Face 上的 Civitai 模型。
Hugging Face 的内容政策禁止”非法、诽谤性、欺诈性或故意欺骗性内容（如虚假信息、网络钓鱼、诈骗、非真实行为）”，以及”用于骚扰、欺凌或未经明确同意创建的色情内容”。生成真实人物形象的 AI 模型未必用于非法或诽谤目的，且仅当人们选择将其用于色情用途时才会产生相关内容。Hugging Face 的内容政策中没有任何条款明确禁止重建真实人物形象的 AI 模型。
然而，致力于”在机器学习前沿践行伦理准则”的 Hugging Face 伦理与社会团队 ，已归纳出六项”描述机器学习工作伦理层面的高级别分类”，其中明确指出人工智能应当”获得明确授权”。
“尊重同意的技术应当支持使用及受这些技术影响者的自主决定权，”该公司解释道。这类技术的范例包括”避免采用剥削性、沙文主义、’ 暗黑 ‘或其他’不道德’的互动模式。”
其他重建真人形象的 AI 模型理论上可能不违反这些原则。例如，被重新上传至 Hugging Face 的两个已删除 Civitai 模型中，有一个旨在重建普京的形象——理论上人们可能想用它来嘲讽或批评这位俄罗斯总统。但绝大多数模型都是针对女性名人，据本刊调查显示，这些模型正被用于制作未经同意的色情内容，此前因支付处理商不愿与此类媒体产生关联而施压，导致 Civitai 平台曾大规模删除这类模型。