Hugging Face 平台托管 5000 个未经真人同意的 AI 模型
在遭 Civitai 平台封禁后，用户将 5000 个用于生成真人非自愿色情内容的模型重新上传至 Hugging Face。
估值数十亿美元的 Hugging Face 公司作为最常用的 AI 工具资源共享平台之一，目前托管着超过 5000 个旨在复现真实人物形象的 AI 图像生成模型。这些模型此前均托管在 AI 模型分享平台 Civitai 上——据 404 Media 报道， 该平台曾被用于制作非自愿色情内容，直到 Civitai 因支付处理商施压将其下架 。
今年 5 月 Civitai 宣布将封禁这类模型后，用户们通过协同社区行动将这些模型从 Civitai 下载并重新上传至 Hugging Face 进行存档。Civitai 在封禁公告中表示，会给原始上传者预留"短暂过渡期"再执行删除。早在 5 月初，当 Civitai 透露因支付处理商压力必须修改内容政策时，其用户就开始在 Discord 上组织存档行动；待平台正式颁布"真实人物"模型新规后，这场存档行动便进入了高速推进阶段。
截至发稿时，该 Discord 频道已有数百名成员仍在搜寻并分享那些被 Civitai 下架的模型，并将它们重新上传至 Hugging Face。部分用户甚至分享了一款同样托管在 Hugging Face 上的软件，该工具支持用户将 Civitai 模型批量自动上传至 Hugging Face。
Hugging Face 未回应多次置评请求。针对这些模型此前托管在主要用于 AI 生成色情内容的平台（且本报道证实曾被用于制作非自愿色情内容）的情况，该公司也未就其将如何监管这些模型、是否计划进行监管等具体问题作出回应。
通过一篇我报道的研究人员抓取 Civitai 的论文，我发现了那些被重新上传到 Hugging Face 的真实人物模型。 该论文显示该平台主要被用于色情内容 ，且在 5 月修改政策后删除了至少 5 万个旨在复制真实人物形象的 AI 模型。苏黎世大学的研究人员 Laura Wagner 和 Eva Cetnic 向我提供了一份所有被删模型的电子表格，其中包含模型名称（几乎总是女性名人或不太知名的网络红人姓名）、先前托管在 Civitai 上的链接，以及 Civitai 用于识别其网站上所有模型的 SHA256 哈希值。
那些将 Civitai 模型重新上传至 Hugging Face 的人似乎在刻意隐藏这些模型在 Hugging Face 上的真实用途。在 Hugging Face 平台上，这些模型被冠以"LORA"或"测试模型"等通用名称和 URL 链接。用户仅通过浏览 Hugging Face 页面，既无法识别这些模型实际用于生成真人肖像，也无法通过搜索名人姓名找到它们。要发现这些模型，用户需要访问 Civitai 档案管理员创建的独立网站。在该网站上，用户可以输入 Civitai 模型名称、该模型在被删除前于 Civitai 的原始链接，或是模型的 SHA256 哈希值。所有这些查询都会引导用户进入一个说明页面，其中详细解释了模型用途、显示其真实名称，并展示多张该模型能生成的示例图像。页面底部则附有一个或多个指向 Hugging Face"镜像"站点的链接——这些正是模型被重新上传的地址。
通过使用瓦格纳和塞特尼克提供的数据，并将其输入这个 Civitai 档案网站，我成功定位到了托管在 Hugging Face 上的 Civitai 模型。
Hugging Face 的内容政策禁止"非法、诽谤性、欺诈性或故意欺骗性内容（如虚假信息、网络钓鱼、诈骗、非真实行为）"，以及"用于骚扰、欺凌或未经明确同意创建的色情内容"。生成真实人物形象的 AI 模型未必用于非法或诽谤目的，且仅当人们选择将其用于色情用途时才会产生相关内容。Hugging Face 的内容政策中没有任何条款明确禁止重建真实人物形象的 AI 模型。
然而，致力于"在机器学习前沿践行伦理准则"的 Hugging Face 伦理与社会团队 ，已归纳出六项"描述机器学习工作伦理层面的高级别分类"，其中明确指出人工智能应当"获得明确授权"。
"尊重同意的技术应当支持使用及受这些技术影响者的自主决定权，"该公司解释道。这类技术的范例包括"避免采用剥削性、沙文主义、' 暗黑 '或其他'不道德'的互动模式。"
其他重建真人形象的 AI 模型理论上可能不违反这些原则。例如，被重新上传至 Hugging Face 的两个已删除 Civitai 模型中，有一个旨在重建普京的形象——理论上人们可能想用它来嘲讽或批评这位俄罗斯总统。但绝大多数模型都是针对女性名人，据本刊调查显示，这些模型正被用于制作未经同意的色情内容，此前因支付处理商不愿与此类媒体产生关联而施压，导致 Civitai 平台曾大规模删除这类模型。