为了打击非自愿的深伪裸照和儿童性虐待材料，白宫获得了包括Adobe、Cohere、Microsoft、Anthropic OpenAI和Common Crawl在内的多家主要AI供应商的自愿承诺。这些公司承诺负责任地获取和保护用于训练AI的数据集，并在适当时从AI训练数据集中移除裸照。这些承诺主要依赖于自我监督，部分主要AI供应商如Midjourney和Stability AI选择不参与。此外，OpenAI的承诺也引发了质疑，因为其CEO此前曾表示考虑”负责任地”生成AI色情内容。尽管如此，白宫仍将此视作在减少深伪裸照危害方面的胜利。

关键点
– 白宫与多家AI供应商达成自愿协议，以打击非自愿的深伪裸照。
– Adobe、Cohere、Microsoft等公司承诺负责任地获取和保护AI训练数据。
– 大部分参与公司会在技术开发过程中加入反馈机制以避免生成有害内容。
– 这些公司承诺在适当时从AI数据集中移除裸照。
– 这些承诺是自我监督，意味着缺乏外部审核。
– OpenAI的首席执行官曾表示考虑探索生成AI色情内容，引发质疑。
– 部分AI供应商如Midjourney和Stability AI未参与这一承诺。

https://techcrunch.com/2024/09/12/white-house-extracts-voluntary-commitments-from-ai-vendors-to-combat-deepfake-nudes/