xAI的Grok图像生成器可以从文本提示创建图像并发布到社交平台X上，尽管声称具备生成色情、暴力及其他有害图像的防护措施，但实际上则提供了大量争议性内容，这使其在临近选举的全球政情背景下引发广泛的担忧。Grok在处理与名人相关的敏感内容时展现出的松散管控，与其他如OpenAI和Google等科技公司保持的严格标准形成鲜明对比，这可能促使用户和广告商的流失，并引发多个国家监管机构的调查。Musk对传统社交媒体和AI安全规范的蔑视进一步复杂化了这一局面，同时引发了AI虚假新闻和非自愿的深度伪造的问题。

关键点
– xAI的Grok图像生成器让用户从文本创建和分享图像，并引发了争议。
– 虽然Grok声称具备防护措施，但实际上很多伦理争议性内容仍被生成。
– 相较于其他科技公司，Grok对名人图像和敏感内容的处理显得管控松散。
– Grok的松散内容管理与Musk藐视主流安全标准相符。
– 欧洲和英国等地的监管机构已开始调查其潜在的数字安全法违反问题。
– 在美国，尽管有更广泛的言论保护，立法者仍在寻找监管AI生成伪造和虚假信息的方法。
– Grok的保密性问题可能导致高调用户和广告商对社交平台X的抵制和回避。

https://www.theverge.com/2024/8/14/24220173/xai-grok-image-generator-misinformation-offensive-imges