OpenAI 关闭利用 ChatGPT 影响选举的行动

OpenAI发现并关闭了一个与伊朗影响行动相关的ChatGPT账户集，该账户生成了与美国总统选举相关的内容。尽管影响不大，但此类事件揭示出国家级参与者利用生成式AI在社交渠道中传播虚假信息的风险。OpenAI的调查有赖于微软的报告，该报告称伊朗网络Storm-2035试图通过产生分裂性内容，影响美国选民群体。OpenAI采取措施封禁这些账户，并预计在未来选举期会有更多类似行动。

关键点
OpenAI禁用了涉嫌伊朗影响行动的ChatGPT账户。
这些账户产生的内容与美国总统选举相关。
微软报告帮助识别了“Storm-2035”这一影响网络。
Storm-2035使用生成式AI创造分裂性政治内容。
OpenAI识别出假装成新闻机构的网站与社交媒体账户。
该行动未在广泛受众中产生重大影响。
OpenAI预计未来会有更多类似的影响活动出现。