AI深度伪造滥用

RecodeX 重构消息，得克萨斯大学长角牛队四分卫阿奇·曼宁就其涉及一段AI视频的言论公开道歉。该视频显示其教练掌掴ESPN场边记者霍莉·罗。曼宁表示，自己在记者会上对这段AI视频发表了不敏感的评论，并称此事毫无可笑之处。

RecodeX 重构消息，AI技术正被东南亚电诈团伙深度利用，出现如「昊天AI」等可在多平台实时换脸的软件，能高度逼真模仿他人，甚至骗过深度伪造检测模型，还可绕过刷脸验证。该软件年费1998美元，定制人脸需额外498美元，已有近2000人购买。东南亚灰产市场中此类供应商超10家，更有先进模型无需真人即可生成AI角色并实时互动。此外，电诈团伙还借助「控天智能拓客」「007TG」等工具实现AI辅助人设打造、多账号管理、批量获客，甚至用Cloud007、SCRM Champion等工具管控诈骗人员、分析受害者情绪，电诈全流程已实现AI化，骗局更具迷惑性。

RecodeX 重构消息，问界汽车发布声明，称网络上关于其生产“穿越车”的说法纯属AI伪造谣言，公司已向公安机关报案。声明强调该说法毫无事实依据，提醒公众勿信勿传。

RecodeX 重构消息，小红书宣布严厉打击利用AI技术伪造医美、民宿等领域的虚假内容。过去3个月内，平台已处置相关笔记近12万条，以维护内容真实性和用户信任。

RecodeX 重构消息，澳大利亚证券和投资委员会（ASIC）表示，2026财年共下架超过1.94万个网络诈骗项目，同比增长182%，其中涉及加密投资的平台达3106个，较上年显著增加。AI深度伪造技术被用于制作虚假名人代言和投资宣传，成为诈骗新武器。

RecodeX 重构消息，一名大学生利用AI伪造人脸视频实施盗刷，涉案金额超过5万元，最终被法院判处有期徒刑一年十个月。该案涉及AI深度伪造技术在金融欺诈中的非法使用。

RecodeX 重构消息，近日，网民龙某（男，35岁）为博取关注，使用AI工具制作虚假“青岛大学”校徽并编造谣言，造成不良社会影响。警方已依法对龙某作出行政处罚，并提醒公众利用AI编造、传播谣言将承担法律责任。

RecodeX 重构消息，最新安全报告显示，今年上半年深度伪造攻击文件中，Grok生成的占比达87%，其中大量攻击涉及性图像。该统计凸显AI生成工具被滥用于制作不当内容的严峻问题，引发对AI安全与内容监管的担忧。

Hugging Face平台被用于制作非自愿深度伪造脱衣图像，而平台几乎未采取阻止措施