AI深度伪造滥用

RecodeX 重构消息，德国正推进立法，拟将性深度伪造视频和强奸视频列为刑事犯罪。此举针对未经同意利用人工智能等技术合成、传播性内容的行为，意在为受害者提供刑法层面的保护。

RecodeX 重构消息，一段经过篡改的视频在网络上流传，内容伪造了弗吉尼亚对弗拉维奥·博尔索纳罗的支持表态。该视频通过剪辑或合成手段制造出并不存在的支持画面，属于典型的深度伪造内容。

RecodeX 重构消息，利用人工智能生成的竞选“深度伪造”视频正开始招致法律威胁。相关视频被用于政治竞选场景，已引发针对制作者和使用者的法律行动威胁。

RecodeX 重构消息，AI生成的虚假图片正被用于电商售后环节。部分不良买家利用AI伪造商品损坏、质量问题的售后图片，以此向商家申请退款或索赔，形成“薅羊毛”手段。与此同时，也有商家使用AI生成的图片回应消费者，双方在售后纠纷中互相以假图应对。

RecodeX 重构消息，意大利私人银行Fideuram在一起利用人工智能语音技术实施的高端金融诈骗中，向犯罪团伙转出总计9500万欧元资金。案件由深度伪造骗局设局，针对该行高管实施。经多国执法机构与银行合作，大部分款项已被追回，但仍有约3600万欧元下落不明。

RecodeX 重构消息，得克萨斯大学长角牛队四分卫阿奇·曼宁就其涉及一段AI视频的言论公开道歉。该视频显示其教练掌掴ESPN场边记者霍莉·罗。曼宁表示，自己在记者会上对这段AI视频发表了不敏感的评论，并称此事毫无可笑之处。

RecodeX 重构消息，AI技术正被东南亚电诈团伙深度利用，出现如「昊天AI」等可在多平台实时换脸的软件，能高度逼真模仿他人，甚至骗过深度伪造检测模型，还可绕过刷脸验证。该软件年费1998美元，定制人脸需额外498美元，已有近2000人购买。东南亚灰产市场中此类供应商超10家，更有先进模型无需真人即可生成AI角色并实时互动。此外，电诈团伙还借助「控天智能拓客」「007TG」等工具实现AI辅助人设打造、多账号管理、批量获客，甚至用Cloud007、SCRM Champion等工具管控诈骗人员、分析受害者情绪，电诈全流程已实现AI化，骗局更具迷惑性。

RecodeX 重构消息，问界汽车发布声明，称网络上关于其生产“穿越车”的说法纯属AI伪造谣言，公司已向公安机关报案。声明强调该说法毫无事实依据，提醒公众勿信勿传。

RecodeX 重构消息，小红书宣布严厉打击利用AI技术伪造医美、民宿等领域的虚假内容。过去3个月内，平台已处置相关笔记近12万条，以维护内容真实性和用户信任。

RecodeX 重构消息，澳大利亚证券和投资委员会（ASIC）表示，2026财年共下架超过1.94万个网络诈骗项目，同比增长182%，其中涉及加密投资的平台达3106个，较上年显著增加。AI深度伪造技术被用于制作虚假名人代言和投资宣传，成为诈骗新武器。

RecodeX 重构消息，一名大学生利用AI伪造人脸视频实施盗刷，涉案金额超过5万元，最终被法院判处有期徒刑一年十个月。该案涉及AI深度伪造技术在金融欺诈中的非法使用。

RecodeX 重构消息，近日，网民龙某（男，35岁）为博取关注，使用AI工具制作虚假“青岛大学”校徽并编造谣言，造成不良社会影响。警方已依法对龙某作出行政处罚，并提醒公众利用AI编造、传播谣言将承担法律责任。

RecodeX 重构消息，最新安全报告显示，今年上半年深度伪造攻击文件中，Grok生成的占比达87%，其中大量攻击涉及性图像。该统计凸显AI生成工具被滥用于制作不当内容的严峻问题，引发对AI安全与内容监管的担忧。

Hugging Face平台被用于制作非自愿深度伪造脱衣图像，而平台几乎未采取阻止措施