该追踪线聚焦AI生成内容引发的平台治理与监管动态，涵盖深度伪造、虚假信息及违规视频清理。最新进展显示，中央网信办第二阶段整治清理违规信息561万余条，广电总局8月清理AI魔改视频近1.4万部，平台同步处置AI炮制谣言账号。趋势上，针对AI滥用内容的专项治理力度持续加强。
中央网信办近期开展“清朗·整治AI应用乱象”专项行动第二阶段工作，聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门推进重点整治，督促平台集中清理AI生成的违法不良信息，依法查处违规账号和移动应用程序。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。下一步，网信部门将密切关注AI生成合成内容新情况新风险，防范AI技术滥用恶用。
新浪财经国家相关部门公布8月“AI魔改”视频治理成果，共清理相关视频14017部。此次治理针对利用人工智能技术对影视作品进行篡改、拼接等行为，旨在规范AI生成内容的传播秩序，保护原创版权。
网易科技国家广播电视总局今日通报，部分重点网络视听平台已公布2026年8月“AI魔改”视频专项治理处置情况，共清理违规视频近14000条，处置违规账号30余个。自2026年1月启动专项治理以来，成效显著；自2月1日起，治理工作转为常态化、制度化长效机制。广电总局督导各平台加强日常排查，重点清理基于四大名著、历史题材、革命题材、英模人物等经典影视作品的“AI魔改”违规视频，并同步清理邪典动画，以营造健康网络视听环境。
新浪财经8月28日，微博社区观察员官方账号“围脖侠”发布处置通报，称网传的孙宇晨与谷爱凌相关聊天记录系不实谣言，由违规用户通过AI工具炮制虚假信息和低俗内容。目前，涉事账号已被关闭。
Cnbeta微博官方账号@围脖侠通报，经核实，违规用户@用户4089277000通过AI等方式炮制虚假信息和低俗内容，严重侵犯他人权益，借此博取眼球和流量，扰乱正常传播秩序，因违反社区公约，目前已受到关闭账号的处置。此前，孙宇晨前女友曾颖发文否认发布过“孙宇晨和谷爱凌裸照”聊天记录，称该记录为AI自动造假生成，并呼吁谷爱凌经纪团队关注舆情，必要时对造假网友提告。
新浪财经英国伯明翰大学最新研究指出，TikTok的平台设计可能使年轻人更难批判性判断心理健康内容，难以区分可信建议与误导性信息。研究称，TikTok心理健康内容触达广泛，但推荐机制可能放大信息辨识困难。目前英格兰有超55万名儿童和青少年等待心理健康治疗。
Cnbeta8月25日，抖音黑板报发布公告，针对恶意营销号开展专项治理。近一个月，平台依据“账号健康分规则”，累计处置违规短视频145.34万条、违规账号59.75万个，措施包括减少推荐、下架视频、限制或封禁投稿功能及变现权益等。平台表示，后续将持续加大打击力度，完善AI内容识别、矩阵账号检测等技术手段。
新浪财经据外媒报道，Meta被曝为AI脱衣应用投放广告，该应用利用深度伪造技术生成酷似美国女政客的视频。这一事件引发对AI深度伪造内容治理的关注。
凤凰科技抖音发布暑期治理公告，近两周处置色情低俗内容20.9万条，封禁账号7.8万个。平台重点打击黑产团伙及AI生成低俗内容等新型违规行为，并公示四类典型案例。
Donews抖音黑板报显示，近两周平台共处置色情低俗类违规内容20.9万条，对7.8万个账号采取清除违规增长粉丝、取消营利权限、禁言、封禁等梯度处置，其中2384个粉丝过万的账号被依法依规处置。平台针对“人设噱头”“符号变体”“AI生成”等新型违规手法，迭代升级大模型识别与处置策略，并挖掘涉低俗性暗示的隐晦暗语，扩大识别覆盖范围。
新浪财经斯坦福大学一项研究显示，X平台（原推特）的推荐算法会优先推送能激发用户愤怒情绪的内容，以此提高用户互动率。研究指出，这类内容更容易获得广泛传播，平台算法在排序时对此类帖子给予更高权重。该研究引发了对社交媒体内容治理和用户情绪影响的关注。
凤凰科技据《纽约时报》报道，随着AI生成内容泛滥，硅谷科技公司开始大规模清理。Spotify去年删除7500万条批量上传及重复曲目；领英7月推出举报按钮；谷歌在六个月内清除13万个低质量YouTube频道。TikTok已自动标记超30亿条AI视频，今年前三个月删除37.7万条违规视频。Meta承诺支持欧洲公约，使AI内容更易识别。X平台封禁付费机器人应用。Substack推出AI检测工具。
投资界《纽约时报》报道，劣质AI生成内容已在互联网泛滥成灾：Google搜索出现“胶水披萨”食谱，亚马逊商品页充斥虚假传记，Facebook信息流满是“虾仁耶稣”图片。科技巨头开始采取行动应对这一乱象。
Cnbeta社交平台X（原推特）推出算法透明度工具，用户可查看账号是否被标记为“降权”，并了解内容可见性调整的具体原因。该功能旨在揭开推荐算法的黑盒，公开内容推荐逻辑，增强用户对平台的信任。
RWA Daily近期，平台巡查发现仍有账号利用AI技术恶意魔改经典动画，或借动漫人物演绎血腥、暴力、恐怖等有害场景，制作传播“毒动画”影响未成年人身心健康。平台已处置违规内容3.9万条，处置违规账号超6000个，涉嫌违法犯罪的线索将上报主管部门。
新浪财经红果短剧8月11日发布公告，2026年7月累计拦截下架12347部违反平台治理规范的AI剧，其中大部分在审核阶段被拦截，未上线播放，另有部分经回查后下架。此外，7月平台还拦截并处置了82部含儿童负面情节的AI剧。
新浪财经抖音电商近日开展专项治理，针对部分达人冒用村干部等身份进行助农带货的行为，已清理相关违规账号3322个，关闭严重违规账号的电商权限。同时，平台还严打利用AI生成虚假果图及擦边话术的营销行为，维护消费者权益。
Donews近日，一段声称记录SpaceX火箭残骸撞击月球的视频在网络广泛传播。经核实，该视频实际由AI生成，并非真实拍摄画面。埃隆·马斯克曾转发该视频，引发更多关注。有网民评论：眼见不一定为实，AI时代更需辨别信息真伪。
LeikejiAI/抄袭检测机构Pangram数据显示，2026年4月至6月间，LinkedIn上41%的长篇帖文和30%的评论完全由AI生成。为应对这一趋势，LinkedIn正在推出新功能：允许用户标记AI生成的内容，同时另推一款工具，让用户使用AI“校对”自己的帖文。
Feedburner针对近期引发争议的AI广告，苏泊尔已将所有涉事视频下架。该广告被指制作成本仅几元，却在市场上引发强烈反应，或导致公司市值蒸发千万元。此次事件引发外界对企业使用生成式AI营销风险的关注。
新浪财经人民网发表评论文章指出，在虚拟人广告中标明“内容由AI生成”并不能作为免责盾牌。文章强调，AI生成内容仍需遵守广告法，广告主和平台必须对内容真实性负责，不能以技术标注规避监管。
凤凰科技苏泊尔因使用AI生成的“擦边”短视频引发舆论争议，该行为被指反映品牌在流量焦虑下的增长困局。
网易财经苏泊尔股份有限公司（SUPOR）一则AI生成的营销短视频，因包含“女生洗澡，大叔帮搓背”等低俗画面被下架。该视频原为品牌AI营销广告，上线后因内容低俗引发争议，现已被撤下。
新浪财经苏泊尔个护电器旗舰店因发布低俗擦边内容的清洁机推销视频遭到大量用户声讨，该视频被指利用AI生成低俗内容。官方仅删除视频未作出公开回应，随后账号被清空。受此影响，苏泊尔股价已连续3天下跌，区间累计跌幅6.36%，报42.08元/股。此前财报显示，今年上半年苏泊尔营收和归母净利润双双下滑，为2020年以来首次。
Readhub苏泊尔旗舰店近日在社交平台发布一段人工智能制作的低俗擦边营销视频，引发网友声讨。随后，该账号被清空。受舆论影响，苏泊尔股价连续三日下跌。此前公司公布的上半年财报显示，营收与净利润双双下滑，为2020年以来首次。
Donews7月‘AI魔改’视频治理成果公布，当月共清理违规视频13300余条。“AI魔改”指利用人工智能技术对原有视频进行恶意修改或恶搞，治理行动旨在打击滥用AI技术传播不良内容。
新浪财经小红书治理涉未成年人违规内容，累计处置违规账号3571个，永久封禁利用AI魔改动画植入恐怖低俗元素及诱骗未成年从事软色情服务的账号。
新浪财经多部门联合整治利用AI技术炮制虚假灾情和政策的网络谣言，依法打击造谣传谣行为。
新浪财经官方公布AI魔改视频治理行动成果。
网易科技广电总局公布AI魔改视频治理成果，累计清理违规视频13300余条。
凤凰科技Snapchat将停止推荐完全由AI生成的Spotlight视频，以应对低质量AI内容。
Mashable