中央网信办启动「清朗·整治AI应用乱象」第二阶段：清理561万条、处置4.9万账号

一句话说清：9月6日，中央网信办启动"清朗·整治AI应用乱象"专项行动第二阶段，专打用 AI 做假新闻、搞低俗暴力、冒充他人、伤害未成年人等行为。截至目前已清理违法不良信息 561万余条、查处账号 4.9万余个、处置违规网站/应用 2400余个，还点名通报了一批典型案例。

发生了什么

• 行动聚焦：利用 AI 制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题。
• 部署各地网信部门集中清理 AI 生成的违法不良信息，依法查处违规账号和移动应用。
• 抖音、快手、微博、腾讯、百度、B站、小红书、知乎等平台升级审核，豆包、元宝、千问、文心一言等严把语料与输出，应用商店加强上架审核。
• 通报案例：用 AI"魔改"《三国演义》《西游记》等经典博流量；用 AI 生成虚假灾害/救援画面；用 AI 换脸换声冒充公众人物；批量制作"毒动画""邪典"视频侵害儿童。

对我有什么用

• 这是给"AI 乱象"动真格：从模型备案、内容标识，到传播端、入口端全链条治理。
• 对普通用户是直接保护：少看到 AI 假新闻、少被 AI 仿冒号诈骗、给孩子更干净的网环境。
• 对做 AI 内容的创作者/公司是硬约束：违规账号和应用会被处置，别抱侥幸。

我可以怎么做

1. 看到"惊人现场视频/图片"先存疑：用 AI 检测工具或多搜几个信源，别急着转。
2. 遇到 AI 仿冒名人、熟人的"借钱/带货"：直接电话核实，别信屏幕上的脸和声音。
3. 给孩子用的 AI 产品：选大厂、看有无内容标识和青少年模式。
4. 自己用 AI 生成内容：记得加"AI 生成"标识，别用来造假、恶搞侵权。

温馨提醒

• 整治针对"违法不良信息"，正常 AI 创作、二次创作不在此列，不用过度紧张。
• 行动分阶段推进，第一阶段（4月起）管模型备案/安全，第二阶段管内容乱象，是组合拳。