网信办重拳整治 AI 乱象：已清理 561 万条，点名豆包元宝千问文心

一句话说清：中央网信办通报了「清朗·整治 AI 应用乱象」专项行动第二阶段的结果——清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置违规网站和 App 2400 余个。同时曝光了 7 类典型违规案例。简单说：用 AI 造假、换脸、做低俗内容的，这一轮被收拾了。

发生了什么

2026 年 9 月 2 日，中央网信办通报了「清朗·整治 AI 应用乱象」专项行动第二阶段的进展。

这一阶段重点盯的是四类问题：

• 用 AI 制作发布虚假信息
• 传播暴力低俗内容
• 假冒仿冒他人
• 侵害未成年人权益

出手有多重（截至通报时的累计数字）：

平台也在动：抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台升级了识别模型，动态扩充人脸库、声纹库和违规样本库，还上线了「人脸实时治理系统」，累计发布治理公告 46 期。

你常用的 AI 助手被点名了：通报明确提到，豆包、元宝、千问、文心一言等平台要「严把原始语料内容审核关，严格限制违规内容输出，强化 AI 生成合成内容标识要求落地」。

手机厂商也在堵源头：华为、小米、OPPO、vivo 等应用商店制定了更严格的 App 开发者准入规范和上架要求，对在架 App 抽检复测，拦截违规应用入库。

被通报的 7 类典型案例

对我有什么用

这条新闻不是"别人家的事"，跟每个用 AI 的人都有关系：

1. 你刷到的 AI 内容，应该带"身份证"

通报里反复强调「强化 AI 生成合成内容标识要求落地」。意思是：正规的 AI 生成内容，平台要给它打上标识（看得见的水印 + 看不见的元数据）。

反过来说：如果你刷到一段特别离谱的视频、一张特别逼真的图，却没有任何 AI 标识，那就得多留个心眼。

2. 平台审核更严了，你生成的东西也可能被拦

现在各大平台都在升级识别能力。你用 AI 做出来的东西，如果碰了上面那 7 类的边，很可能发不出去，甚至影响账号。

3. 保护好自己的脸和声音

"换脸""换声"是这轮重点打击对象。反过来看，你的照片、视频、语音如果被别人拿去做了 AI 模型，你是受害方。朋友圈少发高清正脸照和原声视频，是有道理的。

4. 家里有孩子的要特别留意

「AI 侵害未成年人权益」被单独列为一类。孩子用 AI 的时候，家长最好知道他在拿 AI 干什么。

我可以怎么做

第 1 步：发出去之前，先问自己三个问题

1. 这个内容是 AI 生成的吗？是的话，按平台要求标注「AI 生成」；
2. 里面有没有真人的脸或声音？有的话，对方同意了吗？
3. 这件事是真的吗？AI 编的假灾情、假新闻，转发一样要担责。

第 2 步：这四条红线别碰

• ❌ 不用 AI 改别人的脸、克隆别人的声音
• ❌ 不用 AI 编造假新闻、假灾情、假现场
• ❌ 不用 AI 魔改经典名著、影视剧去博流量
• ❌ 不用 AI 生成低俗、暴力、涉及未成年人的不良内容

第 3 步：给孩子用 AI 时做三件事

1. 用带青少年模式的平台；
2. 告诉他AI 说的话不一定对，不能当事实；
3. 隔一段时间看一眼他的 AI 聊天记录，就像你会看他刷什么视频一样。

第 4 步：看到违规内容，顺手举报

各大平台都开通了举报渠道。你的一次举报，可能就拦下了一个正在骗老人的 AI 数字人直播间。

第 5 步：换个角度用它

整治的是"用 AI 干坏事"，不是"用 AI"。同一件事，换个方向就完全合规：

❌ 用 AI 把某位专家的脸换到带货视频里
✅ 用 AI 把自己的产品介绍改写成 3 个不同平台的文案

❌ 用 AI 编一条"某地突发灾害"的假消息
✅ 用 AI 把官方发布的防灾指南整理成一份家庭应急清单

温馨提醒

• 别以为"就发着玩的"不算数。 通报里的案例，很多当事人也是觉得"就是图个乐"，结果账号被处置了。是不是违法，不看你动机，看结果。
• 转发也算传播。 你自己没生成，但转发了 AI 造的假消息，一样要承担责任。看到没有信源、没有标识、情绪煽动性强的内容，先别转。
• 认准官方渠道核实信息。 灾情、事故、政策这类消息，以政府公告和权威媒体为准，别拿 AI 的回答或者短视频当事实。
• 小心"付费删帖""代开 AI 内测资格"这类骗局。 越是在严打的时候，越有人打着"能摆平"的幌子骗钱。
• AI 生成的内容要自己核一遍。 这条跟整治无关，但是保命的习惯——AI 会一本正经地编造数据、法律条文和新闻。