安全提醒 2026-10-05

Hinton、Bengio 等 20 多位专家警告:AI 自动做 AI 研发或引发「智能爆炸」

一句话说清:两位「AI 教父」Hinton、Bengio 联合 20 多位专家发论文警告:让 AI 自己搞 AI 研发,可能触发「智能爆炸」,把几年的进步压缩成几个月,呼吁政府现在就设防。

发生了什么

一份由 20 多位 AI 研究者联名发表的论文(标题大意是「如果让 AI 自动做 AI 研发,会不会引发智能爆炸」)引发关注:

  • 谁写的:包括诺贝尔奖得主 Geoffrey Hinton、Yoshua Bengio(被称为「AI 教父」),以及 OpenAI 首席科学家、Anthropic 联合创始人等。
  • 核心担心:现在大厂里 AI 已经写了自己公司 80% 左右的代码;一旦 AI 能自己改进自己(论文叫「递归自我改进」),进步速度可能失控,把原本要几年的技术突破压成几个月。
  • 他们要政府做什么:要求企业透明上报 AI 研发进度、派独立审计员进驻、给 AI 能力提升「限速」、准备好应急方案和国际协议。

对我有什么用

  • 每个普通人:这不是遥远科幻。论文提醒,AI 越来越能「自己造自己」,监管能不能跟上,直接关系到你未来的就业、隐私和安全。
  • 关心趋势的人:看懂「为什么各国开始急着给 AI 立规矩」。
  • 小白:记住一句话——能力越强,越需要人管;遇到吹得神乎其神、说「不用你管」的 AI 产品,多留个心眼。

我可以怎么做

  1. 关注权威媒体对这份论文的讨论(链接见来源),建立基本认知。
  2. 平时用 AI 工具时,对「全自动、无人值守」的宣传保持警惕,重要决定自己把关。
  3. 把「AI 也可能失控」这个常识讲给家里人,尤其是容易跟风的长辈。

温馨提醒

  • 论文里也说了,时间线还不确定,不是「明天就完蛋」;但它强调「一旦智能爆炸开始,人类能插手的机会窗口就会关闭」,所以现在就要行动。
  • 央视、新华社等国内媒体也多次提醒:AI 换脸拟声诈骗已在身边发生,别等出了事才重视。
📤 一键转发小助手 帮你写好小红书文案、微信推荐语,还配一张中文海报,复制就能发