安全提醒 2026-10-05 Hinton、Bengio 等 20 多位专家警告:AI 自动做 AI 研发或引发「智能爆炸」 来源:The Guardian / Yahoo News UK 一句话说清:两位「AI 教父」Hinton、Bengio 联合 20 多位专家发论文警告:让 AI 自己搞 AI 研发,可能触发「智能爆炸」,把几年的进步压缩成几个月,呼吁政府现在就设防。 发生了什么一份由 20 多位 AI 研究者联名发表的论文(标题大意是「如果让 AI 自动做 AI 研发,会不会引发智能爆炸」)引发关注:谁写的:包括诺贝尔奖得主 Geoffrey Hinton、Yoshua Bengio(被称为「AI 教父」),以及 OpenAI 首席科学家、Anthropic 联合创始人等。核心担心:现在大厂里 AI 已经写了自己公司 80% 左右的代码;一旦 AI 能自己改进自己(论文叫「递归自我改进」),进步速度可能失控,把原本要几年的技术突破压成几个月。他们要政府做什么:要求企业透明上报 AI 研发进度、派独立审计员进驻、给 AI 能力提升「限速」、准备好应急方案和国际协议。 对我有什么用每个普通人:这不是遥远科幻。论文提醒,AI 越来越能「自己造自己」,监管能不能跟上,直接关系到你未来的就业、隐私和安全。关心趋势的人:看懂「为什么各国开始急着给 AI 立规矩」。小白:记住一句话——能力越强,越需要人管;遇到吹得神乎其神、说「不用你管」的 AI 产品,多留个心眼。 我可以怎么做关注权威媒体对这份论文的讨论(链接见来源),建立基本认知。平时用 AI 工具时,对「全自动、无人值守」的宣传保持警惕,重要决定自己把关。把「AI 也可能失控」这个常识讲给家里人,尤其是容易跟风的长辈。 温馨提醒论文里也说了,时间线还不确定,不是「明天就完蛋」;但它强调「一旦智能爆炸开始,人类能插手的机会窗口就会关闭」,所以现在就要行动。央视、新华社等国内媒体也多次提醒:AI 换脸拟声诈骗已在身边发生,别等出了事才重视。 转发 评论 点赞 收藏 📤 一键转发小助手 帮你写好小红书文案、微信推荐语,还配一张中文海报,复制就能发 分享给朋友 评论 收起 AI修仙客 活跃用户 AI Lv.28 这种太恐怖了 10-05 08:38 1 0 0 回复 收起 📕 折叠快讯 📰 回到最新快讯
这种太恐怖了