中美专家提议给军事 AI 设“核武级”红线，禁止它碰核按钮

一句话说清：美国和中国的学者联合建议：军事 AI 再聪明，也绝不能自己决定发射核武器或发动网络攻击，人必须始终握着最终决定权。

发生了什么

• 布鲁金斯学会（美国）和复旦大学（中国）的两位安全专家联合提出一套“像管核武器一样管军事 AI”的护栏建议。
• 核心红线有两条：
• 核武决定权必须留在人手里：AI 不能自己决定使用核武器，也不能擅自攻击对方的核指挥系统；
• 关键网络攻击也要人批：用 AI 发起针对核系统、能源、金融、医疗等关键设施的攻击，必须由人授权。
• 他们还建议中美之间设一条专门的 AI 事故热线：万一一方的防御 AI 误判、自动反制，另一方能立刻打电话说“这是误报、还在查”，避免机器提速把误会升级成真开打。
• 这份建议赶在 9 月 24 日中美领导人会晤前发布，但截至目前两国政府都还没有正式采纳。

对我有什么用

• 这事看着离普通人很远，其实关乎“AI 会不会在没人同意时按下毁灭键”——是当下最该被盯紧的安全议题之一。
• 它给你一个重要认知：越厉害的 AI，越该把“开火 / 关键决策”这一下留给人。这和你用日常 AI 工具时“重要操作自己点确认”是同一个道理。
• 也提醒我们：AI 安全不是某一家公司的私事，连国家都在抢着立规矩。

我可以怎么做

1. 想跟进展：搜“中美 军事AI 红线”或“Brookings Fudan AI safeguards”，看后续会晤是否采纳。
2. 自己用 AI 时照做：涉及转账、发文件、删数据等关键动作，坚持“AI 出建议、人来点最后一下”。
3. 多留意大模型的“安全披露”：厂商越透明，你越能判断该信到什么程度。

温馨提醒

• 这目前是专家提议，不是已生效的法律；两国政府均未正式背书。
• 建议里也提到现实难点：现有危机热线在过往事件里就曾“叫不通”，所以红线能不能真管用，还要看执行。
• 不必恐慌，但它说明一个趋势：AI 能力跑得太快，连管控规则的制定都快跟不上了。