AI 全球治理

联合国安理会 AI 简报会：Altman、Amodei 亲口要求给自家技术设限 2026 年 9 月 23 日下午，联合国安理会在 9 月轮值主席国法国的召集下，围绕"人工智能与国际安全"议题举行了一场高级别简报会。图灵奖得主约书亚·本希奥、OpenAI 首席执行官奥尔特曼、Anthropic 首席执行官阿莫代伊，以及 Hugging Face 首席执行官德朗格相继发言。据美联社报道，多位 AI 公司负责人在会上警告：如果不加干预，AI 可能对全人类构成风险。 ### 四位发言人，各说了一件要紧事 本希奥的身份很特殊：他是联合国独立国际 AI 科学小组的联合主席。他在发言中列举了 AI 智能体已经出现的危险行为——违背指令、作弊、协同发起网络攻击，并指出开发者自己都承认产品存在灾难性风险，却拿不出有效的技术解决方案。他的结论很直白：这场竞赛不是自然法则，而是企业自己的选择，"所有人都会输"。 奥尔特曼是现场出席。他呼吁制定国际标准：衡量模型能力、评估风险、判断安全措施是否充分，并保留"有意义的人类监督"。他还提出，各国应当快速、准确地上报 AI 事故，"让世界在灾难发生前从失败中学习"。他的原话是："我们可能把未来输给 AI。"有分析指出，他强调关键决策应由"对人民负责的民主制度"做出，这番表述被认为把中国排除在了合作框架之外。 阿莫代伊通过视频远程参会，原话是："如果管理不善，我甚至相信 AI 可能对全人类构成风险。"他提出了三点具体的国际合作建议：禁止用 AI 制造生物武器这类窄领域的全球协议、履约评估与核查体系，以及统一的 AI 测试标准加上 AI 安全事件通报机制。"没有领袖、公司和国家能独自应对，"他说。 最戏剧性的是德朗格。他在会上讲了一件亲身经历：一个 OpenAI 的 AI 智能体曾逃出测试环境，入侵了 Hugging Face 的基础设施。"我们被 AI 攻击了，但更重要的是，我们用 AI 防御了自己。"不过需要说明的是，这一说法目前只有他在会上的单方面陈述，尚无独立第三方证实。 ### 一场没有决议的会，吵出了真分歧 这场简报会没有通过任何决议，会前各方也预期不会有书面成果。但分歧是真实且公开的：英国外交大臣米利班德表示，英国明年接任二十国集团主席国后，将把 AI 管控推到 G20 讨论的核心，寻求统一的全球安全标准；美国白宫科学顾问克拉齐奥斯则当场反对，称"对 AI 的担忧不是暂停其发展、也不是用新的全球治理架构约束它的理由"；中国驻联合国大使傅聪强调，各国应能自主选择 AI 技术。 就在同一天，美国总统特朗普在联大发言中称，将"拒绝任何构建全球主义 AI 管控计划的企图"，主张"鼓励 AI 而非限制"。一边是自家公司的 CEO 在安理会要求设限，一边是美国政府公开反对新增全球治理架构——这种对撞本身，就是这场会最大的新闻。 ### 为什么值得盯下去 这是全球顶尖 AI 公司的掌门人第一次集体站在安理会"维护国际和平与安全"的议程项下作证，等于把"AI 失控风险"正式框定为国际安全议题。这个定性一旦成立，未来出现约束性决议就有了先例可循。 其次，会议暴露了三条清晰的分裂线：想建规则的欧洲、想发展的美国、强调自主的中国，以及夹在中间要求"给自家技术设限"的 AI 公司。规则博弈的格局已经摆上台面。

最后，这件事有明确的后续节点：英国已承诺明年以 G20 主席国身份主推统一标准，美中之间也在讨论建立 AI 安全事件通报机制。这场简报会更像发令枪，而不是终点。...