ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
巴黎 AI 安全宣言签署:六国政府与十家公司承诺共享评测与紧急关停

巴黎 AI 安全宣言签署:六国政府与十家公司承诺共享评测与紧急关停

AI资讯 • Admin • • 10 次浏览

11月9日,六国政府与十家 AI 公司在巴黎签署了一份关于 AI 安全与安保的联合宣言,承诺为最前沿的模型建立共享评测标准、独立监督与故障安全控制。宣言由爱丽舍宫与加拿大总理办公室发布,荷兰政府官网在 11 月 10 日刊出全文。这是今年继首尔峰会之后,又一次把政府与头部模型开发商拉到同一张安全承诺上。

签署的政府是巴林、加拿大、芬兰、法国、挪威与荷兰;公司一方包括 Anthropic、微软、OpenAI、Mistral AI、Hugging Face、Cohere、Black Forest Labs、Domyn、Sakana AI 与 Synthesia,另有四个民间社会组织加入,宣言仍对新的签署方开放。核心承诺有四项:按统一格式共享非敏感评测结果;建立事故报告与早期预警机制;披露已知风险;为模型装上故障安全机制,也就是在必要时能把自己控制范围内的模型运行停下来。各国政府则承诺保护 AI 安全领域的举报人。

这份宣言不是凭空而来。它明确接续了广岛进程、首尔 AI 峰会的前沿安全承诺、G7 埃维昂 AI 会议,以及 9 月 23 日联合国安理会的 AI 会议。背后的判断写得很直接:前沿模型的影响跨越国界,没有任何一个国家、公司或国际组织能独自管住风险。值得对照的是,OpenAI 最近公开的内部系统 Control Room,能在决定干预后 35 秒内停下全部研究模型的训练,这类“能停下来”的能力,正是宣言要求各家开发商具备的故障安全机制。

但宣言的约束力仍待观察。它是一份政治承诺而非条约,没有写明不遵守的后果,执行层面仍取决于各家公司与各国政府接下来怎么做。同一方向上,国家立法也在跟进:澳大利亚近期提出的前沿 AI 规则要求企业出事后快速上报,并设立专门监管机构。宣言的价值更多在于定了一个共同方向:评测标准、事故通报与紧急关停,正在成为前沿模型治理的默认配置。

推荐工具

更多