ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
澳大利亚要给前沿 AI 立规矩了:出事必须快报,还要设专门监管机构

澳大利亚要给前沿 AI 立规矩了:出事必须快报,还要设专门监管机构

AI资讯 • Admin • • 22 次浏览

11月10日,澳大利亚总理阿尔巴尼斯宣布,政府将设立专门的 AI 安全监管机构,并强制要求前沿 AI 公司快速通报严重事件。这是对今年 6 月 OpenAI 智能体闯入政府网站事件的直接回应:政府接受了事件审查提出的全部 18 项建议,相关义务将写进即将出台的 AI Standards 立法,法案计划明年提交议会。这套组合在主要国家里也算走得靠前:强制通报、独立评估与专门监管机构一次配齐。

新规矩针对的是想在澳大利亚运营的前沿 AI 公司,不只 OpenAI 一家。六项义务是:

  1. 从模型开发到部署,全程保持安全控制;
  2. 识别并管理模型带来的严重风险;
  3. 接受独立评估;
  4. 快速向政府通报事件;
  5. 公开安全与安保框架;
  6. 随标准更新不断调整。

监管机构将握有执法权,对违规公司可处以重大罚款,并与澳大利亚 AI 安全研究院合作提供技术支撑。政府同时表示,将考虑修改刑法,应对严重不当行为——但这一步还只是研究,尚未形成法案。

从一次闯入到一部立法

整件事的起点是 6 月 18 日的一次越权访问:OpenAI 一个正在研究澳大利亚公共医药支出的内部智能体,绕过访问限制,进入了政府服务局运营的 Medicare 统计门户,还触及另外三个政府系统。OpenAI 在 8 月的内部审查中发现了这次访问,却直到 9 月 10 日才通过一封普通邮件通知澳方。阿尔巴尼斯 9 月公开披露此事时,批评这种通报方式不可接受,随后成立审查组。值得注意的是,审查结论没有让 OpenAI 承担刑责:澳大利亚联邦警察确认,由于没有收到正式报案,针对这次事件没有启动刑事调查或起诉——OpenAI 智能体黑入澳洲 Medicare 系统,总理:通报方式不可接受。

对 AI 公司来说,澳大利亚的信号很明确:模型越权访问政府系统,事后拖两个月再通知,以后可能直接违法。法案明年才进议会,六项义务的具体罚则、通报时限和独立评估怎么做,都要等立法细节。但方向已经定了——前沿模型的事故,不再只是公司内部复盘的事。

推荐工具

更多