OpenAI 发布题为《Strengthening cyber resilience as AI capabilities advance》的最新安全公告,围绕其在网络安全领域的模型能力提升,阐述整体网络韧性战略。OpenAI 表示,新一代模型在夺旗赛等网络攻防评测中的表现大幅提高,公司按照“每一代新模型都可能达到高网络能力”的假设来规划安全措施,目标是在帮助防御方的同时,将滥用风险控制在可接受范围内。
在内部治理上,OpenAI 采用多层防护思路,结合访问控制、基础设施加固、出口管控与监测系统,并通过训练使模型对明显网络滥用请求进行拒绝或安全应答,同时尽量保留对教育和防御用途的支持。公司还依托系统级监控和自动化检测识别潜在恶意活动,并与外部红队合作开展端到端测试,以发现并修补防护链路中的薄弱环节。
面向更广泛生态,OpenAI 计划推出面向网络防御工作的“信任访问计划”,对符合条件的用户提供分级的增强能力访问;其代理化安全研究工具 Aardvark 已进入私测阶段,可扫描代码库、发现漏洞并给出补丁建议,并拟为部分非商业开源项目提供免费覆盖。OpenAI 还将成立 Frontier Risk Council,邀请资深防御专家参与能力边界和威胁建模讨论,并通过 Frontier Model Forum 等平台与行业共享威胁模型和最佳实践,以提升整个生态的网络韧性。
常见问题
Q:这份公告的核心目的是什么?
A:主要说明在 AI 网络攻防能力快速提升背景下,OpenAI 如何通过多层防护、访问管控和行业合作,优先强化防御方能力并降低滥用风险。
Q:所谓“高水平网络能力”的模型是指什么?
A:指可能具备开发复杂远程漏洞利用、协助隐蔽入侵行动等潜力的前沿模型,因此需要更严格的威胁建模与安全边界设定。
Q:“信任访问计划”将向谁开放?
A:面向从事网络防御工作的符合条件用户和客户,按不同敏感度提供分级访问,具体边界和开放范围仍在设计和试点过程中。
Q:Aardvark 在体系中的角色是什么?
A:它是一个面向开发者和安全团队的“代理化安全研究员”,用于大规模扫描代码、发现漏洞并给出修复建议,未来还将免费覆盖部分非商业开源项目。
Q:Frontier Risk Council 会做哪些工作?
A:该顾问团将由有经验的网络防御与安全从业者组成,为模型能力边界、威胁建模和安全评估提供建议,并影响后续防护措施设计。