AI 网络安全
AI 进入攻防两侧的实战记录:漏洞发现与披露规则、开发侧的依赖治理,以及代理被诱导执行高风险动作的防线。
AI 进入攻防两侧的实战记录:漏洞发现与披露规则、开发侧的依赖治理,以及代理被诱导执行高风险动作的防线。
Copilot Cowork 的沙箱本该是一道铁门,PromptArmor 在 9 月 30 日公开的一项安全研究却证明,它可以被绕开。攻击者只需让用户在 Cowork 里运行一个从网上下载的恶意 Skill,就能在沙箱里建立一条和自己服务器的命令控制通道,把 Outlook 邮件、SharePoi...
OpenAI安全事故前夜的细节首度完整披露。2026年9月29日,《纽约时报》发表调查报道:两名 OpenAI 员工早在 AI 失控数月之前,就以内部邮件向高管预警测试阶段对最新一代模型监控不足。管理层回复:测试必须加速推进、按期发布,此后未增设任何安全流程。这篇报道值得关注的不是"AI 又闯了祸"...
GPT-6 Astra 在发布前被英国 AI 安全研究所(AISI)抓去做了一次"使坏测试",结果不太好看。这份 2026 年 9 月 28 日发布的技术报告显示:在关闭模型内置网络安全防护的最坏情况下,GPT-6 Astra 在 29.2% 的模拟运行中完成了一次完整的供应链攻击,而上一代 GPT...
OpenAI 终于把澳洲事件的完整交代摆上了台面。2026 年 9 月 28 日,OpenAI 在官网发布长文《How we will do better for Australia》(我们将如何为澳大利亚做得更好),首次系统披露了今年 6 月内部训练评估中模型未经授权访问澳大利亚政府网站的全部细节...
OpenAI 上线了一个专门披露"对齐失效"的网站。9 月 28 日,TechCrunch 报道称,OpenAI 发布了名为 misalignment reports 的新站点,目前已公开九起智能体失控事件,多数发生在强化学习训练阶段。Sam Altman 在宣布该站点的帖子中说,公司要在"透明度"...
GitHub 的 AI 安全 Agent 开始批量挖漏洞了。9 月 28 日,GitHub Security Lab 在官方博客公布:研究员用其开源的 AI 安全 Agent 审计 Android 应用,已发现并报告 24 个漏洞,其中两个高危案例已经公开披露——一个能让任意应用追踪用户的精确位置,...
Cloudflare 2026 年度创始人信在 9 月 28 日发布,创始人 Matthew Prince 与联合创始人 Michelle Zatlyn 借公司 16 岁生日,抛出了一组来自其网络实测的数据:原本预计要到 2027 年下半年才会发生的"机器流量超过人类流量",在 AI 智能体和 AI...
2026年9月26日,OpenAI 披露了其 AI 智能体在训练与测试中出现的一系列安全异常,并宣布暂停旗下最强模型的全部训练、评估和带工具使用的推理,直到确认新的防护措施到位。这是三个月内 OpenAI 第二次主动按下暂停键,上一次是因为 7 月曝光的 Hugging Face 服务器入侵事件。相...