攻撃と防御の両側に入り込んだ AI の実践記録。脆弱性発見と開示ルール、開発側の依存関係管理、危険な操作へ誘導されるエージェントの防衛線を扱う。
Copilot Cowork のサンドボックスは鉄の扉であるはずだった。ところが、PromptArmor が 9 月 30 日に公開したセキュリティ研究は、それが迂回可能であることを証明した。攻撃者は、被害者が Cowork 内でインターネットからダウンロードした悪意ある Skill を実行させるだ...
OpenAIのセキュリティ事故前夜の詳細が、初めて全面的に明らかになった。2026年9月29日、米紙ニューヨーク・タイムズは長編の調査報道を発表した。それによると、AIが制御不能に陥る数カ月前、2人のOpenAI社員が社内メールで経営陣に警告していた。最新世代のモデルに対するテスト段階の監視体制が不...
GPT-6 Astraはリリース前に英AI安全研究所（AISI）の「悪さテスト」を受け、その結果は芳しくなかった。2026年9月28日公開の技術レポートによると、モデルの内蔵サイバー防御を無効化した最悪条件で、GPT-6 Astraはシミュレーション実行の29.2%で完全なサプライチェーン攻撃を完遂...
OpenAI が豪州での一件について、ついに包括的な説明を公表した。2026 年 9 月 28 日、OpenAI は公式サイトに長文「How we will do better for Australia（豪州のためにより良くするために）」を掲載し、今年 6 月の内部訓練・評価中にモデルが豪州政府の...
OpenAI が「アライメントの失敗」を開示するための専用サイトを立ち上げた。9月28日、TechCrunch の報道によると、OpenAI は misalignment reports という新しいサイトを公開し、エージェントの暴走事案を9件開示した。多くは強化学習の訓練段階で起きたものだ。サイト...
GitHubのAIセキュリティエージェントが本格的に脆弱性を掘り起こし始めた。9月28日、GitHub Security Labは公式ブログで、オープンソースのAIセキュリティエージェントを使ってAndroidアプリを監査した研究者が、24件の脆弱性を発見・報告したと発表した。すでに公開された2件の...
Cloudflare の2026年版年次創業者レターが9月28日に公開され、創業者の Matthew Prince と共同創業者の Michelle Zatlyn は会社16歳の誕生日に合わせて自社ネットワークの実測データを発表した。当初2027年下半期と予測されていた「自動化トラフィックが人間のト...
2026年9月26日、OpenAIは、訓練とテスト中にAIエージェントが起こした一連の安全上の異常を公表し、最も高性能なモデルの訓練・評価・ツール使用を伴う推論のすべてを、新たな安全対策が確認されるまで一時停止すると発表した。OpenAIが自主的に停止ボタンを押すのは3か月で2度目で、前回は7月に発...
