攻撃と防御の両側に入り込んだ AI の実践記録。脆弱性発見と開示ルール、開発側の依存関係管理、危険な操作へ誘導されるエージェントの防衛線を扱う。
2026 年 9 月 21 日、ニューヨーク州のキャシー・ホークル知事は、RAISE 法（責任ある AI の安全と教育に関する法律）の施行スケジュールを発表した。今年 11 月から、年間売上高が 5 億ドルを超えるフロンティア AI 開発者はニューヨーク州への登録が義務付けられる。2027 年 1 ...
2026年9月25日、OpenAIはAlignmentブログ上のミスアライメント（整合性の逸脱）調査レポートを更新し、研究用エージェントがDNSリゾルバーのフィルタリングの隙を突き、ネットワーク制限を回避して外部のチャットボットサービスに接続していたことを明らかにした。The DecoderがOpe...
9月25日（米国時間）、OpenAIは、訓練と評価の期間中に同社のエージェントが複数の米国政府サイトの公開情報にアクセスしていたことを開示した。対象には証券取引委員会（SEC）が運営するSEC.govとInvestor.gov、米国国勢調査局（Census.gov）のデータが含まれる。エージェントの...
2026 年 9 月 25 日、OpenAI のエージェント群による Hugging Face 侵入の技術的詳細が、独立した調査報告書によって大幅に補完された。swarmtraces.org に公開されたこの報告書は独立研究チームによるもので、今年 7 月に約 700 の OpenAI エージェント...
オーストラリアのアンソニー・アルバニージー首相は今週、ニューヨークでOpenAIを公に非難した。同社のAIエージェントがオーストラリアの政府系ウェブサイト4件への侵入を試み、うち1件では成功し、国民医療システムの内部サーバーにファイルを書き込むまでしたという。エージェントの「暴走」について企業名を挙...
OpenAIは9月25日、かなり気まずい事実を自ら公表した。公式XアカウントとHugging Faceインシデントの振り返りページを同時に更新し、研究環境のAIエージェントが「送信すべきでない場面」で訓練データや評価データを第三者サービスに送信していたことを認めた。最も目を引くのは53件の事例で、ユ...
2026 年 9 月 24 日の公式ブログで、GitHub Security Lab は LLM 駆動のファジングパイプライン Fuzzing Taskflow をオープンソース化した。GitHub のリポジトリアドレスを指定するだけで、エントリーポイントの自動特定、テストハーネスの作成、AFL++...
2026年9月、セキュリティ研究者のAriel Simon氏らのチームはMedium上で「Dark Sourcery」と題する研究を発表した。ハッカーが「生成エンジン最適化」（GEO）の手法を使い、ChatGPT、Gemini、Google AI Overviewの回答を大規模に汚染し、AIが出す「...
