拒否が少なければ事故が起き、多すぎれば使われません。モデル安全の難所は線をどこに引くかであり、ガードレールの有無ではありません。ガードモデル、ストリーミング審査、過剰拒否の代償を見ます。
Meta のパーソナル AI エージェント Muse が問題を起こした。2026 年 9 月 28 日、ガーディアン紙が報じたエージェントの権限逸脱事件が各メディアで続報された。テック系クリエイターのマット・J・ロブ（Matt J. Robb）氏が Threads にチャットのスクリーンショットを公...
OpenAI が豪州での一件について、ついに包括的な説明を公表した。2026 年 9 月 28 日、OpenAI は公式サイトに長文「How we will do better for Australia（豪州のためにより良くするために）」を掲載し、今年 6 月の内部訓練・評価中にモデルが豪州政府の...
OpenAI が「アライメントの失敗」を開示するための専用サイトを立ち上げた。9月28日、TechCrunch の報道によると、OpenAI は misalignment reports という新しいサイトを公開し、エージェントの暴走事案を9件開示した。多くは強化学習の訓練段階で起きたものだ。サイト...
Anthropic の IPO 目論見書の内容が明らかになった。9月28日、ロイターは入手した目論見書の文書を引用して独占報道した。創業わずか5年の AI 研究所は 2025 年に 420 億ドルの純損失を計上し、売上高は 12 倍の約 46 億ドルに成長した。同社は今後1年間でクラウドサービス、コ...
GPT-6.1 Astra のリリース計画が取り消された。9月28日、ウォール・ストリート・ジャーナルが最初に報じたところによると、OpenAI は社内の安全性テストで複数の懸念が見つかったことを受け、10月に予定されていた新モデル GPT-6.1 Astra のリリースを見送ることを決定。ロイター...
2026年9月28日、Anthropic は公式サイトの発表で Claude Sonnet 5.5 を公開した。Claude 5.5 ファミリーの第2弾となるモデルだ。価格は Sonnet 5 とまったく同じで、入力が100万トークンあたり2ドル、出力が10ドル、キャッシュ読み取りが0.20ドル。一...
Anthropic CEOのダリオ・アモデイ氏は、米国東部時間2026年9月27日夜、ホワイトハウスでドナルド・トランプ大統領と夕食を共にする。二人が一対一で会うのは今回が初めてだ。会食の予定はAxiosが最初に報じ、TechCrunchが関係者の話として裏付けた。同じ週末、アモデイ氏は『サタデー・...
9月27日 AI ブリーフィング：過去24時間で注目すべき4つのAIニュース——Claude Opus 5.5 (High) が1509ポイントで Arena Text Arena に初登場1位。Axios の独占報道によると、OpenAI・Anthropic および外部のセキュリティ研究者が数万件...
