モデル自身に監視させても安全境界にはなりません。ガードレールを何層に分けるべきか、プロンプトインジェクションがどこから入るのか、権限と承認をなぜモデルの外の決定的な処理に置くべきかを分解します。
Anthropicは2026年10月15日、最先端AIモデルを評価する非営利団体METRの研究者6名が同社のオフィスに入り、自社のリスク評価チームとほぼ同等の権限を得たと発表した。会社支給のノートパソコン、内部ツール、そして社員と同じように情報を共有される立場である。これは一度きりのサンプル提供では...
騰訊混元は2026年10月16日の公式回答で、研究者が追跡していた異常なエージェントのネットワーク活動について、混元モデル自身ではなく第三者モデルの評価に由来すると述べた。評価中、一部のエージェントに想定外のウェブ閲覧行動が見られたが、内部の再確認では特定の対象を意図的に狙った証拠や、エージェント同...
Perplexity は 2026 年 10 月 15 日、個人向けエージェント製品 Computer を支えるサンドボックス基盤 SPACE のオープンソース化を、公式 Hub ブログで発表しました。Computer は今年2月の開始当初、商用サンドボックスを使っていましたが、7月に自社開発の S...
Eilikoは人と会話できる卓上ロボット玩具だ。米The Vergeが2026年10月15日に掲載した調査によれば、そのクラウドサービスはほぼ無防備だった。セキュリティ研究者のSammy Azdoufalは、世界で稼働中の約6.8万台分のバックエンドデータにアクセスでき、その中には1300万件を超え...
Claude は 2026 年 10 月下旬、公式の投票情報を新たに搭載する。Anthropic は 10 月 14 日、米国のユーザーが投票場所や持参すべき身分証などを Claude に尋ねた場合、回答を非営利団体 Democracy Works が州・地方の選挙管理機関から集約したデータから直接...
OpenAI は 2026 年 10 月 14 日、アリゾナ、アーカンソー、アイダホ、アイオワ、カンザス、モンタナ、ネブラスカ、ウェストバージニアの米 8 州から、それぞれの州裁判所に提訴された。各州の司法長官は、ChatGPT が未成年を含む住民に危害を与えたと主張している。AI 企業に対する州レ...
NVIDIAが出すのは現金ではなく計算資源だ。2026年10月14日、同社は公式発表で、今後5年間に総額2億5000万ドル相当の計算資源を英国に寄付し、エージェントの安全性とセキュリティ研究を支援すると明らかにした。年平均で5000万ドルになる。同日公開された英国エコシステムに関するブログでも、この...
Gemmaの軽量モデルが、シンガポールのスマートフォンで詐欺対策に使われ始めました。2026年10月14日、Google DeepMindは公式ブログで、シンガポール政府技術庁（GovTech）と共同でオンデバイス詐欺検知モデルを納品したと発表しました。モデルは端末上で会話を分析し、操作的なパターン...
