大規模言語モデルという技術カテゴリを解説：それが何か、どんな能力が AI アプリの基盤となっているのか、選定時に見るべきポイントと能力の限界はどこにあるのか。
壊滅的忘却とは、ニューラルネットワークが複数の課題を順番に学ぶとき、後の課題を身につける代わりに、前に覚えたことを広範囲に忘れてしまう現象です。出来上がったモデルへ新しい分野のデータで追加の微調整を行うと、新しい課題の成績は上がるのに、得意だった質問応答や分類、ある言語の扱いが目に見えて下がることが...
困惑度（パープレキシティ）とは、言語モデルが次の単語についてどれほど迷っているかを示す数字です。文を続ける場面で、実際に現れた単語にモデルが驚くほど数値は高く、当然に感じるほど低くなります。メーカーは新モデルの仕様表に好んで載せますが、これはモデルの賢さの成績表ではありません。答えている問いはとても...
OpenAIは2026年10月6日、公式ブログで、未発表の内部最先端モデルが産出した数学研究成果の一群を公開した。手稿722件、成果の系統372件に及び、長年未解決だった数学の問題数百件をカバーする異例の規模だ。成果は学術誌ではなく、改訂と引用のルールを添えて単一のGitHubリポジトリに置かれ、数...
Falcon-Emirati-7B は 2026 年 10 月 6 日、アラブ首長国連邦の技術革新研究所（TII）が Hugging Face の公式ブログで発表した、アラブ首長国連邦方言に特化した 7B モデルです。基盤は TII 自身の Falcon-H1-Arabic で、Mamba の状態空...
過学習とは、モデルが訓練データの細部やノイズまで覚え込んでしまい、練習問題では高得点でも、見たことのない新しいデータでは明らかに精度が落ちる現象です。モデルを評価するときは、訓練した問題での出来ではなく、新しい問題に規則を応用できるかどうかが重要です。過学習したモデルは規則を学んだのではなく、答えを...
Rho-1 は Reka AI が公開した研究プレビュー段階のモデルだ。2026 年 10 月 5 日、The Decoder がこの 19B パラメータの「全能」モデルを報じた。テキスト、画像、動画、ロボットの制御アクションを単一のニューラルネットワークの中で処理し生成する。外部のツール呼び出しは...
AIノートパソコンは買う価値があるか。まず結論から言うと、文書作成、表計算、ウェブ閲覧しかしないなら、今NPUのためだけに追加でお金を払うのは割に合いません。会議が多く、バッテリー持ちを重視し、一台を長く使うつもりの人だけが、真剣に検討する価値があります。 NPUは実際何をしているのか 簡単に役割分...
LibreChat は各社に分散したモデルの入り口を1つの画面にまとめ、複数のモデルを同時に使いたいときにウェブページやアカウント、会話履歴を何度も切り替える手間を解決します。強化版の ChatGPT 風インターフェースとして位置づけられ、1つの画面で OpenAI、Anthropic、Google...
