微调がモデルのどの挙動を変えるか、プロンプト最適化やRAGとコスト・効果の面でどう違うかを説き、チームが訓練する価値があるか判断できるよう導く。
困惑度（パープレキシティ）とは、言語モデルが次の単語についてどれほど迷っているかを示す数字です。文を続ける場面で、実際に現れた単語にモデルが驚くほど数値は高く、当然に感じるほど低くなります。メーカーは新モデルの仕様表に好んで載せますが、これはモデルの賢さの成績表ではありません。答えている問いはとても...
過学習とは、モデルが訓練データの細部やノイズまで覚え込んでしまい、練習問題では高得点でも、見たことのない新しいデータでは明らかに精度が落ちる現象です。モデルを評価するときは、訓練した問題での出来ではなく、新しい問題に規則を応用できるかどうかが重要です。過学習したモデルは規則を学んだのではなく、答えを...
創発能力とは、小さなモデルではほとんどできなかった課題が、規模がある閾値を超えた途端に突然できるようになる能力のことです。これは普通の緩やかな上達ではなく、無から有への跳躍に見える変化です。モデルが小さいうちは、多段階の計算はほぼ全滅し、例をいくつか示しても新しい形式を学べません。ところが規模が一定...
AstaBrief 8Bは、Ai2（Allen Institute for AI）が2026年10月2日にオープンソース化した科学レポート生成モデルだ。研究課題と検索で得た文献の抜粋を与えると、引用付きのレポートを直接出力する。モデルはAi2の科学研究プラットフォームAstaの「レポート生成」機能で...
AIアライメントとは、事前学習の完了後に、人間の意図・価値観・安全要件に沿って大規模言語モデルに応答させるための訓練・評価手法の総称である。事前学習はモデルに「話すこと」だけを教える。「上手に話す」ことを教えるのがアライメントだ。 アライメントは事前学習でもファインチューニングでもない 事前学習：膨...
2026年10月1日、Modalは公式エンジニアリングブログで、マルチノードGPUクラスタ製品「Modal Clusters」の正式提供開始（GA）を発表しました。開発者はPython関数にデコレータ modal.clustered を1つ付けるだけで、マルチノードクラスタを利用できます。ノード間は...
SFT（Supervised Fine-Tuning、教師ありファインチューニング）は、チャットモデルが「デビュー」する前の研修のようなものです。数千件の「指示-回答」のデモデータを使い、事前学習済みの大規模モデルに、人間が期待する話し方・振る舞い方を教えます。ここで注意したいのは、モデルに新しい知...
RAG（Retrieval-Augmented Generation：検索拡張生成）とは、大規模言語モデルに回答の前に資料を調べさせる技術です。モデルは回答を生成する前に、外部のナレッジベースから質問に関連する内容を検索し、その内容を根拠として回答を書きます。LLMの2つの持病――学習データに期限が...
