ToolNavs 便利なAIツールを発見
ツール投稿 ログイン

大規模言語モデル

大規模言語モデルという技術カテゴリを解説:それが何か、どんな能力が AI アプリの基盤となっているのか、選定時に見るべきポイントと能力の限界はどこにあるのか。

大規模言語モデルは現在の AI アプリの技術基盤です。Transformer アーキテクチャを中心に、膨大なテキスト学習で理解・生成・推論の力を獲得し、ファインチューニングやプロンプト、ツール呼び出しで実場面につながります。価値はパラメータ数ではなく、汎用能力がもたらす変化にあります。限界も明確で、知識には期限があり、ハルシネーションを起こし、長いタスクには外部ツールと工程の制約が欠かせません。
AIの回答が抽象的すぎる場合はどうする?背景を足す前に、まずこの3つの聞き方を変えよう

AIの回答が抽象的すぎる場合はどうする?背景を足す前に、まずこの3つの聞き方を変えよう

AIの回答が抽象的すぎるのは、たいていモデルの能力の問題ではなく、タスクで対象、範囲、出力形式が限定されていないからであり、この3点を先に変えれば、回答は通常そのまま使えるようになる。 多くの人はまず背景を長く付け足そうとするが、順番が逆である。背景をどれだけ足しても、誰に向けて書くのか、どんな基準...

Admin
95
拡散モデルとは?画像生成がまず画面を乱してからゆっくり復元する理由

拡散モデルとは?画像生成がまず画面を乱してからゆっくり復元する理由

拡散モデルは、まずデータに段階的にノイズを加え、次にそのノイズを段階的に取り除く方法を学習することで新しいコンテンツを生成する生成モデルであり、現在の画像生成の主流手法の一つです。画像を直接描くのではなく、純粋なノイズから出発し、ノイズを一歩ずつ取り除いて、画面をゆっくりと浮かび上がらせます。 まず...

Admin
121
AIの回答が途中で止まったら?上限か、切断か、中断かを見分けよう

AIの回答が途中で止まったら?上限か、切断か、中断かを見分けよう

AIの回答が途中で止まったら、まず止まった場所を見れば、原因はだいたい判断できます。文の途中、コードの行の途中、表の途中で止まっていれば、1回の出力上限に達した可能性が高く、ページに突然エラーが出たり、再読み込み後に内容の一部が欠けたりしていれば、ネットワークやサービスの中断の可能性が高く、数行で止...

Admin
208
創発能力とは何か?モデルが大きくなると、なぜ一部の能力が突然現れるのか

創発能力とは何か?モデルが大きくなると、なぜ一部の能力が突然現れるのか

創発能力とは、小さなモデルではほとんどできなかった課題が、規模がある閾値を超えた途端に突然できるようになる能力のことです。これは普通の緩やかな上達ではなく、無から有への跳躍に見える変化です。モデルが小さいうちは、多段階の計算はほぼ全滅し、例をいくつか示しても新しい形式を学べません。ところが規模が一定...

Admin
124
大規模モデルをローカルで動かすにはVRAMはどれだけ必要?8GB・16GB・24GBで何が動くか

大規模モデルをローカルで動かすにはVRAMはどれだけ必要?8GB・16GB・24GBで何が動くか

大規模モデルをローカルで動かすとき、グラフィックカードのVRAMが足りるかどうかは、モデルをダウンロードする前から体験の上限を決めてしまいます。演算性能ばかり見て、モデルが入らない、入っても短いコンテキストしか使えないと気づく人は少なくありません。VRAMはハードな上限で、少なく買うと後から増やせず...

Admin
161