埋め込みとは何か? なぜAIは意味論で検索できるのか
埋め込みとは、テキスト、画像、音声、その他のコンテンツをデジタルベクターの列に変換することと理解できます。 AIが意味論で検索できるのは、キーワード検索のように単語ごとに一致しているからではなく、ベクトル空間で似た意味が近いからです。 わかりやすい例です ユーザーが「返品方法」で検索すると、「アフタ...
AI百科事典 • Admin •
99
大型モデル
Found 22 related articles
RAGとは何ですか? なぜナレッジベースのQ&Aは検索なしではできないのか
RAGは検索拡張生成(Retrieval-Augmented Generation)の略で、中国語では一般的に検索拡張生成(Retrieval-Augmented Generation)と呼ばれます。 その核心は、モデルがすべての情報を記憶することではなく、まず外部の知識ベースで関連するコンテンツを...
AI百科事典 • Admin •
95
スパースアテンションとは何か? なぜ長い文脈や推論コストの問題がいつもそれについて語るのか
スパースアテンションは単純に、各トークンがすべてのトークンを見るのではなく、選択的に一部のトークンだけを見るということです。 この用語は、長い文脈と推論コストの議論で繰り返し登場します。なぜなら、標準的な全注意は強力ですが、文脈が特に長くなると計算コストやビデオメモリのコストが急速に増加するためです...
AI百科事典 • Admin •
83
コンテキストエンジニアリングとは何か? なぜAIタスクの安定性に「プロンプトを書けるか」よりも影響するのか
コンテキストエンジニアリングは、より華やかなプロンプトを書くことではなく、モデルが今回何を見られるか、何を最初に見て、何を無視すべきかを体系的に決定することです。 もしプロンプトエンジニアリングが良い質問を書くようなものなら、コンテキストエンジニアリングは入力環境全体を構築することに近いです。 多く...
AI百科事典 • Admin •
62
なぜAIがJSONを出力すると必ずカプセルが逆になるのでしょうか? まずは対象を絞り込み、その後チェックサムを作成し、再挑戦します
AIの出力JSONをオーバーターンさせる最も一般的な理由は「JSONを理解していない」からではなく、あなたが指定した目標が広すぎて、フィールドが緩すぎ、フォールトトレランスが補われていないからです。 モデルは構造的に話すことを学ぶことはできますが、それは自然に信頼できるシリアライゼーションプログラム...
AI Q&A(英語) • Admin •
71
なぜ同じプロンプトの結果が毎回違うのでしょうか? まずはランダム性、コンテキスト、ツールリターンを区別することから始めましょう
同じプロンプトの結果は毎回異なり、通常はモデルが「ポンピング」するわけではありませんが、モデル自体のランダムサンプリング、会話履歴によるコンテキストドリフト、そして毎回異なる外部ツールや検索結果の3つの変数を同時に入力します。 プロンプト自体だけに注目すると、問題を誤判断しがちです。 まずどちらが違...
AI Q&A(英語) • Admin •
101