埋め込みとは、テキスト、画像、音声、その他のコンテンツをデジタルベクターの列に変換することと理解できます。 AIが意味論で検索できるのは、キーワード検索のように単語ごとに一致しているからではなく、ベクトル空間で似た意味が近いからです。
わかりやすい例です
ユーザーが「返品方法」で検索すると、「アフターセールス返金プロセスのリクエスト」と記載されており、従来のキーワード検索では一致しないことがあります。 埋め込み検索では似た意味の文が2つ見つかるので、関連する内容を先に配置してください。 これが多くの知識ベースのQ&A、推薦システム、類似の画像検索の基盤となっています。
システム内での埋め込みの使い方
一般的なアプローチは次の通りです:まず埋め込みモデルを使って文書の断片をベクターに変換し、ベクターデータベースに保存します。 ユーザーが質問をすると、その質問をベクトルに変換し、データベースベクターとの類似度を計算します。 類似度が高いほど意味論が近くなり、モデルや検索ページに呼び戻される可能性が高くなります。
これが大規模モデルの回答とどう関係しているのでしょうか?
埋め込み自体は通常、回答を書く責任を負うものではありません。むしろ「関連するコンテンツを見つける」役割を担っています。 大規模言語モデルは文脈の理解と応答の生成を担っています。 RAGシステムはしばしば埋め込みモデル、ベクトルデータベース、ステアショニングモデル、生成モデルを同時に特徴とします。これらは同じものではありません。
よくある誤解
まず、埋め込みは大きな数ほど必ずしも良いとは限りません。ドメインマッチングと評価の方が重要です。 第二に、ベクトルの類似性は事実の正確性を意味するのではなく、意味的な類似性を示すだけです。 第三に、短いテキスト、表、コード、固有名詞は特別な扱いが必要になることがあります。 企業のナレッジベースを構築する際、埋め込みの質は正しい情報を見つけられるかどうかに直接影響します。
