RAG
検索拡張生成の仕組みと、組み込み、ベクトルデータベース、リソートがエンタープライズナレッジベースのQ&Aで果たす役割を説明してください。
検索拡張生成の仕組みと、組み込み、ベクトルデータベース、リソートがエンタープライズナレッジベースのQ&Aで果たす役割を説明してください。
テキスト分割とは、長い文書を小さな断片に切ってから知識ベースに保存する手法です。本や契約書、ヘルプセンター全体をそのままモデルに渡すのではなく、数百字から千字程度の塊に分け、それぞれをベクトル化し、質問時には最も関連する塊だけを取り出してモデルに答えさせます。RAG の工程で最も目立たない一方、回答...
Firecrawl に使う価値があるかは、どの面倒を取り除いてくれるかで決まります。これは「ウェブ取得」を大規模モデルへ渡すために作られたサービスです。URL を渡すと、ナビゲーションや広告、ノイズを取り除いた綺麗な Markdown や構造化 JSON が返ってきて、ヘッドレスブラウザやプロキシ、...
DeepSeek の Search API と Fetch API は 2026 年 10 月 17 日に正式に公開され、DeepSeek は公式 API ドキュメントを通じて、自社アプリの裏側で動く検索エンジンをすべての開発者に開放しました。これまで DeepSeek の検索をプログラムから使うに...
PaddleOCRは、百度の飛桨(PaddlePaddle)チームが維持するオープンソースの OCR ツールキットで、PDF や画像の中の文字を版面構造ごと抽出し、機械が使えるデータに変えるために作られています。GitHub で長く注目される理由は目新しさではなく、多くのチームが知識ベース、請求書処...
Databricks ドキュメントインテリジェンスのリアルタイム REST API が、Databricks 公式ブログの発表により 2026 年 10 月 14 日に正式提供(GA)となった。文書の解析、分類、項目抽出の 3 つがプレビューを終え、振り分け判断を担う API はベータとして同時公開...
MinerUは、この2年で文書解析の分野で避けて通れないオープンソースになりました。複雑なレイアウトのPDFをきれいなMarkdownやJSONに変換し、数式はLaTeX、表はHTMLに、スキャン文書は自動でOCRへ回す。大規模モデルの学習やRAGの知識ベースが最も必要とする高品質コーパスに、ちょう...
Doclingが解くのは、PDFを大規模モデルへ渡す前に最も過小評価されがちな関門、レイアウトです。普通の抽出ツールはPDFを文字の順番で吐き出すため、二段組は行をまたいで読まれ、表は崩れ、見出しと本文が混ざります。下流のモデルが賢くても、乱れたテキストから推測するしかありません。Doclingはま...
Perplexity の新しい埋め込みモデルは、テキストと画像を一つの検索空間に収めた。2026年10月7日、Perplexity の CEO アラヴィンド・スリニヴァス氏は pplx-embed-v2-late のオープンソース公開を発表し、重みは MIT ライセンスで Hugging Face ...