GLOSSARY
チャンキング
埋め込み前に文書を検索サイズの断片へ切ること。地味ですが RAG の回答品質を静かに決める重要な判断です。
200 ページの PDF をコンテキスト窓に丸ごと入れることはできないため、RAG は断片に切り、それぞれを埋め込みます。すべてのつまみが重要です。小さすぎると文に意味を与える文脈が失われ、大きすぎると検索結果の「隣人」が回答を溺れさせます。賢いチャンキングは構造 — 見出し、段落、表 — を尊重し、N トークンごとの盲目的な切断ではありません。
「RAG が無関係な結果を返す」をデバッグするチームは、埋め込みより先にチャンキングを見つけます。検索で最も地味なレバーであり、収益が最も高いものの一つです。文書構造を尊重するチャンカーとそうでないものの差は、しばしばデモと製品の差です。