近年、大規模言語モデル(LLM)の文脈窓が劇的に拡大しています。わずか1年前は4,000〜8,000トークン程度だった文脈窓が、現在では100万トークンを扱えるモデルも登場しています。このような状況下で、RAG(Retrieval Augmented Generation)の必要性について議論が活発化しています。
RAGとは、外部データをLLMと組み合わせて回答を生成する手法です。その主な動機は、世界中のデータの大半がプライベートデータであり、LLMの学習データには含まれていないという点にあります。RAGを使うことで、組織固有の非公開データや個人データなどをLLMの推論に活用することができます。
RAGの基本的な仕組み
RAGは大きく3つのステップで構成されています：
- インデックス化(Indexing):
外部文書をベクトルストアなどのデータベースに格納し、検索可能な形式に変換します。文書は通常、埋め込みベクトルに変換され、意味的な類似性に基づいて検索できるようになります。 - 検索(Retrieval):
ユーザーの質問に関連する文書を検索します。質問文もベクトル化され、インデックス内の最も類似した文書が取得されます。 - 生成(Generation):
検索された関連文書をLLMに入力し、それらを参照しながら回答を生成します。
高度なRAG実装のテクニック
クエリ変換(Query Translation)
単純な検索では十分な精度が得られない場合があるため、以下のような手法で質問を最適化します：
- Multi-Query: 1つの質問を複数の異なる視点から言い換えて検索を行う
- RAG Fusion: 複数の検索結果をランク付けして統合する
- Step-back Prompting: より抽象的な質問に変換して検索を行う
ルーティング(Routing)
質問の内容に応じて、適切なデータソース(ベクトルストア、リレーショナルDB、グラフDBなど)に振り分ける機能です。LLMを使用して質問を分析し、最適なデータソースを選択します。
インデックス化の改善
文書のインデックス化においても、いくつかの先進的な手法が提案されています：
- Multi-representation Indexing: 文書の要約を作成してインデックス化し、検索時は要約を使用して関連文書を特定する
- Raptor: 文書をクラスタリングし、階層的な要約を作成してインデックス化する。これにより、複数の文書にまたがる情報の統合が容易になります。
アダプティブRAG
最新のRAGシステムでは、以下のような自己改善メカニズムを組み込む傾向があります：
これらの機能をLangGraphなどのフレームワークを使用して実装することで、より信頼性の高いRAGシステムを構築できます。
長文脈LLM時代のRAG
文脈窓の拡大に伴い、RAGの実装アプローチも変化しています。従来の細かいチャンク単位での検索から、文書単位での取り扱いにシフトする傾向があります。ただし、以下の理由から、単純に全文書をLLMに入力する方法は推奨されません：
代わりに、文書レベルでの検索と長文脈LLMを組み合わせた新しいアプローチが注目されています。また、検索と生成のプロセスに推論機能を組み込むことで、より洗練されたRAGシステムを実現できます。
まとめ
RAGは決して時代遅れになっているわけではなく、むしろLLMの進化に合わせて発展を続けています。特に、クエリ最適化、インテリジェントなルーティング、文書レベルでの検索、そして自己改善メカニズムの統合といった方向性で、より高度なRAGシステムの構築が可能になっています。今後も、プライベートデータの活用とLLMの能力を最大限に引き出すための重要な技術として、RAGの重要性は継続するでしょう。
