DeepRAG とバッチ変換のベストプラクティス: JIT とインデックスベースのストラテジ

データ・アクセス・アプローチの選択: JIT とインデックスベースのストラテジ

エージェントがデータにアクセスして推論を行う方法を設定する場合は、データの形状、ライフサイクル、およびパフォーマンスの要件に最も適したアプローチを選択します。

主に次の 2 つのパターンがあります。

• Just-In-Time (JIT) ツール: 実行時に渡されたファイルを処理します。
• インデックスベースのコンテキスト グラウンディング: 事前構築済みの永続的なインデックスに対してクエリを実行します。

DeepRAG (JIT) と DeepRAG (インデックス検索ストラテジ) は、同じ基礎となる合成機能を使用します。違いは、ドキュメントがエンジンに到達する方法です。

• JIT: ファイルは実行時に提供されます。
• インデックスベース: ドキュメントは永続的なインデックスに事前に取り込まれます。

バッチ変換は異なります。表形式のデータに対して構造化された行レベルの変換を実行します。ドキュメントの取得や長文の合成は実行しません。

クイック リファレンス

機能	DeepRAG (JIT ツール)	バッチ変換 (JIT ツール)	セマンティック検索 (インデックス)	DeepRAG (インデックス検索ストラテジ)
設定が必要	None	None	インデックス作成 + 取り込み	インデックス作成 + 取り込み
入力形式	PDF または TXT	CSV	事前にインデックス化されたドキュメント	事前にインデックス化されたドキュメント (PDF/TXT)
実行ごとのデータ変更	可能 (理想的)	可能 (理想的)	不可 (安定したコーパス)	不可 (安定したコーパス)
出力の種類	引用を含む包括的な合成1	強化された CSV ファイル	関連するスニペット	引用による包括的な合成
速度	分単位 (~1,000 ページで 30 分以上)	分	瞬時	分単位 (~1,000 ページで 30 分以上)
最適な用途	実行ごとのドキュメント分析	実行ごとの構造化データ処理	高速な事実調査	大規模なコーパス全体にわたる詳細な調査

¹ 現在、TXT 入力では引用をサポートしていません。

JIT ツール: 推奨される標準の方法

ほとんどのエージェントの実装では、JIT ツールが出発点として最適です。

インデックスの設定も、取り込みワークフローも、ストレージの構成も必要ありません。ファイルは実行時にエージェントに直接渡され、ツールによって自動的に処理されます。このため、JIT は呼び出しごとにドキュメント セットが変更されるユースケースに特に適しています。

DeepRAG (JIT) とバッチ変換の 2 つの JIT ツールを使用できます。

DeepRAG (JIT ツール)

DeepRAG (JIT) は、エージェントが実行時に提供された PDF または TXT ファイルを読み取って推論し、合成されたグラウンディング応答を生成する必要がある場合に使用します。

DeepRAG アルゴリズムは、構造化された複数ステップの調査プロセスを実行します。サブタスクを計画し、提供されたドキュメントを反復処理し、結果を合成して包括的な出力を生成します。PDF 入力の場合、応答には引用が含まれます (TXT 入力では現在、引用をサポートしていません)。

このアプローチは、呼び出しごとに異なる顧客ファイル、契約書、ケース レコード、レポートなど、毎回の実行で異なるドキュメントセットを処理する場合に最適です。速度よりも完全性と追跡性が優先され、ドキュメントのサイズにもよりますが、通常は数分で完了します。

バッチ変換 (JIT ツール)

バッチ変換は、構造化データの処理を目的としています。実行時に提供された CSV ファイルを使用し、一貫したロジックを各行に適用します。

バッチ変換は、ドキュメントを合成するのではなく、データを強化します。レコードを個別に処理し、新しい列、分類、スコア、その他の派生値を含むことができる、更新された CSV ファイルを生成します。

そのため、構造化されたデータセット全体にわたってラベル付け、スコアリング、強化、ルールベースの変換を行うのに適しています。

インデックスベースのコンテキスト グラウンディング

インデックスベースのグラウンディングでは、エージェントを実行する前にドキュメントをコンテキスト グラウンディングのインデックスに取り込む必要があります。この設定では追加の構成が必要になりますが、多くのエージェントの実行で再利用される、大規模で安定したコーパスを扱う場合に役立ちます。

代表的な例としては、ポリシー ライブラリ、ナレッジ ベース、規制リポジトリ、複数のユーザーまたはプロセスで共有される有効期間の長いドキュメント コレクションなどがあります。

インデックスを利用するエージェントを構成する場合は、検索ストラテジを選択します。

セマンティック検索

セマンティック検索は、既定のインデックス ストラテジです。高速かつ軽量な取得を実行し、最も関連性の高いドキュメント チャンクを返します。

このストラテジは、エージェントが特定の事実を調べたり、ターゲットを絞った情報を素早く抽出したりする必要がある場合に適しています。質問応答パターンや、共有リポジトリに対して繰り返しクエリを実行する場合など速度が重要なケースで特に有効です。

DeepRAG (インデックス検索ストラテジ)

DeepRAG は、インデックス上でも動作します。このモードでは、多数のドキュメントの情報を分析して関連付け、引用に裏付けられた包括的な応答を生成します。

セマンティック検索と比較すると、このアプローチは低速でより多くの AI ユニットを消費しますが、より深い調査タスクをサポートします。契約書のレビュー、規制評価、安定したコーパス内での医療記録の統合など、数百ページにわたる徹底的な分析を必要とするシナリオに適しています。

決定方法

次のガイダンスを使用して、適切なアプローチを選択してください。

• DeepRAG (JIT) を使用: 実行のたびにドキュメントが変更され、ランタイム ファイルからの引用による合成が必要な場合。
• バッチ変換 (JIT) を使用: 構造化された CSV データを行ごとに処理する場合。
• セマンティック検索 (インデックス) を使用: 共有された安定したコーパスに対してクエリを実行し、高速でターゲットを絞った取得を行う場合。
• DeepRAG (インデックス ストラテジ) を使用: インデックス化された大規模なコーパスに対して詳細な調査を行う場合や、引用に裏付けられた包括的な回答が必要な場合。

判断に迷うときは、JIT ツールから始めましょう。インデックスベースのストラテジに移行するのは、複数のエージェントの実行で共有された永続的なドキュメント グラウンディングが必要な場合のみにしてください。