Meilleures pratiques pour DeepRAG et la transformation par lots : JIT vs. stratégies basées sur des index

Choisir votre approche d’accès aux données : JIT vs. Stratégies basées sur des index

Lorsque vous configurez la façon dont votre agent accède aux données et raisonne, choisissez l'approche qui correspond le mieux à la forme de vos données, au cycle de vie et aux exigences de performances.

Il existe deux modèles principaux :

• Des outils « juste à temps » qui traitent les fichiers sont passés au moment de l'exécution.
• Ancrage dans le contexte basé sur un index qui interroge un index persistant prédéfini.

DeepRAG (JIT) et DeepRAG (stratégie de recherche d'index) utilisent la même capacité de synthèse sous-jacente. La différence est la façon dont les documents sont transmis au moteur :

• JIT: les fichiers sont fournis au moment du runtime.
• Basé sur les index: les documents sont pré-ingérés dans un index persistant.

La transformation par lots est différente. Il effectue des transformations structurées au niveau de la ligne sur des données tabulaires. Il ne réalise pas de récupération de documents ni de synthèse.

Référence rapide

Capacité	DeepRAG (outil JIT)	Transformation par lots (outil JIT)	Recherche sémantique (index)	DeepRAG (stratégie de recherche d'index)
Configuration requise	Aucun (None)	Aucun (None)	Index + ingestion	Index + ingestion
Input format	PDF ou TXT	CSV	Documents pré-indexés	Documents pré-indexés (PDF/txt)
Modifications de données par exécution	Oui (il y a)	Oui (il y a)	Non (corpus stable)	Non (corpus stable)
Type de sortie	Résumé complet avec des citations1	Fichier CSV enrichi	Extraits pertinents	Résumé complet avec des citations
Vitesse	Minutes (30+ pour environ 1 000 pages)	Minutes	Instantané	Minutes (30+ pour environ 1 000 pages)
Idéal pour	Analyse de document par exécution	Traitement des données structurées par exécution	Recherche rapide de données	Recherches approfondies dans de grands Corpus

¹ Les entrées TXT ne prennent actuellement pas en charge les citations.

Outils JIT : la valeur par défaut recommandée

Pour la plupart des implémentations d'agents, les outils JIT constituent le bon point de départ.

Ils ne nécessitent aucune configuration d'index, aucun workflow d'ingestion et aucune configuration de stockage. Les fichiers sont transmis directement à l'agent lors de son exécution, et l'outil gère le traitement automatiquement. Cela rend JIT particulièrement bien adapté aux cas d'utilisation où l'ensemble de documents change à chaque invocation.

Deux outils JIT sont disponibles : DeepRAG (JIT) et Batch Transform.

DeepRAG (outil JIT)

Utilisez DeepRAG (JIT) lorsque votre agent doit lire et raisonner à partir de fichiers PDF ou TXT fournis au moment de l'exécution et produire une réponse résumée et ancrée.

L’algorithme DeepRAG effectue un processus de recherche structuré en plusieurs étapes. Il planifie les sous-tâches, parcourt les documents fournis et résume les résultats en un résultat complet. Pour les entrées PDF, les réponses incluent des citations. (Les entrées TXT ne prennent actuellement pas en charge les citations.)

Cette approche fonctionne mieux lorsque chaque exécution traite un ensemble de documents différent, tel que des fichiers client, des contrats, des enregistrements de cas ou des rapports qui varient par invocation. Elle hiérarchise l'exhaustivité et la traçabilité dans le temps et s'achève généralement en quelques minutes, selon la taille du document.

Transformation par lots (outil JIT)

Batch Transform est destiné au traitement de données structurées. Il fonctionne à partir de fichiers CSV fournis au moment du runtime et applique une logique cohérente à chaque ligne.

Plutôt que de résumer les documents, la transformation de façon groupée enrichit les données. Il traite les enregistrements indépendamment et génère un fichier CSV mis à jour pouvant inclure de nouvelles colonnes, des classifications, des scores ou d'autres valeurs dérivées.

Elle est donc appropriée pour la labellisation, la notation, l'enrichissement et les transformations basées sur des règles dans des ensembles de données structurés.

Ancrage dans le contexte basé sur des index

L’ancrage dans le contexte nécessite que les documents soient ingérés dans un index d’ancrage dans le contexte avant que l’agent ne s’exécute. Bien que cette configuration introduite une configuration supplémentaire, elle devient utile lorsque vous travaillez avec un corpus textuel volumineux réutilisé par de nombreuses exécutions d'agents.

Les exemples typiques incluent les bibliothèques de politiques, les bases de connaissances, les référentiels réglementaires ou les collections de documentation de longue durée partagées par plusieurs utilisateurs ou processus.

Lorsque vous configurez un agent dépendant d'un index, vous sélectionnez une stratégie de recherche.

Recherche sémantique

La recherche sémantique est la stratégie d'index par défaut. Il effectue une récupération rapide et légère et renvoie les segments de document les plus pertinents.

Cette stratégie est appropriée lorsque l'agent doit rechercher des fait spécifiques ou extraire rapidement des informations ciblées. Il fonctionne bien pour les modèles de questions-réponses et les requêtes répétées par rapport à un référentiel partagé où la vitesse est importante.

DeepRAG (stratégie de recherche d'index)

DeepRAG peut également interagir au-dessus d'un index. Dans ce mode, il analyse et combine les informations à travers de nombreux documents et produit une réponse complète basée sur des citations.

Par rapport à la recherche sémantique, cette approche est plus lente et consomme davantage d’AI Units, mais elle prend en charge des tâches de recherche plus approfondies. Il est parfaitement adapté aux scénarios qui nécessitent une analyse approfondie sur des centaines de pages, comme la révision de contrats, l’évaluation réglementaire ou la synthèse de dossiers médicaux dans un corpus stable.

Comment prendre une décision

Utilisez les conseils suivants pour choisir la bonne approche :

• Utilisez DeepRAG (JIT) lorsque les documents changent à chaque exécution et que vous avez besoin d'une synthèse avec des citations à partir de fichiers de runtime.
• Utilisez Batch Transform (JIT) lorsque vous traitez des données CSV structurées ligne par ligne.
• Utilisez la recherche sémantique (index) lorsque vous interrogez un corpus partagé et stable, afin d'effectuer une récupération rapide et ciblée.
• Utilisez DeepRAG (stratégie d’index) lorsque vous effectuez des recherches approfondies sur un grand corpus indexé et des réponses complètes basées sur des citations sont nécessaires.

En cas de doute, commencez par les outils JIT. Passez à des stratégies basées sur des index uniquement lorsque vous avez besoin d’un ancrage partagé et persistant de documents liés à plusieurs exécutions d’agents.