Mejores prácticas para DeepRAG y Batch Transform: JIT frente a estrategias basadas en índices

Elegir el enfoque de acceso a los datos: JIT frente a estrategias basadas en índices

Al configurar la forma en que tu agente accede y razona sobre los datos, elige el enfoque que mejor se adapte a tus requisitos de forma, ciclo de vida y rendimiento de los datos.

Hay dos patrones principales:

• Herramientas Just-in-time (JIT) que procesan archivos pasados en tiempo de ejecución.
• Contextualización basada en índices que consulta un índice persistente prediseñado.

DeepRAG (JIT) y DeepRAG (estrategia de búsqueda de índices) utilizan la misma capacidad de síntesis subyacente. La diferencia es cómo los documentos llegan al motor:

• JIT: los archivos se proporcionan en tiempo de ejecución.
• Basado en índice: los documentos se incorporan previamente en un índice persistente.

La transformación por lotes es diferente. Realiza transformaciones estructuradas a nivel de fila en datos tabulares. No realiza la recuperación de documentos ni la síntesis de formato largo.

Referencia rápida

Capacidad	DeepRAG (herramienta JIT)	Transformación por lotes (herramienta JIT)	Búsqueda semántica (índice)	DeepRAG (estrategia de búsqueda de índice)
Configuración necesaria	Ninguno	Ninguno	Índice + ingestión	Índice + ingestión
Input format	PDF o TXT	CSV	Documentos preindexados	Documentos preindexados (PDF/TXT)
Cambios de datos por ejecución	Sí (ideal)	Sí (ideal)	No (corpus estable)	No (corpus estable)
Tipo de salida	Síntesis completa con citas1	Archivo CSV enriquecido	Fragmentos relevantes	Síntesis completa con citas
Velocidad	Minutos (30+ para ~1000 páginas)	Minutos	Instantáneo	Minutos (30+ para ~1000 páginas)
Mejor para	Análisis de documentos por ejecución	Procesamiento de datos estructurados por ejecución	Búsqueda rápida de hechos	Investigación profunda en grandes corpus

¹ Las entradas de texto no admiten citas actualmente.

Herramientas JIT: el valor predeterminado recomendado

Para la mayoría de las implementaciones de agentes, las herramientas JIT son el punto de partida adecuado.

No requieren configuración de índice, flujo de trabajo de ingestión ni configuración de almacenamiento. Los archivos se pasan directamente al agente cuando se ejecuta, y la herramienta gestiona el procesamiento automáticamente. Esto hace que JIT sea especialmente adecuado para casos de uso en los que el conjunto de documentos cambia con cada invocación.

Hay dos herramientas JIT disponibles: DeepRAG (JIT) y Batch Transform.

DeepRAG (herramienta JIT)

Utiliza DeepRAG (JIT) cuando tu agente necesite leer y razonar sobre archivos PDF o TXT proporcionados en runtime y producir una respuesta sintetizada y fundamentada.

El algoritmo DeepRAG realiza un proceso de investigación estructurado en varios pasos. Planifica subtareas, itera en los documentos proporcionados y sintetiza los hallazgos en un resultado completo. Para las entradas de PDF, las respuestas incluyen citas. (Las entradas TXT no admiten citas actualmente).

Este enfoque funciona mejor cuando cada ejecución procesa un conjunto de documentos diferente, como archivos de clientes, contratos, registros de casos o informes que varían según la invocación. Prioriza la integridad y la trazabilidad sobre la velocidad y, por lo general, se completa en minutos, dependiendo del tamaño del documento.

Transformación por lotes (herramienta JIT)

La transformación por lotes está diseñada para el procesamiento de datos estructurados. Opera en archivos CSV proporcionados en tiempo de ejecución y aplica una lógica coherente a cada fila.

En lugar de sintetizar documentos, la transformación por lotes enriquece los datos. Procesa registros de forma independiente y genera un archivo CSV actualizado que puede incluir nuevas columnas, clasificaciones, puntuaciones u otros valores derivados.

Esto lo hace apropiado para el etiquetado, la puntuación, el enriquecimiento y las transformaciones basadas en reglas en conjuntos de datos estructurados.

Contextualización basada en índices

La conexión a tierra basada en índices requiere que los documentos se incorporen a un índice de Contextualización antes de que se ejecute el agente. Aunque esta configuración introduce una configuración adicional, se vuelve valiosa cuando se trabaja con un corpus grande y estable que se reutiliza en muchas ejecuciones de agente.

Los ejemplos típicos incluyen bibliotecas de políticas, bases de conocimientos, repositorios normativos o colecciones de documentación de larga duración compartidas por varios usuarios o procesos.

Al configurar un agente respaldado por índices, seleccionas una estrategia de búsqueda.

Búsqueda semántica

La búsqueda semántica es la estrategia de índice predeterminada. Realiza una recuperación rápida y ligera y devuelve los fragmentos de documentos más relevantes.

Esta estrategia es adecuada cuando el agente necesita buscar hechos específicos o extraer información específica rápidamente. Funciona bien para patrones de preguntas y respuestas y consultas repetidas en un repositorio compartido donde la velocidad es importante.

DeepRAG (estrategia de búsqueda de índice)

DeepRAG también puede operar sobre un índice. En este modo, analiza y conecta información en muchos documentos y produce una respuesta completa respaldada por citas.

En comparación con la búsqueda semántica, este enfoque es más lento y consume más AI Unit, pero admite tareas de investigación más profundas. Es muy adecuado para escenarios que requieren un análisis exhaustivo de cientos de páginas, como la revisión de contratos, la evaluación regulatoria o la síntesis de registros médicos dentro de un corpus estable.

Cómo decidir

Utiliza la siguiente guía para seleccionar el enfoque correcto:

• Utiliza DeepRAG (JIT) cuando los documentos cambien con cada ejecución y necesites una síntesis con citas de archivos de runtime.
• Utiliza la transformación por lotes (JIT) al procesar datos CSV estructurados fila por fila.
• Utiliza la búsqueda semántica (índice) al consultar un corpus compartido y estable para una recuperación rápida y dirigida.
• Utiliza DeepRAG (estrategia de índice) cuando realices una investigación profunda sobre un gran corpus indexado y se requieran respuestas completas respaldadas por citas.

En caso de duda, comienza con las herramientas JIT. Pasa a estrategias basadas en índices solo cuando necesites una conexión a tierra de documentos compartida y persistente en varias ejecuciones de agentes.