Best Practices für DeepRAG und Batch-Transformation: JIT vs. indexbasierte Strategien

Auswahl Ihres Datenzugriffsansatzes: JIT vs. indexbasierte Strategien

Wählen Sie bei der Konfiguration des Zugriffs Ihres Agents auf Daten und der Datenauswertung den Ansatz, der am besten zu Ihrer Datenstruktur, dem Datenlebenszyklus und Ihren Leistungsanforderungen passt.

Es gibt zwei Hauptmuster:

• Just-in-Time (JIT)-Tools, die zur Laufzeit übergebene Dateien verarbeiten.
• Indexbasierte Kontextgrundlage, die einen vorab erstellten, persistenten Index abfragt.

DeepRAG (JIT) und DeepRAG (Indexsuchstrategie) verwenden dieselbe zugrunde liegende Synthesefunktion. Der Unterschied besteht darin, wie Dokumente die Engine erreichen:

• JIT: Dateien werden zur Laufzeit bereitgestellt.
• Indexbasiert: Dokumente werden vorab in einen persistenten Index eingefügt.

Batch Transform ist anders. Es führt strukturierte Transformationen auf Zeilenebene auf tabellarischen Daten durch. Es führt keinen Abruf von Dokumenten oder keine Langformsynthese durch.

Schnellreferenz

Funktion	DeepRAG (JIT-Tool)	Batch Transform (JIT-Tool)	Semantische Suche (Index)	DeepRAG (Indexsuchstrategie)
Einrichtung erforderlich	Keine	Keine	Index + Erfassung	Index + Erfassung
Input format	PDF oder TXT	CSV	Vorab indizierte Dokumente	Vorab indizierte Dokumente (PDF/TXT)
Datenänderungen pro Ausführung	Ja (ideal)	Ja (ideal)	Nein (stabiles Korpus)	Nein (stabiles Korpus)
Ausgabetyp	Umfassende Synthese mit Zitaten1	Angereicherte CSV-Datei	Relevante Snippets	Umfassende Synthese mit Zitaten
Geschwindigkeit	Minuten (30+ für ~1.000 Seiten)	Minütlich	Sofort	Minuten (30+ für ~1.000 Seiten)
Am besten geeignet für	Dokumentanalyse pro Ausführung	Verarbeitung strukturierter Daten pro Ausführung	Schnelle Faktensuche	Gründliche Recherche in großen Korpora

¹ TXT-Eingaben unterstützen derzeit keine Zitate.

JIT-Tools: Der empfohlene Standard

Für die meisten Agent-Implementierungen sind JIT-Tools der richtige Ausgangspunkt.

Sie erfordern keine Indexeinrichtung, keinen Erfassungs-Workflow und keine Speicherkonfiguration. Dateien werden direkt an den Agent übergeben, wenn er ausgeführt wird, und das Tool übernimmt die Verarbeitung automatisch. Daher ist JIT besonders gut für Anwendungsfälle geeignet, in denen sich der Dokumentsatz bei jedem Aufruf ändert.

Zwei JIT-Tools sind verfügbar: DeepRAG (JIT) und Batch Transform.

DeepRAG (JIT-Tool)

Verwenden Sie DeepRAG (JIT), wenn Ihr Agent zur Laufzeit bereitgestellte PDF- oder TXT-Dateien lesen und auswerten muss, um eine synthetisierte, fundierte Antwort zu generieren.

Der DeepRAG-Algorithmus führt einen strukturierten, mehrstufigen Forschungsprozess durch. Es plant Unteraufgaben, iteriert über die bereitgestellten Dokumente hinweg und synthetisiert Ergebnisse in einer umfassenden Ausgabe. Bei PDF-Eingaben enthalten Antworten Zitate. (TXT-Eingaben unterstützen derzeit keine Zitate.)

Dieser Ansatz funktioniert am besten, wenn jede Ausführung einen anderen Dokumentsatz verarbeitet, z. B. Kundendateien, Verträge, Falldatensätze oder Berichte, die je nach Aufruf variieren. Er priorisiert Vollständigkeit und Rückverfolgbarkeit über Geschwindigkeit und wird in der Regel in Minuten abgeschlossen, abhängig von der Dokumentgröße.

Batch Transform (JIT-Tool)

Batch Transform ist für die strukturierte Datenverarbeitung vorgesehen. Es arbeitet mit CSV-Dateien, die zur Laufzeit bereitgestellt werden, und wendet konsistente Logik auf jede Zeile an.

Anstatt Dokumente zu synthetisieren, bereichert Batch Transform die Daten. Es verarbeitet Datensätze unabhängig und generiert eine aktualisierte CSV-Datei, die neue Spalten, Klassifizierungen, Bewertungen oder andere abgeleitete Werte enthalten kann.

Dadurch ist es geeignet für Beschriftung, Bewertung, Anreicherung und regelbasierte Transformationen über strukturierte Datensätze hinweg.

Indexbasierte Kontextgrundlage

Die Indexbasierte Verankerung erfordert, dass Dokumente in eine Kontextgrundlage erfasst werden, bevor der Agent ausgeführt wird. Obwohl diese Vorgehensweise einen zusätzlichen Konfigurationsaufwand mit sich bringt, erweist sie sich als vorteilhaft, wenn Sie mit einem großen, stabilen Korpus arbeiten, der bei vielen Agentenausführungen wiederverwendet wird.

Typische Beispiele sind Richtlinienbibliotheken, Wissensdatenbanken, regulatorische Repositorys oder Sammlungen langlebiger Dokumentationen, die von mehreren Benutzern oder Prozessen gemeinsam genutzt werden.

Wenn Sie einen indexgestützten Agenten konfigurieren, können Sie eine Suchstrategie auswählen.

Semantische Suche

Die semantische Suche ist die Standardindexstrategie. Sie ruft schnell und effizient ab und gibt die relevantesten Dokumentteile zurück.

Diese Strategie ist geeignet, wenn der Agent bestimmte Fakten recherchieren oder gezielte Informationen schnell extrahieren muss. Es eignet sich gut für Frage-Antwort-Muster und wiederholte Abfragen in einem gemeinsamen Repository, bei denen es auf Schnelligkeit ankommt.

DeepRAG (Indexsuchstrategie)

DeepRAG kann auch über einen Index betrieben werden. In diesem Modus analysiert und verbindet es Informationen über viele Dokumente hinweg und erstellt eine umfassende, durch Zitate gestützte Antwort.

Im Vergleich zur semantischen Suche ist dieser Ansatz langsamer und verbraucht mehr AI Units, unterstützt jedoch tiefere Rechercheaufgaben. Sie eignet sich gut für Szenarien, die eine gründliche Analyse über Hunderte von Seiten hinweg erfordern, z. B. eine Vertragsüberprüfung, eine behördliche Bewertung oder eine Synthese von medizinischen Datensätzen innerhalb eines stabilen Korpus.

Wie Sie sich entscheiden können

Verwenden Sie die folgende Anleitung, um den richtigen Ansatz auszuwählen:

• Verwenden Sie DeepRAG (JIT), wenn sich Dokumente mit jeder Ausführung ändern und Sie eine Synthese mit Zitaten aus Laufzeit-Dateien benötigen.
• Verwenden Sie Batch Transform (JIT) bei der Verarbeitung strukturierter CSV-Daten Zeile für Zeile.
• Verwenden Sie Semantic Search (Index), wenn Sie einen freigegebenen, stabilen Korpus für einen schnellen, gezielten Abruf abfragen.
• Verwenden Sie DeepRAG (Index-Strategie), wenn Sie gründliche Recherche über ein großes indiziertes Korpus durchführen und umfassende, durch Zitate gestützte Antworten erforderlich sind.

Im Zweifelsfall beginnen Sie mit JIT-Tools. Wechseln Sie nur zu indexbasierten Strategien, wenn Sie eine gemeinsame, persistente Dokumentengrundlage über mehrere Agent-Ausführungen hinweg benötigen.