Best Practices für DeepRAG und Batch-Transformation: JIT im Vergleich zu indexbasierten Strategien

Auswählen Ihres Datenzugriffsansatzes: JIT im Vergleich zu Indexbasierten Strategien

Wählen Sie bei der Konfiguration des Zugriffs auf die Argumente für Daten den Ansatz, der Ihrer Datenform, dem Lebenszyklus und den Leistungsanforderungen am besten entspricht.

Es gibt zwei Hauptmuster:

• Just-in-Time-Tools (JIT), die Dateien verarbeiten, die zur Laufzeit übergeben wurden.
• Indexbasierte Kontextgrundlage , die einen vorgefertigten, persistenten Index abfragt.

DeepRAG (JIT) und DeepRAG (Indexsuchstrategie) verwenden die gleiche zugrunde liegende Darstellungsfunktion. Der Unterschied besteht darin, wie Dokumente das Modul erreichen:

• JIT: Dateien werden zur Laufzeit bereitgestellt.
• Indexbasiert: Dokumente werden vorab in einen persistenten Index aufgenommen.

Bei Batch-Transformation ist das anders. Es führt strukturierte Transformationen auf Zeilenebene für Tabellendaten durch. Es führt keine Dokumentabfrage oder Langform-Syntax durch.

Kurzreferenz

Funktion	DeepRAG (JIT-Tool)	Batch-Transformation (JIT-Tool)	Semantische Suche (Index)	DeepRAG (Indexsuchstrategie)
Einrichtung erforderlich	Keine	Keine	Index + Erfassung	Index + Erfassung
Input format	PDF oder TXT	CSV	Vorn indizierte Dokumente	Vorn indizierte Dokumente (PDF/TXT)
Datenänderungen pro Ausführung	Ja (ideal)	Ja (ideal)	Nein (stabiles Korpus)	Nein (stabiles Korpus)
Ausgabetyp	Umfassende Zusammenfassung mit Zitaten1	Angereicherte CSV-Datei	Relevante Snippets	Umfassende Zusammenfassung mit Zitaten
Geschwindigkeit	Minuten (30+ für ca. 1.000 Seiten)	Minütlich	Sofort	Minuten (30+ für ca. 1.000 Seiten)
Am besten geeignet für	Dokumentanalyse pro Ausführung	Strukturierte Datenverarbeitung pro Ausführung	Schnelle Tatsachensuche	Umfassende Recherche in großen Unternehmen

¹ TXT-Eingaben unterstützen derzeit keine Zitate.

JIT-Tools: die empfohlene Standardeinstellung

Für die meisten Agent-Implementierungen sind JIT-Tools der richtige Ausgangspunkt.

Sie erfordern keine Indexeinrichtung, keinen Erfassungsworkflow und keine Speicherkonfiguration. Dateien werden bei der Ausführung direkt an den Agenten übergeben und das Tool übernimmt die Verarbeitung automatisch. Dadurch eignet sich JIT besonders gut für Anwendungsfälle, in denen sich der Dokumentsatz bei jedem Aufruf ändert.

Zwei JIT-Tools sind verfügbar: DeepRAG (JIT) und Batch Transform.

DeepRAG (JIT-Tool)

Verwenden Sie DeepRAG (JIT), wenn Ihr Agent zur Runtime bereitgestellte PDF- oder TXT-Dateien lesen und argumentieren muss, um eine synthetisierte, fundierte Antwort zu erzeugen.

Der DeepRAG-Algorithmus führt einen strukturierten, mehrstufigen Rechercheprozess durch. Sie plant Unteraufgaben, iteriert durch die bereitgestellten Dokumente und fasst Ergebnisse zu einer umfassenden Ausgabe zusammen. Bei PDF-Eingaben enthalten die Antworten Anführungszeichen. (TXT-Eingaben unterstützen derzeit keine Zitate.)

Dieser Ansatz funktioniert am besten, wenn jede Ausführung einen anderen Dokumentensatz verarbeitet, z. B. Kundendateien, Verträge, Falldatensätze oder Berichte, die sich bei jedem Aufruf unterscheiden. Vollständigkeit und Rückverfolgbarkeit haben Vorrang vor Geschwindigkeit und sind je nach Dokumentengröße in wenigen Minuten fertig.

Batch-Transformation (JIT-Tool)

Batch-Transformation ist für die strukturierte Datenverarbeitung vorgesehen. Es arbeitet mit CSV-Dateien, die zur Laufzeit bereitgestellt werden, und wendet auf jede Zeile konsistente Logik an.

Anstatt Dokumente zusammenzufassen, bereichert Batch Transform Daten. Sie verarbeitet Datensätze unabhängig und generiert eine aktualisierte CSV-Datei, die neue Spalten, Klassifizierungen, Ergebnisse oder andere abgeleitete Werte enthalten kann.

Dadurch eignet es sich für die Beschriftung, Bewertung, Anreicherung und regelbasierten Transformationen in strukturierten Datasets.

Indexbasierte Kontextgrundlage

Indexbasierte Grundlage erfordert, dass Dokumente in einen Kontextgrundlagenindex aufgenommen werden, bevor der Agent ausgeführt wird. Auch wenn dieses Setup mit zusätzlichen Konfigurationen verbunden ist, wird es hilfreich, wenn mit einem großen, stabilen Korpus gearbeitet wird, das in vielen Agentenausführungen wiederverwendet wird.

Typische Beispiele sind Richtlinienbibliotheken, Wissensdatenbanken, regulatorische Repositories oder langfristige Dokumentationssammlungen, die von mehreren Benutzern oder Prozessen gemeinsam genutzt werden.

Wenn Sie einen agentenbasierten Agent konfigurieren, wählen Sie eine Suchstrategie aus.

Semantische Suche

Semantische Suche ist die Standardindexstrategie. Es führt eine schnelle und einfache Abfrage durch und gibt die relevantesten Dokumentteile zurück.

Diese Strategie ist geeignet, wenn der Agent nach bestimmten Fakten suchen oder Zielinformationen schnell extrahieren muss. Sie funktioniert gut für Frage-Antwort-Muster und wiederholte Abfragen bei einem gemeinsam genutzten Repository, bei dem Geschwindigkeit wichtig ist.

DeepRAG (Indexsuchstrategie)

DeepRAG kann auch über einen Index ausgeführt werden. In diesem Modus werden Informationen in vielen Dokumenten analysiert und verbunden, und es wird eine umfassende, durch Zitate unterstützte Antwort erzeugt.

Im Vergleich zur semantischen Suche ist dieser Ansatz langsamer und verbraucht mehr AI Units, unterstützt aber tiefere Forschungsaufgaben. Es eignet sich gut für Szenarien, die eine gründliche Analyse über Hunderte von Seiten erfordern, z. B. Vertragsüberprüfung, behördliche Bewertung oder die Zusammenfassung von medizinischen Unterlagen innerhalb eines stabilen Korpus.

So wird entschieden

Nutzen Sie folgende Anleitung, um den richtigen Ansatz auszuwählen:

• Verwenden Sie DeepRAG (JIT), wenn sich Dokumente bei jeder Ausführung ändern und Sie eine Zusammenfassung mit Zitaten aus Laufzeitdateien benötigen.
• Verwenden Sie Batch Transform (JIT), wenn Sie strukturierte CSV-Daten Zeile für Zeile verarbeiten.
• Verwenden Sie die semantische Suche (index) beim Abfragen eines freigegebenen, stabilen Korpus für einen schnellen, zielgerichteten Abruf.
• Verwenden Sie DeepRAG (Indexstrategie), wenn Sie eine detaillierte Recherche über ein großes indiziertes Korpus durchführen und umfassende, durch Zitate unterstützte Antworten erforderlich sind.

Wenn Sie sich unsicher sind, beginnen Sie mit JIT-Tools. Wechseln Sie nur dann zu Index-basierten Strategien, wenn Sie eine gemeinsame, persistente Dokumentengrundlage über mehrere Agent-Ausführungen hinweg benötigen.