About Context grounding

UiPath® Context grounding is a component of the UiPath AI Trust Layer which allows you to bring in your data to generate more accurate, reliable GenAI predictions. Context grounding is designed to make your business data LLM-ready without the need for any additional subscription to embedding models, vector databases, or large language models (LLMs). You can create representative indices and embeddings of business data that UiPath GenAI features can reference for contextual evidence at runtime.

Context groundingis a tenant-scoped platform service designed to support UiPath GenAI experiences (such as GenAI Activities) by grounding user prompts with relevant information before they are executed by the LLM via retrieval augmented generation (RAG).

Die Bereitstellung von RAG als Dienst für UiPath GenAI-Erfahrungen hilft:

• Überschreiben Sie Einschränkungen bei LLM-Kontextfenstern: Sowohl bei kleinen als auch bei großen Modellen hilft RAG, die Genauigkeit, Zuverlässigkeit, Skalierbarkeit und Effizienz der Modelle zu verbessern, während sie mit Wissensdatenbanken interagieren.

• Reduzieren Sie das Risiko von Wahrsagen durch Verweis auf Ground Truth-Datenspeicher.

• Geben Sie generativen Apps Zugriff auf spezialisierte und proprietäre Wissensquellen.

• Gewähren Sie generativen Apps Zugriff auf aktuelle Informationsquellen.

• Aktivieren Sie positive Feedback-Schleifen zwischen Datenspeichern und Benutzerabfragen.

Terminology and core components of Context grounding include:

Figure 1. Context grounding Component Architecture

Erfassung und Indizierung: Machen Sie Ihre Geschäftsdaten LLM-fähig

• Erfassung : Konvertieren Sie Geschäftsdaten mithilfe von UiPath -verwalteten Einbettungsmodellen in repräsentative Einbettungen.
• Einbetten: Eine Darstellung von Geschäftsdaten, die ein LLM verstehen und durchsuchen kann.
• Index: Ein Ordner in einer Vektordatenbank, der die Einbettungen organisiert.
• Vektor-DBs: Von UiPath verwaltete Vektordatenbank, die Einbettungen in Indizes organisiert speichert.

Semantische Ähnlichkeitssuche

• Durchsuchen Sie LLM-fähige Geschäftsdaten, um die relevantesten Informationen zu finden.
• Interpretieren Sie eine Eingabeaufforderung als Abfrage, um Einbettungen zu durchsuchen und die relevantesten Ergebnisse basierend auf der Cosinus-Ähnlichkeitssuche zu generieren. Diese Suchergebnisse sind ein Zwischenschritt, der der RAG vorausgeht, um Prompts mit relevantem Kontext aus Geschäftsdaten zu erweitern.

RAG

• Grundlegende und aktualisieren Sie Eingabeaufforderungen mit den relevantesten Informationen aus den Ergebnissen der semantischen Ähnlichkeitssuche und führen Sie dann eine Generierung über ein LLM aus, das über das LLM-Gateway des AI Trust Layer gehostet wird.

Weitere Informationen finden Sie auf den folgenden Seiten:

• Best Practices
• Common Context grounding patterns

Kernfunktionen

Here are some of the key features of Context grounding:

• Unterstützung für mehrere Dokumente: PDF-, JSON- und CSV- Dateien werden derzeit unterstützt, weitere Formate sind in Planung.
• Verwaltete Erfassungs- und Indizierungspipelines: UiPath optimiert die Erfassung und Indizierung von Daten in UiPath-verwalteten Vektordatenbanken.
• Mehrere Oberflächen: Derzeit als Teil der UiPath GenAI-Aktivitäten verfügbar.
• Semantische Ähnlichkeitssuche: Abfragen innerhalb von Dokumenten oder über Datasets hinweg mithilfe verschiedener Techniken (z. B Abfragetransformation, Einbettung, Feinabstimmung usw.), um sicherzustellen, dass die Suchergebnisse hoch relevant sind.
• Abrufen erweiterter Generierung: Grundlegende Eingabeaufforderungen über Just-in-Time-In-Memory oder über eine Wissensdatenbank.
• Wissensnachweis: Stellt ein Zitat der Referenzquelle und des Texts aus der semantischen Ähnlichkeitssuche bereit.
• Streaming-Unterstützung: API-Unterstützung für Streaming, um die Generierung während der Produktion anzuzeigen.

• Datenquellen: UiPath Orchestrator-Bucket-Entitäten: Daten, die in freigegebenen Ordnern in Orchestrator-Bucket-Entitäten gespeichert sind, können erfasst, indiziert und abgefragt werden.

• Mehrsprachige Unterstützung: Möglichkeit der Erfassung und Abfrage von Dokumenten in allen UTF-8-codierten Sprachen.

Einschränkungen

• Kontextgrundlage unterstützt derzeit die Dateitypen PDF, JSON und CSV.
• Es gibt ein Limit von zehn Indizes pro Mandant. Wir empfehlen Ihnen, eine 1:1-Beziehung mit diesen und den Orchestrator-Buckets beizubehalten, in denen Sie die Geschäftsdaten hochladen, in denen Kontextgrundlage verwendet werden soll. Das bedeutet, dass Sie zehn Orchestrator-Buckets pro Mandant hochladen, erfassen und abfragen können.
• Um Kontextgrundlage über UiPath GenAI-Aktivitäten zu verwenden, müssen Sie Studio Web oder Studio Desktop mit Version 2024.4 oder höher verwenden. Weitere Informationen finden Sie im Abschnitt Erste Schritte .