About Context grounding

UiPath® Context grounding is a component of the UiPath AI Trust Layer which allows you to bring in your data to generate more accurate, reliable GenAI predictions. Context grounding is designed to make your business data LLM-ready without the need for any additional subscription to embedding models, vector databases, or large language models (LLMs). You can create representative indexes and embeddings of business data that UiPath GenAI features can reference for contextual evidence at runtime.

Context groundingis a tenant-scoped platform service designed to support UiPath GenAI experiences (such as GenAI Activities and Autopilot for everyone) by grounding user prompts with relevant information before they are executed by the LLM via retrieval augmented generation (RAG).

Proporcionar RAG como servicio a las experiencias de UiPath GenAI ayuda a:

• Supera las limitaciones de la ventana de contexto de LLM: tanto para modelos pequeños como grandes, RAG ayuda a mejorar la precisión, la fiabilidad, la escalabilidad y la eficiencia de los modelos a medida que interactúan con las bases de conocimiento.

• Reduce risk of hallucination through references to ground truth data stores.

• Da acceso a las aplicaciones generativas a fuentes de conocimiento especializadas y propietarias.

• Da acceso a las aplicaciones generativas a fuentes de información actualizadas.

• Habilita los bucles de retroalimentación positiva entre los almacenes de datos y las consultas de los usuarios.

The terminology and core components of Context grounding include:

Figure 1. Context grounding component architecture

Ingestión e indexación: prepara tus datos empresariales para LLM

• Ingestión: convierte los datos empresariales en incrustaciones representativas utilizando modelos de incrustación gestionados por UiPath.
• Incrustación: una representación de los datos empresariales que un LLM puede comprender y buscar.
• Índice: una carpeta en una base de datos vectorial que organiza las incrustaciones.
• Bases de datos vectoriales: base de datos vectorial gestionada por UiPath que almacena incrustaciones organizadas en índices.

Búsqueda de similitud semántica

• Busque en los datos empresariales listos para LLM para encontrar la información más relevante.
• Interpret prompt as a query to search through embeddings, and produce the most relevant results based on cosine similarity search. These search results are an intermediate, precursor step to RAG, to augment prompts with relevant context from business data.

RAG

• Aterriza y actualiza las solicitudes con la información más relevante de los resultados de la búsqueda de similitud semántica, luego ejecuta una generación a través de un LLM alojado a través de la puerta de enlace LLM de la capa de confianza de IA.

Para obtener más información, consulta las siguientes páginas:

• Mejores prácticas
• Patrones de conexión a tierra de Common Context

Características básicas

Here are some of the key features of Context grounding:

• Multi-document support: PDF, JSON, and CSV files.
• Procesos de ingestión e indexación gestionados: UiPath optimiza la ingestión e indexación de datos en bases de datos vectoriales gestionadas por UiPath.
• Multiple surfaces: Currently available as part of the UiPath GenAI Activities, AI Trust Layer, and Autopilot for everyone.
• Búsqueda de similitud semántica: consulta dentro de documentos o en conjuntos de datos utilizando una variedad de técnicas (por ejemplo, transformación de consultas, incrustación, ajuste fino, etc.) para garantizar que los resultados de la búsqueda sean muy relevantes.
• Retrieval Augmented Generation: Ground prompts via just-in-time (JIT) in-memory or over a knowledge base.
• Prueba de conocimiento: proporciona una cita de la fuente de referencia y el texto de la búsqueda de similitud semántica.
• Compatibilidad con la transmisión: compatibilidad con la API de transmisión para mostrar la generación a medida que se produce.

• Orígenes de datos: entidades de depósito de UiPath Orchestrator: los datos almacenados en carpetas compartidas en entidades de depósito de Orchestrator pueden ingerirse, indexarse y consultarse.

• Multilingual support: Ability to ingest and query from documents in all UTF-8 encoded languages.

• Compatibilidad con múltiples fuentes de datos:
  • Entidades de depósito de UiPath Orchestrator: los datos almacenados en carpetas compartidas en entidades de depósito de Orchestrator pueden ingerirse, indexarse y consultarse.
  • Integration Service connectors, such as Microsoft OneDrive & SharePoint and Google Drive: Context grounding can access data directly stored within document storage systems.

Limitaciones

• La conexión a tierra de contexto actualmente admite los tipos de archivo PDF, JSON y CSV.
• There is a limit of ten indices per tenant. We recommend you keep a 1-1 relationship with these and the Orchestrator buckets in which you are uploading the business data you want Context grounding to use. This means you are able to upload, ingest, and query from ten Orchestrator buckets per tenant.
• To use Context grounding via UiPath GenAI Activities, you must use Studio Web or Studio Desktop version 2024.4 or newer. For more information, see the Getting started section.