Acerca de la puesta a tierra del contexto

Context Grounding es un componente de UiPath AI Trust Layer que te permite incorporar tus datos para generar predicciones GenAI más precisas y fiables. Context Grounding está diseñado para hacer que tus datos empresariales estén listos para LLM sin necesidad de ninguna suscripción adicional a modelos incrustados, bases de datos vectoriales o modelos de lenguaje grandes (LLM). Puedes crear índices representativos e incrustaciones de datos empresariales a los que las características de UiPath GenAI pueden hacer referencia para obtener pruebas contextuales en tiempo de ejecución.

Context Grounding es un servicio de plataforma con ámbito de tenant diseñado para admitir experiencias UiPath GenAI (como actividades GenAI y Autopilot para todos) al conectar a tierra tus solicitudes con información relevante antes de que sean ejecutadas por el LLM a través de la generación aumentada de recuperación (RAG).

Proporcionar RAG como servicio a las experiencias de UiPath GenAI ayuda a:

• Supera las limitaciones de la ventana de contexto de LLM: tanto para modelos pequeños como grandes, RAG ayuda a mejorar la precisión, la fiabilidad, la escalabilidad y la eficiencia de los modelos a medida que interactúan con las bases de conocimiento.
• Reduzca el riesgo de alucinaciones mediante referencias a almacenes de datos reales.
• Da acceso a las aplicaciones generativas a fuentes de conocimiento especializadas y propietarias.
• Da acceso a las aplicaciones generativas a fuentes de información actualizadas.
• Habilita los bucles de retroalimentación positiva entre los almacenes de datos y las consultas de los usuarios.

Componentes básicos

La terminología y los componentes básicos de Context Grounding incluyen:

Figura 1. Contexto Arquitectura del componente de puesta a tierra

Ingestión e indexación: prepara tus datos empresariales para LLM

• Ingestión: convierte los datos empresariales en incrustaciones representativas utilizando modelos de incrustación gestionados por UiPath.
• Incrustación: una representación de los datos empresariales que un LLM puede comprender y buscar.
• Índice: una carpeta en una base de datos vectorial que organiza las incrustaciones.
• Bases de datos vectoriales: base de datos vectorial gestionada por UiPath que almacena incrustaciones organizadas en índices.

Recuperación

• Busque en los datos empresariales listos para LLM para encontrar la información más relevante. Context Grounding utiliza una variedad de técnicas de extracción, fragmentación, recuperación y reclasificación que se optimizan en función de diferentes formatos de datos y consultas.
• Interpreta la solicitud como una consulta para buscar a través de incrustaciones y produce los resultados más relevantes basados en la búsqueda de similitud de coseno. Estos resultados de búsqueda son un paso intermedio y precursor de RAG, para aumentar las solicitudes con el contexto relevante de los datos empresariales.

Generación aumentada de recuperación

• Aterriza y actualiza las solicitudes con la información más relevante de los resultados de la búsqueda de similitud semántica, luego ejecuta una generación a través de un LLM alojado a través de la puerta de enlace LLM de la capa de confianza de IA.

Características clave

Estas son algunas de las características clave de Context Grounding:

• Compatibilidad con varios documentos: archivos PDF, JSON, CSV, XLS, DOCX, TXT.
• Procesos de ingestión e indexación gestionados: UiPath optimiza la ingestión e indexación de datos en bases de datos vectoriales gestionadas por UiPath.
• Múltiples superficies: Context Grounding está disponible actualmente como parte de las actividades de UiPath GenAI, AI Trust Layer (con una IU dedicada) y Autopilot para todos.
• Recuperación de datos: consulta dentro de documentos o en conjuntos de datos utilizando una variedad de técnicas (por ejemplo, transformación de consultas, incrustación, ajuste fino, etc.) para garantizar que los resultados de la búsqueda sean muy relevantes.
• Generación aumentada de recuperación: solicitudes de tierra a través de Just-in-Time (JIT) en memoria o sobre una base de conocimientos.
• Prueba de conocimiento: proporciona una cita de la fuente de referencia y el texto de la búsqueda de similitud semántica.
• Compatibilidad con la transmisión: compatibilidad con la API de transmisión para mostrar la generación a medida que se produce.
• Compatibilidad multilingüe: capacidad de incorporar y consultar documentos en todos los idiomas codificados en UTF-8.
• Compatibilidad con múltiples fuentes de datos:
  • Entidades de depósito de UiPath Orchestrator: puedes ingerir, indexar y consultar datos almacenados en carpetas compartidas en entidades de depósito de Orchestrator.
  • Sistemas de almacenamiento de documentos: a través de los conectores de Integration Service, como Microsoft OneDrive & SharePoint y Google Drive: Context Grounding puede acceder a los datos directamente almacenados en aplicaciones de terceros.

Limitaciones y consideraciones

• Context Grounding actualmente admite tipos de archivo específicos: PDF, JSON, CSV, XLS, DOCX, TXT.
• Hay un límite de diez índices por tenant. Le recomendamos que mantenga una relación 1-1 con estos y la ruta de la carpeta en el origen de datos que desea utilizar.
• Context Grounding respeta los permisos de carpeta y la autorización para las entidades de carpeta compartida. Es posible que los usuarios que no tengan los permisos adecuados no puedan ver, actualizar, eliminar o utilizar índices que estén afiliados a carpetas para las que no tengan permisos.
• Para utilizar Context Grounding a través de las actividades de UiPath GenAI, debes utilizar Studio Web o Studio Desktop versión 2024.4 o posterior. Para obtener más información, consulta la sección Primeros pasos .