Sobre embasamento de contexto

UiPath® A ancoragem de contexto é um componente da Camada de Confiança do UiPath AI que permite que você traga seus dados para gerar previsões da GenAI mais precisas e confiáveis. A ancoragem de contexto foi projetada para tornar seus dados de negócios prontos para LLM sem a necessidade de qualquer assinatura adicional para incorporar modelos, bancos de dados de vetores ou grandes modelos de idioma (LLMs). Você pode criar índices e incorporações representativos de dados de negócios que as funcionalidades da UiPath GenAI podem referenciar para evidências contextuais no runtime.

A ancoragem de contextoé um serviço de plataforma com escopo de tenant projetado para ser compatível com experiências da UiPath GenAI (como atividades da GenAI), vinculando as solicitações do usuário com informações relevantes antes de serem executadas pelo LLM por meio de geração aumentada de recuperação (RAG).

Fornecer RAG como um serviço para experiências da UiPath GenAI ajuda a:

• Supere as limitações da janela de contexto do LLM: para modelos pequenos e grandes, o RAG ajuda a melhorar a precisão, confiabilidade, escalabilidade e eficiência dos modelos à medida que interagem com bancos de conhecimento.

• Reduza o risco de malucrise fazendo referência a armazenamento de dados com verdade absoluta.

• Dê a aplicativos generativos acesso a fontes de conhecimento especializadas e proprietárias.

• Dê acesso a aplicativos generativos a fontes atualizadas de informação.

• Habilite loops de feedback positivos entre armazenamentos de dados e consultas de usuários.

A terminologia e os componentes principais da Embasamento de contexto incluem:

Figura 1. Arquitetura do componente de embasamento de contexto

Ingestão e indexação: prepare seus dados de negócios para o LLM

• Ingestão: converta dados de negócios em incorporações representativas usando modelos de incorporação gerenciados pela UiPath.
• Incorporação: uma representação de dados de negócios que um LLM pode entender e pesquisar.
• Índice: uma pasta em um banco de dados de vetores que organiza as incorporações.
• Bancos de dados de vetor: banco de dados de vetores gerenciado pela UiPath que armazena incorporações organizadas em índices.

Pesquisa de similaridade semântica

• Pesquise dados de negócios prontos para LLM para encontrar as informações mais relevantes.
• Interprete o prompt como uma consulta para pesquisar por meio de incorporações e produza os resultados mais relevantes com base na pesquisa de similaridade de cosseno. Esses resultados da pesquisa são uma etapa intermediária e percursora do RAG para aumentar os prompts com contexto relevante dos dados de negócios.

RAG

• Embase e atualize os prompts com as informações mais relevantes dos resultados da pesquisa de similaridade semântica e, em seguida, execute uma geração por meio de um LLM hospedado pelo LLM Gateway da AI Trust Layer.

Para obter mais informações, consulte as seguintes páginas:

• Melhores práticas
• Padrões de embasamento de contexto comum

Funcionalidades principais

Aqui estão alguns dos principais recursos do Embasamento de contexto:

• Suporte a vários documentos: arquivos PDF, JSON e CSV são suportados atualmente, com mais formatos planejados.
• Pipelines de ingestão e indexação gerenciados: a UiPath otimiza a ingestão e a indexação de dados em bancos de dados de vetores gerenciados pela UiPath.
• Várias superficies: atualmente disponível como parte das atividades da UiPath GenAI e AI Trust Layer.
• Pesquisa de similaridade semântica: consulta dentro de documentos ou entre conjuntos de dados usando uma variedade de técnicas (por exemplo, transformação de consultas, incorporação, ajuste fino, etc.) para garantir que os resultados da pesquisa sejam altamente relevantes.
• Geração aumentada de recuperação: prompts de base via just-in-time na memória ou sobre uma base de conhecimento.
• Prova de conhecimento: fornece uma menção da fonte de referência e do texto da pesquisa de similaridade semântica.
• Suporte ao streaming: suporte à API de streaming para mostrar a geração à medida que é produzida.

• Origens de dados: entidades do bucket do UiPath Orchestrator: os dados armazenados em pastas compartilhadas em entidades do bucket do Orchestrator podem ser ingeridos, indexados e consultados.

• Suporte multilíngue: capacidade de ingerir e consultar documentos em todos os idiomas codificados em UTF-8.

• Suporte para várias fontes de dados:
  • Entidades do bucket do UiPath Orchestrator: os dados armazenados em pastas compartilhadas em entidades do bucket do Orchestrator podem ser ingeridos, indexados e consultados.
  • Conectores do Integration Service, como o Microsoft OneDrive & SharePoint e Google Drive: a ancoragem de contexto podem acessar dados armazenados diretamente em sistemas de armazenamento de documentos.

Limitações

• A ancoragem de contexto atualmente é compatível com tipos de arquivo PDF, JSON e CSV.
• Há um limite de dez índices por tenant. Recomendamos que você mantenha um relacionamento 1-1 com eles e com os buckets do Orchestrator nos quais você está carregando os dados de negócios que deseja que o Contexto embasado use. Isso significa que você pode carregar, ingerir e consultar a partir de dez buckets do Orchestrator por tenant.
• Para usar a embasamento de contexto por meio de atividades da UiPath GenAI, você deve usar o Studio Web ou o Studio Desktop versão 2024.4 ou mais recente. Para obter mais informações, consulte a seção Introdução .