Sobre embasamento de contexto

Contextualização, um componente da AI Trust Layer que torna os dados de negócios prontos para LLM por meio de incorporações gerenciadas e retrieval-augmented generation (RAG) sem assinaturas adicionais.

O embasamento de contexto é um componente da Camada de Confiança do UiPath AI que permite que você traga seus dados para gerar previsões da GenAI mais precisas e confiáveis. O embasamento de contexto foi projetado para preparar os dados do seu negócio para LLM sem a necessidade de qualquer assinatura adicional para incorporar modelos, bancos de dados de vetores ou Modelos de Linguagem Abrangente (LLMs). Você pode criar índices e incorporações representativos de dados de negócios que as funcionalidades da UiPath GenAI podem referenciar para evidências contextuais no runtime.

A Contextualização é um serviço de plataforma com escopo de tenant projetado para oferecer suporte a experiências de IA generativa da UiPath (como Agentes, Atividades GenAI e Autopilot for Everyone), fundamentando suas solicitações com informações relevantes antes de serem executadas pelo LLM por meio de geração aumentada de recuperação (RAG) .

Fornecer RAG como um serviço para as experiências de IA generativas da UiPath ajuda a:

• Supere as limitações da janela de contexto do LLM: para modelos pequenos e grandes, o RAG ajuda a melhorar a precisão, confiabilidade, escalabilidade e eficiência dos modelos à medida que interagem com bancos de conhecimento.
• Reduza o risco de paliatividade por meio de referências a armazenamentos de dados de verdade.
• Dê a aplicativos generativos acesso a fontes de conhecimento especializadas e proprietárias.
• Dê acesso a aplicativos generativos a fontes atualizadas de informação.
• Habilite loops de feedback positivos entre armazenamentos de dados e consultas de usuários.

Componentes principais

A terminologia e os componentes principais do Embasamento de Contexto incluem:

Figura 1. Arquitetura do componente de Contextualização

Ingestão e indexação: prepare seus dados de negócios para o LLM

• Ingestão: converta dados de negócios em incorporações representativas usando modelos de incorporação gerenciados pela UiPath.
• Incorporação: uma representação de dados de negócios que um LLM pode entender e pesquisar.
• Índice: uma pasta em um banco de dados de vetores que organiza as incorporações.
• Bancos de dados de vetor: banco de dados de vetor gerenciado pela UiPath que armazena incorporações organizadas em índices.

Recuperação

• Pesquise dados de negócios prontos para LLM para encontrar as informações mais relevantes. A Embasamento de contexto usa uma variedade de técnicas de extração, agrupamento, recuperação e reclassificação que são otimizadas com base em diferentes formatos de dados e consultas.
• Os produtos que usam a Embasamento de contexto interpretam os prompts como uma consulta para pesquisar por meio de incorporações e produzem os resultados mais relevantes com base na pesquisa de similaridade de cosseno. Esses resultados da pesquisa são uma etapa intermediária e percursora do RAG para aumentar os prompts com contexto relevante dos dados de negócios.

Retrieval Augmented Generation

• Embase e atualize os prompts com as informações mais relevantes dos resultados da pesquisa de similaridade semântica e, em seguida, execute uma geração por meio de um LLM hospedado pelo LLM Gateway da AI Trust Layer.

Principais funcionalidades

As principais funcionalidades do Embasamento de Contexto incluem:

• Compatibilidade com vários documentos: arquivos PDF, JSON, CSV, XLSX, DOCX, TXT.
• Ingestão multimodal aprimorada: suporte para documentos que contêm imagens com texto e conteúdo baseado em texto. Habilita o processamento de PDFs não nativos (como digitalizados).
• Suporte a consultas estruturadas avançadas para dados CSV. Essa funcionalidade está disponível ao adicionar um índice a um agente.
• Suporte multilíngue: capacidade de ingerir e consultar documentos em todos os idiomas codificados em UTF-8.
• Pipelines de ingestão e indexação gerenciados: o UiPath otimiza a ingestão e a indexação de dados em bancos de dados de vetores gerenciados pelo UiPath.
• Várias superfície: o embasamento de contexto está atualmente disponível como parte das atividades, agentes e Autopilot UiPath GenAI Autopilot for Everyone.
• Recuperação de dados: consulta em documentos ou entre conjuntos de dados usando uma variedade de técnicas (por exemplo, transformação de consultas, incorporação, ajuste fino, etc.) para garantir que os resultados da pesquisa sejam altamente relevantes.
• Geração aumentada de recuperação: prompts de base por meio de just-in-time (JIT) na memória ou sobre uma base de conhecimento.
• Síntese do DeepRAG: compatível com a Síntese orientada por consulta sobre conteúdo de documentos usando a geração aumentada de recuperação.
• Prova de conhecimento: fornece uma menção da fonte de referência e do texto da pesquisa de similaridade semântica.
• Suporte ao streaming: suporte à API de streaming para mostrar a geração à medida que é produzida.
• Suporte para várias fontes de dados:
  • Entidades do bucket do UiPath Orchestrator: você pode ingerir, indexar e consultar dados armazenados em pastas compartilhadas em entidades do bucket do Orchestrator.
  • Sistemas de armazenamento de documentos: por meio de conectores do Integration Service, como Confluence Cloud, Dropbox, Google Drive e Microsoft OneDrive & SharePoint: a contextualização pode acessar dados armazenados diretamente em aplicativos de terceiros.

Licenciamento

Para detalhes, consulte o Licenciamento de Contextualização.

Requisitos do LLM

Para obter compatibilidade de provedor e requisitos de modelo, consulte Requisitos de LLM para Contextualização.

Limitações e considerações

• A Contextualização atualmente suporta tipos de arquivos específicos: CSV, DOCX, JSON, PDF, TXT, XLSX.
• Há um limite de 100 índices por tenant. Recomendamos que você mantenha uma relação 1-1 com eles e o caminho da pasta na origem de dados que você deseja usar.
• A embasamento de contexto segue as permissões e autorização de pasta para entidades de pasta compartilhada. Os usuários que não têm as permissões apropriadas podem não ser capazes de visualizar, atualizar, excluir ou usar índices associados a pastas às quais não têm permissões.
• Para usar a Contextualização por meio de Atividades UiPath GenAI, você deve usar o Studio Web ou Studio Desktop versão 2024.4 ou mais recente. Para obter mais informações, consulte a seção Trabalhando com Contextualização .
• Para obter detalhes sobre como a contextualização lida com arquivos durante a ingestão, incluindo retenção e comportamento de exclusão, consulte as perguntas frequentes sobre contextualização.
• A conexão do Integration Service usada como fonte de dados deve ser autorizada com pelo menos o escopo Files.Read do provedor externo. Esse escopo do OAuth é solicitado durante a configuração da conexão e rege o que a contextualização pode ler do sistema de origem (Confluence Cloud, Dropbox, Google Drive ou Microsoft OneDrive & SharePoint).