Sobre embasamento de contexto

O embasamento de contexto é um componente da Camada de Confiança do UiPath AI que permite que você traga seus dados para gerar previsões da GenAI mais precisas e confiáveis. O embasamento de contexto foi projetado para preparar os dados do seu negócio para LLM sem a necessidade de qualquer assinatura adicional para incorporar modelos, bancos de dados de vetores ou Modelos de Linguagem Abrangente (LLMs). Você pode criar índices e incorporações representativos de dados de negócios que as funcionalidades da UiPath GenAI podem referenciar para evidências contextuais no runtime.

A embasamento de contexto é um serviço de plataforma com escopo de tenant projetado para oferecer suporte às experiências da UiPath GenAI (como atividades de GenAI e Autopilot para todos), embasando seus prompts com informações relevantes antes que sejam executados pelo LLM por meio de geração aumentada de recuperação (RAG).

Fornecer RAG como um serviço para experiências da UiPath GenAI ajuda a:

• Supere as limitações da janela de contexto do LLM: para modelos pequenos e grandes, o RAG ajuda a melhorar a precisão, confiabilidade, escalabilidade e eficiência dos modelos à medida que interagem com bancos de conhecimento.
• Reduza o risco de paliatividade por meio de referências a armazenamentos de dados de verdade.
• Dê a aplicativos generativos acesso a fontes de conhecimento especializadas e proprietárias.
• Dê acesso a aplicativos generativos a fontes atualizadas de informação.
• Habilite loops de feedback positivos entre armazenamentos de dados e consultas de usuários.

Componentes principais

A terminologia e os componentes principais do Embasamento de Contexto incluem:

Figura 1. Arquitetura do componente que embasa o contexto

Ingestão e indexação: prepare seus dados de negócios para o LLM

• Ingestão: converta dados de negócios em incorporações representativas usando modelos de incorporação gerenciados pela UiPath.
• Incorporação: uma representação de dados de negócios que um LLM pode entender e pesquisar.
• Índice: uma pasta em um banco de dados de vetores que organiza as incorporações.
• Bancos de dados de vetor: banco de dados de vetor gerenciado pela UiPath que armazena incorporações organizadas em índices.

Recuperação

• Pesquise dados de negócios prontos para LLM para encontrar as informações mais relevantes. A Embasamento de contexto usa uma variedade de técnicas de extração, agrupamento, recuperação e reclassificação que são otimizadas com base em diferentes formatos de dados e consultas.
• Interprete o prompt como uma consulta para pesquisar por meio de incorporações e produza os resultados mais relevantes com base na pesquisa de similaridade de cosseno. Esses resultados da pesquisa são uma etapa intermediária e percursora do RAG para aumentar os prompts com contexto relevante dos dados de negócios.

Retrieval Augmented Generation

• Embase e atualize os prompts com as informações mais relevantes dos resultados da pesquisa de similaridade semântica e, em seguida, execute uma geração por meio de um LLM hospedado pelo LLM Gateway da AI Trust Layer.

Principais funcionalidades

Aqui estão alguns dos principais recursos do Embasamento de contexto:

• Compatibilidade com vários documentos: arquivos PDF, JSON, CSV, XLS, DOCX, TXT.
• Pipelines de ingestão e indexação gerenciados: o UiPath otimiza a ingestão e a indexação de dados em bancos de dados de vetores gerenciados pelo UiPath.
• Várias superfície: o Contexto embasamento está atualmente disponível como parte das atividades da UiPath GenAI, AI Trust Layer (com uma interface gráfica dedicada) e o Autopilot para todos.
• Recuperação de dados: consulta em documentos ou entre conjuntos de dados usando uma variedade de técnicas (por exemplo, transformação de consultas, incorporação, ajuste fino, etc.) para garantir que os resultados da pesquisa sejam altamente relevantes.
• Geração aumentada de recuperação: prompts de base por meio de just-in-time (JIT) na memória ou sobre uma base de conhecimento.
• Prova de conhecimento: fornece uma menção da fonte de referência e do texto da pesquisa de similaridade semântica.
• Suporte ao streaming: suporte à API de streaming para mostrar a geração à medida que é produzida.
• Suporte multilíngue: capacidade de ingerir e consultar documentos em todos os idiomas codificados em UTF-8.
• Suporte para várias fontes de dados:
  • Entidades do bucket do UiPath Orchestrator: você pode ingerir, indexar e consultar dados armazenados em pastas compartilhadas em entidades do bucket do Orchestrator.
  • Sistemas de armazenamento de documentos: por meio de conectores do Integration Service, como Microsoft OneDrive & SharePoint e Google Drive: o Context Backgrounding pode acessar dados armazenados diretamente em aplicativos de terceiros.

Limitações e considerações

• A ancoragem de contexto atualmente é compatível com tipos de arquivos específicos: PDF, JSON, CSV, XLS, DOCX, TXT.
• Há um limite de dez índices por tenant. Recomendamos que você mantenha uma relação de 1-1 com eles e o caminho da pasta na origem de dados que você deseja usar.
• O Contexto Embasamento respeita as permissões de pasta e autorização para entidades de pasta compartilhada. Os usuários que não têm as permissões apropriadas podem não conseguir ver, atualizar, excluir ou usar índices associados a pastas às quais não têm permissões.
• Para usar a embasamento de contexto por meio das atividades da UiPath GenAI, você deve usar o Studio Web ou o Studio Desktop versão 2024.4 ou mais recente. Para obter mais informações, consulte a seção Introdução .