- Introdução
- Segurança de dados e conformidade
- Organizações
- Autenticação e segurança
- Licenciamento
- Sobre as licenças
- Preço unificado: estrutura do plano de licenciamento
- Ativar sua licença Enterprise
- Migre do Test Suite para o Test Cloud
- Migração de licença
- Atribuição de Licenças a Tenants
- Atribuição de licenças aos usuários
- Desalocando licenças de usuário
- Monitoring license allocation
- Atribuição excessiva de licenças
- Notificações de licenciamento
- Gerenciamento de Licenças de Usuário
- Tenants e serviços
- Contas e funções
- AI Trust Layer
- Sobre a Camada de Confiança da IA
- Verificando o resumo de uso
- Visualização de logs de auditoria
- Gerenciamento de políticas da Camada de confiança da IA
- Mascaramento de PII
- Gerenciamento Autopilot for Everyone
- Configuração de LLMs
- Restrição de chamadas de LLM para seus próprios modelos
- Configuração do OpenTelemetry
- Governando dados contextuais para funcionalidades da GenAI
- Aplicativos Externos
- Notificações
- Geração de logs
- Exportação de dados
- Testes em sua organização
- Solução de problemas
- Migração para o Test Cloud
Opções de configuração de LLM no AI Trust Layer para conectar grandes modelos de linguagem personalizados ou baseados em assinatura aos serviços do Test Cloud.
A guia Configurações de LLM permite que você integre suas assinaturas de IA existentes enquanto mantém a estrutura de governança fornecida pela UiPath. Você pode:
- Substituir assinatura de LLM da UiPath: substitua as assinaturas gerenciadas pela UiPath por suas próprias, desde que correspondam à mesma família e versão do modelo que já são compatíveis com o produto da UiPath. Isso permite a troca perfeita de modelos gerenciados pela UiPath por seus modelos assinados.
- Adicione seu próprio LLM: use qualquer LLM que atenda aos critérios de compatibilidade do produto. Para garantir uma integração suave, seu LLM escolhido deve passar por uma série de testes iniciados por meio de uma chamada de investigação antes de poder ser usado dentro do ecossistema da UiPath.
O acesso a modelos gerenciados pela UiPath e/ou configurações de LLM depende da plataforma de cloud que você usa. Para obter detalhes, consulte a disponibilidade de funcionalidade do Test Cloud.
A configuração de LLMs preserva a maioria dos benefícios de governança do AI Trust Layer, incluindo a aplicação de políticas por meio do Automation Ops e logs de auditoria detalhados.No entanto, as políticas de governança do modelo foram criadas especificamente para LLMs gerenciados pela UiPath.
Isso significa que, se você desabilitar um modelo específico por meio de uma política do AI Trust Layer, a restrição aplica-se apenas à versão gerenciada pela UiPath desse modelo. Seus próprios modelos configurados do mesmo tipo permanecem inalterados.
Ao aproveitar a opção de usar seu próprio LLM ou assinatura, tenha os seguintes pontos em mente:
- Requisitos de compatibilidade: seu LLM ou assinatura escolhida deve alinhar-se à família de modelos e à versão compatíveis com o produto da UiPath.
- Configuração: certifique-se de configurar e manter corretamente todos os LLMs necessários na configuração personalizada. Se algum componente estiver ausente, desatualizado ou configurado incorretamente, sua configuração personalizada pode parar de funcionar. Nesses casos, o sistema reverterá automaticamente para um LLM gerenciado pela UiPath para garantir a continuidade do serviço, a menos que os LLMs da UiPath sejam desativados por meio de uma política do Automation Ops.
- Economia de custos: se sua configuração de LLM personalizada estiver completa, correta e atender a todos os requisitos necessários, você pode se qualificar para uma taxa de consumo reduzida.
Licenciamento
As configurações do LLM estão disponíveis nos seguintes planos de licenciamento:
- Unified Pricing: Community, Plataforma Enterprise, Standard Platform, Basic Platform, App Test Platform Enterprise, App Test Platform Standard.
- Flex: plataforma avançada, plataforma Flex padrão.
Como as solicitações de LLM são roteadas
Cada chamada de LLM de um produto da UiPath passa pelo gateway de LLM da AI Trust Layer antes de chegar ao modelo, seja o modelo gerenciado pela UiPath ou seu próprio. Os diagramas abaixo mostram os padrões de conectividade disponíveis para seus próprios modelos: uma conexão direta com um provedor acessível ao público, uma conexão mediada por Relay com um modelo hospedado em uma rede privada e um conector personalizado para um modelo por trás do seu próprio gateway de IA.
Conectividade direta por meio do Integration Service
Com conectividade direta, o produto envia a solicitação para o gateway de LLM, que a roteia por meio da conexão do Integration Service que você criou para seu provedor. A conexão carrega a solicitação através do limite para o domínio do seu provedor, e a resposta retorna pelo mesmo caminho.
O gateway permanece no caminho em ambas as direções, portanto, a aplicação de políticas e o registro de auditoria se aplicam a todas as chamadas, mesmo que o modelo seja seu.
Conectividade de rede privada via relay
Se seu modelo estiver hospedado no local ou em uma rede privada sem ponto de extremidade público, o Relay fornecerá a conexão para ele. O Gateway de LLM e o Integration Service comportam-se da mesma forma que na conectividade direta. A infraestrutura de relay da UiPath encaminha a solicitação pelo túnel de saída que um cliente de Relay dentro de sua rede mantém aberto, e o cliente chama seu modelo localmente.
Para esse padrão de conectividade, o endpoint do modelo deve ser registrado em um Grupo de Relay com Privado selecionado como o tipo de conexão ao criar a conexão do Integration Service. Para obter detalhes, consulte Como usar o relay.
Conectividade do gateway de IA por meio de um conector personalizado
Se seu modelo estiver atrás de seu próprio gateway de IA ou exponha uma API que nenhum conector integrado é compatível, um conector personalizado do Integration Service une os dois formatos. O gateway de LLM envia e recebe o formato padrão de solicitação e resposta, e o conector traduz entre esse formato e aquele que seu gateway espera, em ambas as direções. Para obter detalhes, consulte Conexão de LLMs personalizados por meio da AI Trust Layer.
Definição de uma configuração do LLM
A configuração do LLM depende do Integration Service para estabelecer a conexão com seus próprios modelos. Você pode criar conexões com os seguintes provedores:
- Azure Open AI
- OpenAI
- Amazon Web Services
- Anthropic Claude
- Google Vertex
- Open AI V1 Compliant LLM – Use essa opção para se conectar a qualquer provedor de LLM cuja API siga o padrão OpenAI V1. Para obter detalhes, consulte a documentação do conector OpenAI V1 Compliant LLM.
Observação:
Para usar conexões do Integration Service, você deve adicionar os intervalos de IP de saída do Integration Service à sua lista de permissões.
Para configurar uma nova conexão, siga estas etapas:
1. Criar a conexão com o Integration Service
- No Integration Service, crie uma conexão com seu provedor de LLM.
- Escolha a pasta onde a conexão será armazenada.
- Conclua a autenticação conforme exigido pelo conector selecionado.
Observação:
A pasta que você escolher controla a segurança e a visibilidade. Para evitar acesso não autorizado, crie a conexão do Integration Service em uma pasta privada, não compartilhada. No entanto, observe que a visibilidade do modelo é determinada pelo acesso a essa pasta. Se um administrador não tiver acesso a ele, a configuração do modelo associado não aparecerá na lista.
2. Adicionar uma nova configuração de LLM
- Navegue até Administrador > AI Trust Layer > configurações do LLM.
- Selecione o Tenant.
- Selecione Adicionar configuração.
- Escolha o Produto (por exemplo, Agentes) e a Recurso (por exemplo, Projetar, Avaliar e implantar).
- Selecione a pasta Conexões.
3. Configurar o modelo
Na seção Configuração do modelo , preencha os seguintes campos:
- Nome do LLM – Esse campo é compatível com duas opções de configuração, dependendo do seu caso de uso:
- Selecione um modelo da lista – Escolher um modelo da lista predefinida substitui a assinatura do LLM gerenciada pela UiPath por sua própria assinatura para o mesmo modelo. Esse cenário é chamado de traga sua própria assinatura (BYOS).
- Adicionar alias personalizado – Inserir um nome personalizado permite que você configure um modelo que não está incluído na lista predefinida de modelos recomendados para esse produto. Referimo-nos a esse cenário como Traga seu próprio modelo (BYOM).
Observação:
A opção Adicionar um alias personalizado está disponível apenas para produtos que são compatíveis com modelos personalizados. Para saber quais produtos são compatíveis com modelos personalizados, consulte a tabela abaixo.
- Tipo de API – O ponto de extremidade de API suportado pelo LLM (por exemplo, Compleções do chat do Open AI). Isso deve corresponder ao endpoint exposto por seu provedor.
- Conector - O conector do Integration Service (por exemplo, Microsoft Azure OpenAI, Amazon Web Services).
- Se você tiver acesso aos conectores personalizados para a AI Trust Layer (atualmente disponível mediante solicitação para clientes empresariais), você também pode selecionar Criar conector personalizado para usar um modelo predefinido por meio do Connector Builder. Para obter detalhes, consulte Conexão de LLMs personalizados por meio da AI Trust Layer.
- Conexão – A conexão específica do Integration Service criada anteriormente. Se nenhuma conexão estiver disponível, crie uma no Integration Service.
- Identificador do LLM – O identificador do modelo exatamente como aparece em sua assinatura do LLM.
- Para modelos hospedados no Azure: insira o nome/identificador da implantação do modelo.
- Para a inferência entre regiões do AWS Bedrock: insira o ID do perfil de inferência. Você deve anexar o ID do modelo com seu código de região, por exemplo:
eu.anthropic.claude-3-5-sonnet-20240620-v1:0. - Para outros provedores: use o nome do modelo conforme definido em sua assinatura.
Ao configurar seu próprio LLM, você pode opcionalmente restringir quais modelos de linguagem abrangentes estão disponíveis para uso em sua organização. Se você quiser garantir que apenas seus modelos personalizados sejam usados, você pode desabilitar modelos de terceiros gerenciados pela UiPath aplicando uma política de AI Trust Layer. Verifique a seção Modelos na documentação de políticas da AI Trust Layer.
4. Validar e salvar
-
Selecione Configuração de teste para verificar se o ponto de extremidade é acessível.
- A plataforma valida a conectividade.
- Garantir que o modelo correto esteja configurado continua sendo sua responsabilidade.
-
Se a validação for bem-sucedida, selecione Salvar para ativar a configuração.
Gerenciamento de conexões existentes do LLM
Você pode executar as seguintes ações em suas conexões existentes:
- Verificar status – Verifique o status da sua conexão do Integration Service. Essa ação garante que a conexão esteja ativa e funcionando corretamente.
- Editar – Modifique quaisquer parâmetros de sua conexão existente.
- Desabilitar – Suspender temporariamente a conexão. Quando desabilitada, a conexão permanece visível na sua lista mas não roteia nenhuma chamada. Você pode reabilitar a conexão quando necessário.
- Excluir - Remove permanentemente a conexão do seu sistema. Essa ação desabilita a conexão e a remove de sua lista.
Configuração de LLMs para seu produto
Cada produto é compatível com modelos de linguagem abrangentes (LLMs) e versões específicas. Use a tabela abaixo para identificar os modelos e versões compatíveis com o seu produto.
Você pode conectar seu próprio LLM usando um dos seguintes provedores: Amazon Web Services, Google Vertex, Microsoft Azure OpenAI ou OpenAI V1 Compatível. Siga as etapas descritas na seção anterior para criar uma conexão.
Compatibilidade com arquivos: algumas funcionalidades do produto dependem do ponto de extremidade do LLM configurado para processar arquivos carregados. Ao usar configurações de LLM personalizadas, a compatibilidade com formatos de arquivo depende do provedor, da família de modelos, da versão do modelo e do tipo de API.Verifique se o modelo selecionado é compatível com os formatos de arquivo necessários antes de habilitar funcionalidades baseadas em arquivos. Para requisitos específicos do produto, consulte a documentação relevante do produto — por exemplo, Analisar arquivos para Agents.
O número de modelos que você deve configurar depende do produto e da funcionalidade:
- Para funcionalidades com um modelo selecionável — em que você escolhe qual modelo usar — você pode configurar um ou mais modelos; modelos não configurados continuam a usar assinaturas gerenciadas pela UiPath.
- Para funcionalidades com um conjunto fixo de modelos — em que a funcionalidade usa um conjunto predeterminado de modelos — você deve configurar todos os modelos para que a funcionalidade funcione; a configuração parcial não é válida.
| Produto | Compatível com modelos personalizados | Recurso | LLM | Versões principais do LLM |
|---|---|---|---|---|
| Agentes 1 | Sim | Projetar, avaliar e implantar | OpenAI |
|
| Anthropic |
| |||
| ||||
| Autopilot | Sim | Chat | OpenAI |
|
| Anthropic |
| |||
| ||||
| IA do Fireworks |
| |||
| Geração |
| |||
| Autopilot para todos | Sim | Chat | Anthropic |
|
| OpenAI |
| |||
| Agentes codificados | Sim | Chamar LLMs | OpenAI |
|
| Anthropic |
| |||
| ||||
| Embasamento de contexto | Sim | Ingestão Avançada |
| |
| Transformação em lote |
| |||
| Transformação em lote com a Pesquisa na Web |
| |||
| DeepRAG |
| |||
| Incorporações |
| |||
| Atividades da GenAI | Sim | Crie, teste e implante | Anthropic |
|
| OpenAI |
| |||
| ||||
| Agente de Recuperação | Sim | Recuperação do fluxo de trabalho |
| |
| OpenAI |
| |||
| Automação de Interface Gráfica | Não | ScreenPlay | Anthropic |
|
| ||||
| OpenAI |
| |||
| Seletores semânticos |
| |||
| Atividades semânticas |
| |||
| OpenAI |
| |||
| Test Manager | Sim | Pesquisa do Autopilot | Anthropic |
|
| OpenAI |
| |||
| ||||
| Encontrar Testes Obsoletos | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Gerar casos de teste | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Importar Casos de Teste | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Gerar relatórios | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Avaliação de requisitos | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| IXP (Extração e Processamento Inteligente) | Sim | Documentos complexos e não estruturados | OpenAI |
|
| ||||
| ScreenPlay | Sim | ScreenPlay | OpenAI |
|
| ||||
| Anthropic |
| |||
| Atividades semânticas |
| |||
| OpenAI |
| |||
| Seletores semânticos |
|
1 Requisitos dos Agents:
- Certifique-se de que seu LLM seja compatível:
- Chamada da ferramenta (função) – O modelo deve ser capaz de chamar ferramentas ou funções durante a execução.
- Desabilitar chamadas de ferramentas paralelas – Se seu provedor oferecer suporte, o modelo deve disponibilizar a opção de desabilitar chamadas de ferramentas paralelas.
- Ao usar modelos personalizados, os Agents usam por padrão um limite de 4096 tokens, independentemente da verdadeira capacidade do modelo, pois a UiPath não pode inferir limites de tokens para implantações definidas pelo cliente.
- Licenciamento
- Como as solicitações de LLM são roteadas
- Conectividade direta por meio do Integration Service
- Conectividade de rede privada via relay
- Conectividade do gateway de IA por meio de um conector personalizado
- Definição de uma configuração do LLM
- 1. Criar a conexão com o Integration Service
- 2. Adicionar uma nova configuração de LLM
- 3. Configurar o modelo
- 4. Validar e salvar
- Gerenciamento de conexões existentes do LLM
- Configuração de LLMs para seu produto