- Introdução
- Segurança de dados e conformidade
- Organizações
- Autenticação e segurança
- Licenciamento
- Sobre as licenças
- Preço unificado: estrutura do plano de licenciamento
- Ativar sua licença Enterprise
- Migre do Test Suite para o Test Cloud
- Migração de licença
- Atribuição de Licenças a Tenants
- Atribuição de licenças aos usuários
- Desalocando licenças de usuário
- Monitoring license allocation
- Atribuição excessiva de licenças
- Notificações de licenciamento
- Gerenciamento de Licenças de Usuário
- Tenants e serviços
- Contas e funções
- AI Trust Layer
- Sobre a Camada de Confiança da IA
- Verificando o resumo de uso
- Visualização de logs de auditoria
- Gerenciamento de políticas da Camada de confiança da IA
- Mascaramento de PII
- Gerenciamento Autopilot for Everyone
- Configuração de LLMs
- Restrição de chamadas de LLM para seus próprios modelos
- Configuração do OpenTelemetry
- Governando dados contextuais para funcionalidades da GenAI
- Aplicativos Externos
- Notificações
- Geração de logs
- Exportação de dados
- Testes em sua organização
- Solução de problemas
- Migração para o Test Cloud
Opções de configuração de LLM no AI Trust Layer para conectar grandes modelos de linguagem personalizados ou baseados em assinatura aos serviços do Test Cloud.
A guia Configurações de LLM permite que você integre suas assinaturas de IA existentes enquanto mantém a estrutura de governança fornecida pela UiPath. Você pode:
- Substituir assinatura de LLM da UiPath: substitua as assinaturas gerenciadas pela UiPath por suas próprias, desde que correspondam à mesma família e versão do modelo que já são compatíveis com o produto da UiPath. Isso permite a troca perfeita de modelos gerenciados pela UiPath por seus modelos assinados.
- Adicione seu próprio LLM: use qualquer LLM que atenda aos critérios de compatibilidade do produto. Para garantir uma integração suave, seu LLM escolhido deve passar por uma série de testes iniciados por meio de uma chamada de investigação antes de poder ser usado dentro do ecossistema da UiPath.
O acesso a modelos gerenciados pela UiPath e/ou configurações de LLM depende da plataforma de cloud que você usa. Para obter detalhes, consulte a disponibilidade de funcionalidade do Test Cloud.
A configuração de LLMs preserva a maioria dos benefícios de governança do AI Trust Layer, incluindo a aplicação de políticas por meio do Automation Ops e logs de auditoria detalhados.No entanto, as políticas de governança do modelo foram criadas especificamente para LLMs gerenciados pela UiPath.
Isso significa que, se você desabilitar um modelo específico por meio de uma política do AI Trust Layer, a restrição aplica-se apenas à versão gerenciada pela UiPath desse modelo. Seus próprios modelos configurados do mesmo tipo permanecem inalterados.
Ao aproveitar a opção de usar seu próprio LLM ou assinatura, tenha os seguintes pontos em mente:
- Requisitos de compatibilidade: seu LLM ou assinatura escolhida deve alinhar-se à família de modelos e à versão compatíveis com o produto da UiPath.
- Configuração: certifique-se de configurar e manter corretamente todos os LLMs necessários na configuração personalizada. Se algum componente estiver ausente, desatualizado ou configurado incorretamente, sua configuração personalizada pode parar de funcionar. Nesses casos, o sistema reverterá automaticamente para um LLM gerenciado pela UiPath para garantir a continuidade do serviço, a menos que os LLMs da UiPath sejam desativados por meio de uma política do Automation Ops.
- Economia de custos: se sua configuração de LLM personalizada estiver completa, correta e atender a todos os requisitos necessários, você pode se qualificar para uma taxa de consumo reduzida.
Licenciamento
As configurações do LLM estão disponíveis nos seguintes planos de licenciamento:
- Unified Pricing: Plataforma Enterprise, Plataforma Standard, Plataforma Básica, Plataforma de Teste de App Enterprise, Plataforma de Teste de Aplicativo Standard.
- Flex: plataforma avançada, plataforma Flex padrão.
How LLM requests are routed
Every LLM call from a UiPath product passes through the AI Trust Layer LLM gateway before it reaches the model, whether the model is UiPath-managed or your own. The diagrams below show the connectivity patterns available for your own models: a direct connection to a publicly reachable provider, and a Relay-mediated connection to a model hosted in a private network.
Direct connectivity through Integration Service
With direct connectivity, the product sends the request to the LLM gateway, which routes it through the Integration Service connection you created for your provider. The connection carries the request across the boundary into your provider's domain, and the response travels back along the same path.
The gateway stays in the path in both directions, so policy enforcement and audit logging apply to every call even though the model is yours.
Private network connectivity through Relay
If your model is hosted on-premises or in a private network with no public endpoint, Relay provides the connection to it. The LLM gateway and Integration Service behave the same as in direct connectivity. The UiPath relay infrastructure then forwards the request through the outbound tunnel that a Relay client inside your network keeps open, and the client calls your model locally.
For this connectivity pattern, the model endpoint must be registered under a Relay Group with Private selected as the connection type when creating the Integration Service connection. For details, refer to Using Relay.
Definição de uma configuração do LLM
A configuração do LLM depende do Integration Service para estabelecer a conexão com seus próprios modelos. Você pode criar conexões com os seguintes provedores:
- Azure Open AI
- OpenAI
- Amazon Web Services
- Anthropic Claude
- Google Vertex
- Open AI V1 Compliant LLM – Use essa opção para se conectar a qualquer provedor de LLM cuja API siga o padrão OpenAI V1. Para obter detalhes, consulte a documentação do conector OpenAI V1 Compliant LLM.
Observação:
Para usar conexões do Integration Service, você deve adicionar os intervalos de IP de saída do Integration Service à sua lista de permissões.
Para configurar uma nova conexão, siga estas etapas:
1. Criar a conexão com o Integration Service
- No Integration Service, crie uma conexão com seu provedor de LLM.
- Escolha a pasta onde a conexão será armazenada.
- Conclua a autenticação conforme exigido pelo conector selecionado.
Observação:
A pasta que você escolher controla a segurança e a visibilidade. Para evitar acesso não autorizado, crie a conexão do Integration Service em uma pasta privada, não compartilhada. No entanto, observe que a visibilidade do modelo é determinada pelo acesso a essa pasta. Se um administrador não tiver acesso a ele, a configuração do modelo associado não aparecerá na lista.
2. Adicionar uma nova configuração de LLM
- Navegue até Administrador > AI Trust Layer > configurações do LLM.
- Selecione o Tenant.
- Selecione Adicionar configuração.
- Escolha o Produto (por exemplo, Agentes) e a Recurso (por exemplo, Projetar, Avaliar e implantar).
- Selecione a pasta Conexões.
3. Configurar o modelo
Na seção Configuração do modelo , preencha os seguintes campos:
- Nome do LLM – Esse campo é compatível com duas opções de configuração, dependendo do seu caso de uso:
- Selecione um modelo da lista – Escolher um modelo da lista predefinida substitui a assinatura do LLM gerenciada pela UiPath por sua própria assinatura para o mesmo modelo. Esse cenário é chamado de traga sua própria assinatura (BYOS).
- Adicionar alias personalizado – Inserir um nome personalizado permite que você configure um modelo que não está incluído na lista predefinida de modelos recomendados para esse produto. Referimo-nos a esse cenário como Traga seu próprio modelo (BYOM).
Observação:
A opção Adicionar um alias personalizado está disponível apenas para produtos que são compatíveis com modelos personalizados. Para saber quais produtos são compatíveis com modelos personalizados, consulte a tabela abaixo.
- Tipo de API – O ponto de extremidade de API suportado pelo LLM (por exemplo, Compleções do chat do Open AI). Isso deve corresponder ao endpoint exposto por seu provedor.
- Conector - O conector do Integration Service (por exemplo, Microsoft Azure OpenAI, Amazon Web Services).
- Conexão – A conexão específica do Integration Service criada anteriormente. Se nenhuma conexão estiver disponível, crie uma no Integration Service.
- Identificador do LLM – O identificador do modelo exatamente como aparece em sua assinatura do LLM.
- Para modelos hospedados no Azure: insira o nome/identificador da implantação do modelo.
- Para a inferência entre regiões do AWS Bedrock: insira o ID do perfil de inferência. Você deve anexar o ID do modelo com seu código de região, por exemplo:
eu.anthropic.claude-3-5-sonnet-20240620-v1:0. - Para outros provedores: use o nome do modelo conforme definido em sua assinatura.
Ao configurar seu próprio LLM, você pode opcionalmente restringir quais modelos de linguagem abrangentes estão disponíveis para uso em sua organização. Se você quiser garantir que apenas seus modelos personalizados sejam usados, você pode desabilitar modelos de terceiros gerenciados pela UiPath aplicando uma política de AI Trust Layer. Verifique a seção Modelos na documentação de políticas da AI Trust Layer.
4. Validar e salvar
-
Selecione Configuração de teste para verificar se o ponto de extremidade é acessível.
- A plataforma valida a conectividade.
- Garantir que o modelo correto esteja configurado continua sendo sua responsabilidade.
-
Se a validação for bem-sucedida, selecione Salvar para ativar a configuração.
Gerenciamento de conexões existentes do LLM
Você pode executar as seguintes ações em suas conexões existentes:
- Verificar status – Verifique o status da sua conexão do Integration Service. Essa ação garante que a conexão esteja ativa e funcionando corretamente.
- Editar – Modifique quaisquer parâmetros de sua conexão existente.
- Desabilitar – Suspender temporariamente a conexão. Quando desabilitada, a conexão permanece visível na sua lista mas não roteia nenhuma chamada. Você pode reabilitar a conexão quando necessário.
- Excluir - Remove permanentemente a conexão do seu sistema. Essa ação desabilita a conexão e a remove de sua lista.
Configuração de LLMs para seu produto
Cada produto é compatível com modelos de linguagem abrangentes (LLMs) e versões específicas. Use a tabela abaixo para identificar os modelos e versões compatíveis com o seu produto.
Você pode conectar seu próprio LLM usando um dos seguintes provedores: Amazon Web Services, Google Vertex, Microsoft Azure OpenAI ou OpenAI V1 Compatível. Siga as etapas descritas na seção anterior para criar uma conexão.
Compatibilidade com arquivos: algumas funcionalidades do produto dependem do ponto de extremidade do LLM configurado para processar arquivos carregados. Ao usar configurações de LLM personalizadas, a compatibilidade com formatos de arquivo depende do provedor, da família de modelos, da versão do modelo e do tipo de API.Verifique se o modelo selecionado é compatível com os formatos de arquivo necessários antes de habilitar funcionalidades baseadas em arquivos. Para requisitos específicos do produto, consulte a documentação relevante do produto — por exemplo, Analisar arquivos para Agents.
O número de modelos que você deve configurar depende do produto e da funcionalidade:
- Para funcionalidades com um modelo selecionável — em que você escolhe qual modelo usar — você pode configurar um ou mais modelos; modelos não configurados continuam a usar assinaturas gerenciadas pela UiPath.
- Para funcionalidades com um conjunto fixo de modelos — em que a funcionalidade usa um conjunto predeterminado de modelos — você deve configurar todos os modelos para que a funcionalidade funcione; a configuração parcial não é válida.
| Produto | Compatível com modelos personalizados | Recurso | LLM | Main LLM versions |
|---|---|---|---|---|
| Agentes 1 | Sim | Projetar, avaliar e implantar | OpenAI |
|
| Anthropic |
| |||
| ||||
| Autopilot | Sim | Chat | OpenAI |
|
| Anthropic |
| |||
| ||||
| Fireworks AI |
| |||
| Geração |
| |||
| Autopilot para todos | Sim | Chat | Anthropic |
|
| OpenAI |
| |||
| Agentes codificados | Sim | Call LLMs | OpenAI |
|
| Anthropic |
| |||
| ||||
| Embasamento de contexto | Sim | Ingestão Avançada |
| |
| Transformação em lote |
| |||
| Transformação em lote com a Pesquisa na Web |
| |||
| Deep RAG |
| |||
| Incorporações |
| |||
| Atividades da GenAI | Sim | Crie, teste e implante | Anthropic |
|
| OpenAI |
| |||
| ||||
| Agente de Recuperação | Sim | Workflow recovery |
| |
| OpenAI |
| |||
| Automação de Interface Gráfica | Não | ScreenPlay | Anthropic |
|
| ||||
| OpenAI |
| |||
| Seletores semânticos |
| |||
| Atividades semânticas |
| |||
| OpenAI |
| |||
| Test Manager | Sim | Pesquisa do Autopilot | Anthropic |
|
| OpenAI |
| |||
| ||||
| Encontrar Testes Obsoletos | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Gerar casos de teste | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Importar Casos de Teste | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Gerar relatórios | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Avaliação de requisitos | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| IXP (Extração e Processamento Inteligente) | Sim | Documentos complexos e não estruturados | OpenAI |
|
| ||||
| ScreenPlay | Sim | Screen Play | OpenAI |
|
| ||||
| Anthropic |
| |||
| Atividades semânticas |
| |||
| OpenAI |
| |||
| Seletores semânticos |
|
1 Requisitos dos Agents:
- Certifique-se de que seu LLM seja compatível:
- Chamada da ferramenta (função) – O modelo deve ser capaz de chamar ferramentas ou funções durante a execução.
- Desabilitar chamadas de ferramentas paralelas – Se seu provedor oferecer suporte, o modelo deve disponibilizar a opção de desabilitar chamadas de ferramentas paralelas.
- Ao usar modelos personalizados, os Agents usam por padrão um limite de 4096 tokens, independentemente da verdadeira capacidade do modelo, pois a UiPath não pode inferir limites de tokens para implantações definidas pelo cliente.
- Licenciamento
- How LLM requests are routed
- Direct connectivity through Integration Service
- Private network connectivity through Relay
- Definição de uma configuração do LLM
- 1. Criar a conexão com o Integration Service
- 2. Adicionar uma nova configuração de LLM
- 3. Configurar o modelo
- 4. Validar e salvar
- Gerenciamento de conexões existentes do LLM
- Configuração de LLMs para seu produto