Configuração de um LLM para o Autopilot

Configure sua própria assinatura de LLM para o Autopilot por meio da AI Trust Layer, para as funcionalidades Geração e Chat.

O cartão da AI Trust Layer na seção Admin de sua organização permite que você configure sua própria assinatura para os modelos compatíveis com o Autopilot.

Para configurar seu próprio LLM, você precisa de uma conexão com os seguintes provedores de IA, dependendo do modelo que deseja incorporar:

• Amazon Bedrock ou Amazon Web Services, para modelos Anthropic
• Google Vertex, para modelos Gemini.
  Importante:

  Para configurar um modelo Gemini, você precisa entrar em contato com o gerente técnico de contas da UiPath designado.

Quando você seleciona o Autopilot como o produto para o qual você deseja configurar seu próprio LLM, você deve selecionar a funcionalidade que usará esse modelo:

Geração

Configure seu próprio LLM para gerar automações, expressões ou aplicativos em seus projetos do Studio. Você precisa substituir todos os modelos padrão pelos seus próprios:

1. Acesse seu Administrador > seção AI Trust Layer de sua organização.

2. Na guia Configurações de LLM , selecione o tenant onde você deseja configurar seu LLM.

3. Selecione Adicionar configuração e forneça as seguintes propriedades:

   1. Produto - selecionar Autopilot
   2. Funcionalidade - selecione Geração

4. Forneça a pasta Conexões.

5. Para cada Nome de LLM padrão, configure um novo Conector e uma Conexão para seu próprio modelo.

   

Chat

Configure um LLM diferente para ler o contexto da sua página ou projeto atual e responder a perguntas, explicar automações ou sugerir melhorias. O modelo que você configura substitui o modelo existente. O chat do Autopilot usa um modelo primário para tarefas complexas e um modelo secundário opcional para tarefas mais simples e otimizadas de custos.

1. Acesse seu Administrador > seção AI Trust Layer de sua organização.

2. Na guia Configurações de LLM , selecione o tenant onde você deseja configurar seu LLM.

3. Selecione Adicionar configuração e forneça as seguintes propriedades:

   1. Produto - selecionar Autopilot
   2. Funcionalidade - selecione Chat

4. Forneça a pasta Conexões.

5. Configure seu novo modelo.

   

Importante:

Se você configurar um modelo primário e secundário, uma dica de ferramenta exibe os nomes de ambos os modelos e confirma que o modelo secundário é usado para otimização. Se você configurar apenas o modelo primário, um aviso sinaliza a configuração secundária ausente, e o modelo primário lida com todas as tarefas — incluindo aquelas mais simples que o sistema descarregaria para um modelo secundário mais leve. Deixar o modelo secundário não configurado define como padrão uma assinatura de propriedade da UiPath para organizações do Automation Cloud ou pode limitar os recursos de chat, como a compactação de contexto para organizações do Automation Suite.

Para obter detalhes, consulte Configuração de uma conexão do LLM.

Para obter a lista de modelos compatíveis com o Autopilot e seus limites de janela de contexto e token de saída, consulte Modelos e limites compatíveis.

O Produto e a Funcionalidade que você seleciona aqui (Autopilot > Geração ou Autopilot > Chat) determinam qual configuração de LLM se aplica. O hub do modelo mostra o modelo, provedor, região e status resultantes para produtos como o Test Manager, que não é selecionável lá — use as etapas nesta página (ou remova a configuração) para alterar o modelo. O hub do modelo mostra apenas o resultado e o histórico de configuração.

Importante:

Você é responsável pelo ciclo de vida de qualquer configuração de LLM personalizada que definir aqui. Quando o modelo subjacente está obsoleto, você é notificado com pelo menos 30 dias de antecedência, no aplicativo e por e-mail, e deve migrar para uma substituição antes da data de descontinuação; caso contrário, as solicitações por meio dessa configuração falharão.

Para obter detalhes, consulte Hub de modelo e Gerenciamento de modelos no hub de modelo.