Conexão de LLMs personalizados por meio da AI Trust Layer

Conecte LLMs personalizadas por meio da AI Trust Layer para o Test Cloud Privado no Automation Suite, incluindo as configurações necessárias e orientação de verificação.

A guia Configurações de LLM da AI Trust Layer permite conectar LLMs externos aos produtos da UiPath usando conectores personalizados do Integration Service. Essa abordagem roteia chamadas de LLM por meio da AI Trust Layer, dando a você os mesmos controles de governança, auditoria e políticas que os modelos compatíveis nativamente.

Conectores personalizados são necessários quando o provedor de LLM já não estiver disponível como um conector integrado no Integration Service. Você cria o conector a partir de um modelo no Construtor de Conector, configura as credenciais do gateway e registra o modelo em um alias personalizado.

Os seguintes guias cobrem cenários de integração específicos:

• Guia de instruções: conexão do Mistral por meio da AI Trust Layer — Conecta um modelo Mistral usando o modelo Azure OpenAI, com ajustes para requisitos específicos do modelo.
• Guia de instruções: conexão de modelos OSS por meio da AI Trust Layer — conecta um modelo de código aberto hospedado em um gateway compatível com OpenAI, como o Firefox, usando o modelo de LLM compatível com OpenAI V1.