Conexão de LLMs personalizados por meio da AI Trust Layer

Use conectores personalizados do Integration Service na AI Trust Layer para conectar provedores de LLM que não têm um conector integrado.

Observação:

Esse recurso está disponível de forma geral para clientes empresariais, mediante solicitação.

A guia Configurações de LLM da AI Trust Layer permite conectar LLMs externos aos produtos da UiPath usando conectores personalizados do Integration Service. Essa abordagem roteia chamadas de LLM por meio da AI Trust Layer, dando a você os mesmos controles de governança, auditoria e políticas que os modelos compatíveis nativamente.

Conectores personalizados são necessários quando o provedor de LLM já não está disponível como um conector integrado no Integration Service. Você cria o conector a partir de um modelo no Connector Builder, configura as credenciais do gateway e registra o modelo em um alias personalizado.

Os seguintes guias cobrem cenários de integração específicos:

• Guia de instruções: conexão do Mistral por meio da AI Trust Layer — Conecta um modelo Mistral usando o modelo Azure OpenAI, com ajustes para requisitos específicos do modelo.
• Guia de instruções: conexão de modelos de código aberto por meio da AI Trust Layer — Conecta um modelo de código aberto hospedado em um gateway compatível com OpenAI, como o Fireworks, usando o modelo OpenAI V1 Compliant LLM.