Conexão de LLMs personalizados por meio da AI Trust Layer

Use custom Integration Service connectors in AI Trust Layer to connect LLM providers that lack a built-in connector.

Observação:

This capability is currently generally available for enterprise customers upon request.

A guia Configurações de LLM da AI Trust Layer permite conectar LLMs externos aos produtos da UiPath usando conectores personalizados do Integration Service. Essa abordagem roteia chamadas de LLM por meio da AI Trust Layer, dando a você os mesmos controles de governança, auditoria e políticas que os modelos compatíveis nativamente.

Custom connectors are required when the LLM provider is not already available as a built-in connector in Integration Service. You build the connector from a template in Connector Builder, configure gateway credentials, and register the model under a custom alias.

Os seguintes guias cobrem cenários de integração específicos:

• Guia de instruções: conexão do Mistral por meio da AI Trust Layer — Conecta um modelo Mistral usando o modelo Azure OpenAI, com ajustes para requisitos específicos do modelo.
• How-to guide: Connecting open-source models through AI Trust Layer — Connects an open-source model hosted on an OpenAI-compatible gateway such as Fireworks, using the OpenAI V1 Compliant LLM template.