Conexión de LLM personalizados a través de AI Trust Layer

La pestaña Configuraciones de LLM de AI Trust Layer te permite conectar LLM externos a productos de UiPath utilizando conectores personalizados de Integration Service. Este enfoque enruta las llamadas de LLM a través de la AI Trust Layer, lo que te ofrece los mismos controles de gobernanza, auditoría y políticas que con los modelos compatibles de forma nativa.

Los conectores personalizados son necesarios cuando el proveedor de LLM no está ya disponible como conector integrado en Integration Service. El conector se crea a partir de una plantilla en el Creador de conectores, se configuran las credenciales de la puerta de enlace y se registra el modelo con un alias personalizado.

Las siguientes guías cubren escenarios de integración específicos:

• Guía práctica: conectar Mistral a través de AI Trust Layer : conecta un modelo Mistral utilizando la plantilla de Azure OpenAI, con ajustes para los requisitos específicos del modelo.
• Guía práctica: conectar modelos OSS a través de AI Trust Layer : conecta un modelo de código abierto alojado en una puerta de enlace compatible con OpenAI como Fireworks, utilizando la plantilla LLM compatible con OpenAI V1.