Connecter des LLM personnalisés via AI Trust Layer

Utilisez des connecteurs Integration Service personnalisés dans AI Trust Layer pour connecter des fournisseurs LLM qui ne disposent pas de connecteur intégré.

Remarque :

Cette fonctionnalité est actuellement généralement disponible pour les clients Enterprise sur demande.

L'onglet Configurations LLM AI Trust Layer vous permet de connecter des LLM externes aux produits UiPath à l'aide de connecteurs Integration Service personnalisés. Cette approche achemine les appels LLM via AI Trust Layer, ce qui vous donne les mêmes droits de gouvernance, d'audit et de contrôle des politiques qu'avec les modèles pris en charge en mode natif.

Des connecteurs personnalisés sont requis lorsque le fournisseur LLM n’est pas déjà disponible en tant que connecteur intégré dans Integration Service. Vous créez le connecteur à partir d'un modèle dans le générateur de connecteurs, configurez les informations d'identification de la passerelle et enregistrez le modèle sous un alias personnalisé.

Les guides suivants couvrent des scénarios d'intégration spécifiques :

• Guide pratique : Connecter le modèle Connecting via AI Trust Layer — Connecte un modèle Modern à l'aide du modèle Azure OpenAI, avec des ajustements adaptés aux exigences spécifiques au modèle.
• Guide pratique: Connexion de modèles open source via AI Trust Layer — Connecte un modèle open source hébergé sur une passerelle compatible OpenAI telle que Fireworks, à l’aide du modèle LLM conforme à OpenAI V1.