AI Trust Layer

Activez les passerelles d’IA personnalisées et apportez votre propre fonctionnalité de passerelle d’IA dans AI Trust Layer sur EKS/AKS.

Activer des passerelles d'IA personnalisées

La fonctionnalité de passerelle IA personnalisée utilise des modèles de connecteur personnalisés dans AI Trust Layer, ce qui vous permet de connecter vos propres modèles d'IA via le générateur de connecteurs d'Integration Service. Vous devez activer cette fonctionnalité lors de l'installation en modifiant le fichier de configuration input.json .

1. Ouvrez input.json et ajoutez ou modifiez la configuration suivante sous le composant platform :

   {
     "platform": {
       "advanced_configuration": {
         "portal": {
           "llm_configurations": {
             "enableByoAiGateway": true
           }
         }
       }
     }
   }
   

2. Ajoutez ou modifiez la configuration suivante sous le composant llmgateway :

   {
     "llmgateway": {
       "advanced_configuration": {
         "enableByoAiGateway": true
       }
     }
   }
   

3. Enregistrez input.json et procédez à l'installation.

Une fois activée, l'option Créer un connecteur personnalisé dans AI Trust Layer devient disponible, vous permettant de configurer des connexions LLM personnalisées à l'aide de modèles de générateur de connecteurs.

Pour des détails, reportez-vous à :

• Configuration des LLM
• Guide pratique : Connecter une connexion GET  Assistal via AI Trust Layer