Ai Trust Layer

Habilite las puertas de enlace de IA personalizadas y la característica de puerta de enlace de IA propia en AI Trust Layer en EKS/AKS.

Habilitar puertas de enlace de IA personalizadas

The Bring-your-own AI gateway feature enables custom connector templates in the AI Trust Layer, allowing you to connect your own AI models through Integration Service's Connector Builder. You must enable this feature during installation by editing the input.json configuration file.

1. Abre input.json y añade o edita la siguiente configuración en el componente platform :

   {
     "platform": {
       "advanced_configuration": {
         "portal": {
           "llm_configurations": {
             "enableByoAiGateway": true
           }
         }
       }
     }
   }
   

2. Añade o edita la siguiente configuración en el componente llmgateway :

   {
     "llmgateway": {
       "advanced_configuration": {
         "enableByoAiGateway": true
       }
     }
   }
   

3. Guarda input.json y continúa con la instalación.

Una vez habilitada, la opción Crear conector personalizado en la AI Trust Layer estará disponible, lo que te permite configurar conexiones LLM personalizadas utilizando las plantillas del Creador de conectores.

Para obtener más detalles, consulta:

• Configurar LLM
• Guía práctica: conectar Mistral a través de AI Trust Layer