Ai Trust Layer

Habilite las puertas de enlace de IA personalizadas en AI Trust Layer para conectar modelos de IA propios a través de Integration Service en OpenShift.

Habilitar puertas de enlace de IA personalizadas

La característica de puerta de enlace de IA propia habilita plantillas de conector personalizadas en AI Trust Layer, lo que te permite conectar tus propios modelos de IA a través del Creador de conectores de Integration Service. Debes habilitar esta característica durante la instalación editando el archivo de configuración input.json .

1. Abre input.json y añade o edita la siguiente configuración en el componente platform :

   {
     "platform": {
       "advanced_configuration": {
         "portal": {
           "llm_configurations": {
             "enableByoAiGateway": true
           }
         }
       }
     }
   }
   

2. Añade o edita la siguiente configuración en el componente llmgateway :

   {
     "llmgateway": {
       "advanced_configuration": {
         "enableByoAiGateway": true
       }
     }
   }
   

3. Guarda input.json y continúa con la instalación.

Una vez habilitada, la opción Crear conector personalizado en la AI Trust Layer estará disponible, lo que te permite configurar conexiones LLM personalizadas utilizando las plantillas del Creador de conectores.

Para obtener más detalles, consulta:

• Configurar LLM
• Guía práctica: conectar Mistral a través de AI Trust Layer