AI Trust Layer

Aktivieren Sie benutzerdefinierte KI-Gateways im AI Trust Layer, um eigene KI-Modelle über Integration Service auf OpenShift zu verbinden.

Aktivieren von benutzerdefinierten KI-Gateways

Die Funktion Bring-your-own KI-Gateway ermöglicht benutzerdefinierte Connector-Vorlagen im AI Trust Layer, sodass Sie Ihre eigenen KI-Modelle über den Connector Builder von Integration Service verbinden können. Sie müssen diese Funktion während der Installation aktivieren, indem Sie die Konfigurationsdatei input.json bearbeiten.

1. Öffnen Sie input.json und fügen Sie die folgende Konfiguration unter der platform -Komponente hinzu oder bearbeiten Sie sie:

   {
     "platform": {
       "advanced_configuration": {
         "portal": {
           "llm_configurations": {
             "enableByoAiGateway": true
           }
         }
       }
     }
   }
   

2. Fügen Sie die folgende Konfiguration unter der Komponente llmgateway hinzu oder bearbeiten Sie sie:

   {
     "llmgateway": {
       "advanced_configuration": {
         "enableByoAiGateway": true
       }
     }
   }
   

3. Speichern Sie input.json und fahren Sie mit der Installation fort.

Nach der Aktivierung wird die Option Benutzerdefinierten Connector erstellen im AI Trust Layer verfügbar, sodass Sie benutzerdefinierte LLM-Verbindungen mithilfe von Connector Builder-Vorlagen konfigurieren können.

Weitere Details finden Sie unter:

• Konfigurieren von LLMs
• Anleitung: Verbinden von Missral über AI Trust Layer