Verbinden von benutzerdefinierten LLMs über AI Trust Layer

Verwenden Sie benutzerdefinierte Integration Service-Connectors in AI Trust Layer, um LLM-Anbieter zu verbinden, die keinen integrierten Connector haben.

Hinweis:

Diese Funktion ist derzeit auf Anfrage allgemein für Enterprise-Kunden verfügbar.

Auf der Registerkarte LLM-Konfigurationen der AI Trust Layer können Sie externe LLMs mithilfe benutzerdefinierter Integration Service-Connectors mit UiPath-Produkten verbinden. Bei diesem Ansatz werden LLM-Aufrufe über den AI Trust Layer weitergeleitet, sodass Sie die gleichen Governance, Prüfungen und Richtlinienkontrollen wie bei nativ unterstützten Modellen erhalten.

Benutzerdefinierte Connectors sind erforderlich, wenn der LLM-Anbieter nicht bereits als integrierter Connector in Integration Service verfügbar ist. Sie erstellen den Connector aus einer Vorlage im Connector Builder, konfigurieren Gateway-Anmeldeinformationen und registrieren das Modell unter einem benutzerdefinierten Alias.

Die folgenden Leitfäden decken bestimmte Integrationsszenarien ab:

• Anleitung: Verbinden von Missral über AI Trust Layer – Verbindet ein Missral-Modell unter Verwendung der Azure OpenAI-Vorlage, mit Anpassungen für modellspezifische Anforderungen.
• Anleitung: Verbinden von Open-Source-Modellen über AI Trust Layer – Verbindet ein Open-Source-Modell, das auf einem OpenAI-kompatiblen Gateway wie Fireworks gehostet wird, mithilfe der OpenAI V1 Compliant LLM-Vorlage.