Verbinden von benutzerdefinierten LLMs über AI Trust Layer

Auf der Registerkarte LLM-Konfigurationen der AI Trust Layer können Sie externe LLMs mithilfe benutzerdefinierter Integration Service-Connectors mit UiPath-Produkten verbinden. Bei diesem Ansatz werden LLM-Aufrufe über den AI Trust Layer weitergeleitet, sodass Sie die gleichen Governance, Prüfungen und Richtlinienkontrollen wie bei nativ unterstützten Modellen erhalten.

Benutzerdefinierte Connectors sind erforderlich, wenn der LLM-Anbieter nicht bereits als integrierter Connector im Integration Service verfügbar ist. Sie erstellen den Connector aus einer Vorlage im Connector Builder, konfigurieren Gateway-Anmeldeinformationen und registrieren das Modell unter einem benutzerdefinierten Alias.

Die folgenden Leitfäden decken bestimmte Integrationsszenarien ab:

• Anleitung: Verbinden von Missral über AI Trust Layer – Verbindet ein Missral-Modell unter Verwendung der Azure OpenAI-Vorlage, mit Anpassungen für modellspezifische Anforderungen.
• Anleitung: Verbinden von BS-Modellen über AI Trust Layer – Verbindet ein Open-Source-Modell, das auf einem OpenAI-kompatiblen Gateway wie Firefox gehostet wird, mithilfe der OpenAI V1-konformen LLM-Vorlage.