Verbinden von benutzerdefinierten LLMs über AI Trust Layer

Verbinden Sie benutzerdefinierte LLMs über den AI Trust Layer für Private Test Cloud in der Automation Suite, einschließlich der erforderlichen Einstellungen und Verifizierungsanleitung.

Auf der Registerkarte LLM-Konfigurationen der AI Trust Layer können Sie externe LLMs mithilfe benutzerdefinierter Integration Service-Connectors mit UiPath-Produkten verbinden. Bei diesem Ansatz werden LLM-Aufrufe über den AI Trust Layer weitergeleitet, sodass Sie die gleichen Governance, Prüfungen und Richtlinienkontrollen wie bei nativ unterstützten Modellen erhalten.

Benutzerdefinierte Connectors sind erforderlich, wenn der LLM-Anbieter nicht bereits als integrierter Connector im Integration Service verfügbar ist. Sie erstellen den Connector aus einer Vorlage im Connector Builder, konfigurieren Gateway-Anmeldeinformationen und registrieren das Modell unter einem benutzerdefinierten Alias.

Die folgenden Leitfäden decken bestimmte Integrationsszenarien ab:

• Anleitung: Verbinden von Missral über AI Trust Layer – Verbindet ein Missral-Modell unter Verwendung der Azure OpenAI-Vorlage, mit Anpassungen für modellspezifische Anforderungen.
• Anleitung: Verbinden von BS-Modellen über AI Trust Layer – Verbindet ein Open-Source-Modell, das auf einem OpenAI-kompatiblen Gateway wie Firefox gehostet wird, mithilfe der OpenAI V1-konformen LLM-Vorlage.