Verbinden von benutzerdefinierten LLMs über AI Trust Layer

Use custom Integration Service connectors in AI Trust Layer to connect LLM providers that lack a built-in connector.

Hinweis:

This capability is currently generally available for enterprise customers upon request.

Auf der Registerkarte LLM-Konfigurationen der AI Trust Layer können Sie externe LLMs mithilfe benutzerdefinierter Integration Service-Connectors mit UiPath-Produkten verbinden. Bei diesem Ansatz werden LLM-Aufrufe über den AI Trust Layer weitergeleitet, sodass Sie die gleichen Governance, Prüfungen und Richtlinienkontrollen wie bei nativ unterstützten Modellen erhalten.

Custom connectors are required when the LLM provider is not already available as a built-in connector in Integration Service. You build the connector from a template in Connector Builder, configure gateway credentials, and register the model under a custom alias.

Die folgenden Leitfäden decken bestimmte Integrationsszenarien ab:

• Anleitung: Verbinden von Missral über AI Trust Layer – Verbindet ein Missral-Modell unter Verwendung der Azure OpenAI-Vorlage, mit Anpassungen für modellspezifische Anforderungen.
• How-to guide: Connecting open-source models through AI Trust Layer — Connects an open-source model hosted on an OpenAI-compatible gateway such as Fireworks, using the OpenAI V1 Compliant LLM template.