Konfigurieren von LLMs

LLM-Konfigurationsoptionen im AI Trust Layer zum Verbinden benutzerdefinierter oder abonnementbasierter großer Sprachmodelle mit Test Cloud-Diensten.

Auf der Registerkarte LLM-Konfigurationen können Sie Ihre vorhandenen KI-Abonnements integrieren und gleichzeitig das von UiPath bereitgestellte Governance-Framework beibehalten. Sie können:

• UiPath LLM-Abonnement ersetzen: Ersetzen Sie von UiPath verwaltete Abonnements durch Ihre eigenen, sofern sie der gleichen Modellfamilie und Version entsprechen, die bereits vom UiPath-Produkt unterstützt wird. Dies ermöglicht einen nahtlosen Wechsel von von UiPath verwalteten Modellen zu Ihren abonnierten Modellen.
• Eigenes LLM hinzufügen: Verwenden Sie ein beliebiges LLM, das die Kompatibilitätskriterien des Produkts erfüllt. Um eine reibungslose Integration zu gewährleisten, muss das von Ihnen gewählte LLM eine Reihe von Tests bestehen, die über einen Testaufruf initiiert wurden, bevor es im UiPath-Ökosystem verwendet werden kann.

Hinweis:

Der Zugriff auf von UiPath verwaltete Modelle und/oder LLM-Konfigurationen hängt von der von Ihnen verwendeten Cloud-Plattform ab. Weitere Informationen finden Sie unter Verfügbarkeit der Test Cloud-Funktion.

Durch die Konfiguration von LLMs werden die meisten Governance-Vorteile des AI Trust Layer beibehalten, einschließlich der Richtliniendurchsetzung über Automation Ops und detaillierter Prüfungsprotokolle. Modell-Governance-Richtlinien sind jedoch speziell für von UiPath verwaltete LLMs konzipiert.

Das bedeutet, dass, wenn Sie ein bestimmtes Modell über eine AI Trust Layer-Richtlinie deaktivieren, die Einschränkung nur für die von UiPath verwaltete Version dieses Modells gilt. Ihre eigenen konfigurierten Modelle desselben Typs bleiben davon unberührt.

Wenn Sie die Option zur Verwendung Ihres eigenen LLM oder Abonnement nutzen, beachten Sie die folgenden Punkte:

• Kompatibilitätsanforderungen: Das ausgewählte LLM oder Abonnement muss der Modellfamilie und der Version entsprechen, die vom UiPath-Produkt unterstützt werden.
• Einrichtung: Stellen Sie sicher, dass Sie alle erforderlichen LLMs im benutzerdefinierten Setup ordnungsgemäß konfigurieren und verwalten. Wenn eine Komponente fehlt, veraltet oder falsch konfiguriert ist, funktioniert Ihr benutzerdefiniertes Setup möglicherweise nicht mehr. In solchen Fällen kehrt das System automatisch zu einem UiPathverwalteten LLM zurück, um die Kontinuität des Dienstes sicherzustellen, es sei denn, UiPath -LLMs werden durch eine Automation Ops Richtlinie deaktiviert.
• Kostenersparnis: Wenn Ihre benutzerdefinierte LLM-Einrichtung vollständig und korrekt ist und alle erforderlichen Anforderungen erfüllt, haben Sie möglicherweise Anspruch auf eine reduzierte Verbrauchsrate.

Lizenzierung

LLM-Konfigurationen sind in den folgenden Lizenzierungsplänen verfügbar:

• Unified Pricing: Community, Enterprise Platform, Standard Platform, Basic Platform, App Test Platform Enterprise, App Test Platform Standard.
• Flex: Erweiterte Plattform, Flex Standard-Plattform.

How LLM requests are routed

Every LLM call from a UiPath product passes through the AI Trust Layer LLM gateway before it reaches the model, whether the model is UiPath-managed or your own. The diagrams below show the connectivity patterns available for your own models: a direct connection to a publicly reachable provider, a Relay-mediated connection to a model hosted in a private network, and a custom connector for a model behind your own AI gateway.

Direct connectivity through Integration Service

With direct connectivity, the product sends the request to the LLM gateway, which routes it through the Integration Service connection you created for your provider. The connection carries the request across the boundary into your provider's domain, and the response travels back along the same path.

The gateway stays in the path in both directions, so policy enforcement and audit logging apply to every call even though the model is yours.

Private network connectivity through Relay

If your model is hosted on-premises or in a private network with no public endpoint, Relay provides the connection to it. The LLM gateway and Integration Service behave the same as in direct connectivity. The UiPath relay infrastructure then forwards the request through the outbound tunnel that a Relay client inside your network keeps open, and the client calls your model locally.

For this connectivity pattern, the model endpoint must be registered under a Relay Group with Private selected as the connection type when creating the Integration Service connection. For details, refer to Using Relay.

AI gateway connectivity through a custom connector

If your model sits behind your own AI gateway, or exposes an API that no built-in connector supports, a custom Integration Service connector bridges the two formats. The LLM gateway sends and receives the standard request and response format, and the connector translates between that format and the one your gateway expects, in both directions. For details, refer to Connecting custom LLMs through AI Trust Layer.

Einrichten einer LLM-Konfiguration

Die LLM-Konfiguration verwendet Integration Service , um die Verbindung zu Ihren eigenen Modellen herzustellen. Sie können Verbindungen mit den folgenden Anbietern erstellen:

• Azure Open AI
• OpenAI
• Amazon Web Services
• Anthropic Claude
• Google Vertex
• Open AI V1 Compliant LLM – Verwenden Sie diese Option, um eine Verbindung zu einem beliebigen LLM-Anbieter zu herstellen, dessen API dem OpenAI V1-Standard folgt. Weitere Details finden Sie in der Dokumentation zum OpenAI V1 Compliant LLM Connector.
  Hinweis:

  Um Integration Service-Verbindungen zu verwenden, müssen Sie die ausgehenden IP-Bereiche des Integration Service zu Ihrer Zulassungsliste hinzufügen.

Um eine neue Verbindung einzurichten, führen Sie die folgenden Schritte aus:

1. Erstellen Sie die Integration Service-Verbindung

1. Erstellen Sie im Integration Service eine Verbindung mit Ihrem LLM-Anbieter.
2. Wählen Sie den Ordner aus, in dem die Verbindung gespeichert wird.
3. Schließen Sie die Authentifizierung gemäß den Anforderungen des ausgewählten Connectors ab.
   Hinweis:

   Der von Ihnen ausgewählte Ordner steuert sowohl die Sicherheit als auch die Sichtbarkeit. Um unbefugten Zugriff zu verhindern, erstellen Sie die Integration Service-Verbindung in einem privaten, nicht freigegebenen Ordner. Beachten Sie jedoch, dass die Modellsichtbarkeit durch den Zugriff auf diesen Ordner bestimmt wird. Wenn ein Administrator keinen Zugriff darauf hat, wird die zugehörige Modellkonfiguration nicht in der Liste angezeigt.

2. Fügen Sie eine neue LLM-Konfiguration hinzu

1. Gehen Sie zu Administrator > AI Trust Layer > LLM-Konfigurationen.
2. Wählen Sie den Mandanten aus .
3. Wählen Sie Konfiguration hinzufügen aus.
4. Wählen Sie das Produkt (z. B. Agents) und die Funktion (z. B. Design, Bewerten und Bereitstellen aus.
5. Wählen Sie den Verbindungsordner aus.

3. Konfigurieren Sie das Modell

Füllen Sie im Abschnitt Modellkonfiguration die folgenden Felder aus:

• LLM-Name – Dieses Feld unterstützt je nach Anwendungsfall zwei Konfigurationsoptionen:
  • Wählen Sie ein Modell aus der Liste – Wenn Sie ein Modell aus der vordefinierten Liste auswählen, wird das von UiPath verwaltete LLM-Abonnement durch Ihr eigenes Abonnement für dasselbe Modell ersetzt. Dieses Szenario wird als Bring Your Own Subscription (BYOS) bezeichnet.
  • Benutzerdefinierten Alias hinzufügen – Durch die Eingabe eines benutzerdefinierten Namens können Sie ein Modell konfigurieren, das nicht in der vordefinierten Liste der empfohlenen Modelle für dieses Produkt enthalten ist. Dieses Szenario wird als Bring Your Own Model (BYOM) bezeichnet.
    Hinweis:

    Die Option Benutzerdefiniertes Alias hinzufügen ist nur für Produkte verfügbar, die benutzerdefinierte Modelle unterstützen. Welche Produkte benutzerdefinierte Modelle unterstützen, erfahren Sie in der folgenden Tabelle.

• API-Typ – Der API-Endpunkt, der vom LLM unterstützt wird (z. B. Open AI Chat Completions). Dieser muss mit dem von Ihrem Anbieter offengelegten Endpunkt übereinstimmen.
• Connector – Der Integration Service-Connector (z. B. Microsoft Azure OpenAI, Amazon Web Services).
  • If you have access to custom connectors for AI Trust Layer (currently available upon request for enterprise customers), you can also select Create custom connector to use a predefined template through Connector Builder. For details, refer to Connecting custom LLMs through AI Trust Layer.
• Verbindung – Die spezifische Integration Service-Verbindung, die zuvor erstellt wurde. Wenn keine Verbindung verfügbar ist, erstellen Sie eine im Integration Service.
• LLM-Bezeichner – Der Modellbezeichner genau so, wie er in Ihrem LLM-Abonnement angezeigt wird.
  • Für von Azure gehostete Modelle: Geben Sie den Namen/die ID der Modellbereitstellung ein.
  • Für die Regionsübergreifende AWS Bedrock-Inferenz: Geben Sie die Inferenzprofil-ID ein. Sie müssen der Modell-ID Ihren Regionscode voranstellen, zum Beispiel: eu.anthropic.claude-3-5-sonnet-20240620-v1:0.
  • Für andere Anbieter: Verwenden Sie den Modellnamen, wie in Ihrem Abonnement definiert.

Hinweis:

Beim Konfigurieren Ihres eigenen LLM können Sie optional einschränken, welche Large Language Models für die Verwendung in Ihrer Organisation verfügbar sind. Wenn Sie sicherstellen möchten, dass nur Ihre benutzerdefinierten Modelle verwendet werden, können Sie von UiPath verwaltete Modelle von Drittanbietern deaktivieren, indem Sie eine AI Trust Layer-Richtlinie anwenden . Sehen Sie sich den Abschnitt Modelle in der Dokumentation zu den AI Trust Layer-Richtlinien an.

4. Validieren und speichern Sie

1. Wählen Sie Testkonfiguration aus, um zu überprüfen, ob der Endpunkt erreichbar ist.

   • Die Plattform validiert die Konnektivität.
   • Es liegt in Ihrer Verantwortung, sicherzustellen, dass das richtige Modell konfiguriert ist.

2. Wenn die Validierung erfolgreich ist, wählen Sie Speichern aus, um die Konfiguration zu aktivieren.

   

Verwalten vorhandener LLM-Verbindungen

Sie können die folgenden Aktionen für Ihre vorhandenen Verbindungen ausführen:

• Status überprüfen – Überprüfen Sie den Status Ihrer Integration Service-Verbindung. Diese Aktion stellt sicher, dass die Verbindung aktiv ist und ordnungsgemäß funktioniert.
• Bearbeiten – Ändern Sie alle Parameter Ihrer vorhandenen Verbindung.
• Deaktivieren – Setzt die Verbindung vorübergehend aus. Wenn diese Option deaktiviert ist, bleibt die Verbindung in Ihrer Liste sichtbar, leitet jedoch keine Anrufe weiter. Sie können die Verbindung bei Bedarf erneut aktivieren.
• Löschen – Entfernen Sie die Verbindung endgültig aus Ihrem System. Diese Aktion deaktiviert die Verbindung und entfernt sie aus Ihrer Liste.

Konfiguration von LLMs für Ihr Produkt

Jedes Produkt unterstützt bestimmte Large Language Models (LLMs) und -Versionen. Verwenden Sie die folgende Tabelle, um die unterstützten Modelle und Versionen für Ihr Produkt zu ermitteln.

Sie können Ihr eigenes LLM mithilfe eines der folgenden Anbieter verbinden: Amazon Web Services, Google Vertex, Microsoft Azure OpenAI oder OpenAI V1 Compliance. Führen Sie die im vorherigen Abschnitt beschriebenen Schritte aus, um eine Verbindung zu erstellen.

Hinweis:

Dateiunterstützung: Einige Produktfunktionen sind auf den konfigurierten LLM-Endpunkt angewiesen, um hochgeladene Dateien zu verarbeiten. Bei Verwendung benutzerdefinierter LLM-Konfigurationen hängt die Unterstützung von Dateiformaten vom Anbieter, der Modellfamilie, der Modellversion und dem API-Typ ab. Überprüfen Sie, ob das ausgewählte Modell die erforderlichen Dateiformate unterstützt, bevor Sie dateibasierte Funktionen aktivieren. Produktspezifische Anforderungen finden Sie in der entsprechenden Produktdokumentation, z. B. in Dateien analysieren für Agents.

Die Anzahl der Modelle, die Sie konfigurieren müssen, hängt vom Produkt und der Funktion ab:

• Für Funktionen mit einem auswählbaren Modell – bei dem Sie auswählen, welches Modell Sie verwenden möchten – können Sie ein oder mehrere Modelle konfigurieren. Unkonfigurierte Modelle verwenden weiterhin von UiPath verwaltete Abonnements.
• Für Funktionen mit einem festen Modellsatz – bei denen die Funktion einen vorbestimmten Satz von Modellen verwendet – müssen Sie alle Modelle konfigurieren, damit die Funktion funktioniert. Eine Teilkonfiguration ist nicht gültig.

Produkt	Unterstützt benutzerdefinierte Modelle	Funktionen	LLM	Main LLM versions
Agents 1	Ja	Entwerfen, auswerten und bereitstellen	OpenAI	gpt-5.6-sol gpt-5.6- Terra gpt-5.6- Luna gpt-5.5-2026-04-23 gpt-5.4-mini-2026-03-17 gpt-5.4 gpt-5.2-2025-12-11 gpt-5.1-2025-11-13 gpt-5-2025-08-07 gpt-5-mini-2025-08-07 gpt-4.1-2025-04-14 gpt-4.1-mini-2025-04-14 gpt-4o-2024-11-20 gpt-4o-2024-08-06 gpt-4o-mini-2024-07-18 gpt-4o-2024-05-13 — Upcoming removal: 2026-09-30 — Replacement: gpt-5.1-2025-11-13
			Anthropic	thropic.Claude-sonnet-5 thropic.Claude-opus-4-8 thropic.Claude-opus-4-7 Anthropic.Claude-sonnet-4-6 Anthropic.Claude-opus-4-6-v1 Anthropic.Claude-haiku-4-5-20251001-v1:0 Anthropic.Claude-sonnet-4-5-20250929-v1:0 anthropic.claude-sonnet-4-20250514-v1:0 — Upcoming removal: 2026-10-13 — Replacement: anthropic.claude-sonnet-4-6
			Google	gemini-3.5-Flag gemini-3.5- Flash-liter gemini-2.5-pro gemini-2.5-flight
Autopilot	Ja	Chat	OpenAI	gpt-5.6-sol gpt-5.6- Terra gpt-5.6- Luna gpt-5.5-2026-04-23 gpt-5.4-mini-2026-03-17 gpt-5.4-2026-03-05
			Anthropic	thropic.Claude-sonnet-5 thropic.Claude-opus-4-8 thropic.Claude-opus-4-7 Anthropic.Claude-sonnet-4-6 Anthropic.Claude-opus-4-6-v1 Anthropic.Claude-haiku-4-5-20251001-v1:0
			Google	gemini-3.6-Flag gemini-3.5-Flag gemini-3.1- Flash-image gemini-3.1-pro-vorschau gemini-3-flight-preview gemini-2.5-pro gemini-2.5-flight
			Fireworks AI	fw-kii-k2.7-code fw-kii-k2.6
		Generation	Google	gemini-2.5-pro gemini-2.5-flight gemini-2.5-flight-Lite gemini-embedding-001
Autopilot for Everyone	Ja	Chat	Anthropic	Anthropic.Claude-sonnet-4-5-20250929-v1:0 Alternative model: gemini-2.5-flash (Google) Alternative model: gpt-4o-2024-11-20 (OpenAI)
			OpenAI	gpt-4.1-mini-2025-04-14 Alternative model: gemini-2.5-flash (Google) Alternative model: gpt-4o-mini-2024-07-18 (OpenAI)
Codierte Agents	Ja	Call LLMs	OpenAI	gpt-5.6-sol gpt-5.6- Terra gpt-5.6- Luna gpt-5.1-2025-11-13 gpt-5-2025-08-07 gpt-5-mini-2025-08-07 gpt-4.1-2025-04-14 gpt-4.1-mini-2025-04-14 gpt-4o-2024-05-13 — Upcoming removal: 2026-09-30 — Replacement: gpt-5.1-2025-11-13
			Anthropic	thropic.Claude-sonnet-5 Anthropic.Claude-sonnet-4-6 Anthropic.Claude-haiku-4-5-20251001-v1:0 Anthropic.Claude-sonnet-4-5-20250929-v1:0 anthropic.claude-sonnet-4-20250514-v1:0 — Upcoming removal: 2026-10-14 — Replacement: anthropic.claude-sonnet-4-6
			Google	gemini-3.5- Flash-liter gemini-2.5-pro gemini-2.5-flight
Kontextgrundlage	Ja	Erweiterte Erfassung	Google	gemini-2.5-flight
		Batch-Transformation	Google	gemini-2.5-flight gemini-2.5-flight-Lite
		Batch-Transformation mit Web-Suche	Google	gemini-2.5-flight gemini-2.5-flight-Lite
		Deep RAG	Google	gemini-2.5-flight
		Einbettungen	Google	gemini-embedding-001
GenAI-Aktivitäten	Ja	Erstellen, Testen und Bereitstellen	Anthropic	Anthropic.Claude-sonnet-4-6 Anthropic.Claude-haiku-4-5-20251001-v1:0 Anthropic.Claude-sonnet-4-5-20250929-v1:0 Anthropic.Claude-sonnet-4-20250514-v1:0
			OpenAI	gpt-5.2-2025-12-11 gpt-5.1-2025-11-13 gpt-5-2025-08-07 gpt-5-mini-2025-08-07 gpt-5-nano-2025-08-07 gpt-4o-2024-11-20 gpt-4o-mini-2024-07-18
			Google	gemini-2.5-pro gemini-2.5-flight
Healing Agent	Ja	Workflow recovery	Google	gemini-2.5-flight
			OpenAI	gpt-4o-2024-08-06
UI-Automatisierung (UI Automation)	Nein	ScreenPlay	Anthropic	Anthropic.Claude-sonnet-4-5-20250929-v1:0
			Google	gemini-2.5-flight
			OpenAI	gpt-4.1-mini-2025-04-14 gpt-4.1-2025-04-14 gpt-5-2025-08-07 gpt-5-mini-2025-08-07 computer-use-preview-2025-03-11
		Semantische Selektoren	Google	gemini-2.5-flight
		Semantische Aktivitäten	Google	gemini-2.5-flight gemini-3-flight-preview
			OpenAI	gpt-4.1-2025-04-14 gpt-4.1-mini-2025-04-14 gpt-5-mini-2025-08-07
Test Manager	Ja	Autopilot-Suche	Anthropic	Anthropic.Claude-sonnet-4-5-20250929-v1:0
			OpenAI	gpt-5.1-2025-11-13 gpt-4o-2024-11-20
			Google	gemini-2.5-pro gemini-2.5-flight
		Veraltete Tests finden	Anthropic	Anthropic.Claude-sonnet-4-5-20250929-v1:0
			OpenAI	gpt-5.1-2025-11-13 gpt-4o-2024-11-20
			Google	gemini-2.5-pro gemini-2.5-flight
		Testfälle generieren	Anthropic	Anthropic.Claude-sonnet-4-5-20250929-v1:0
			OpenAI	gpt-5.1-2025-11-13 gpt-4o-2024-11-20
			Google	gemini-2.5-pro gemini-2.5-flight
		Testfälle importieren	Anthropic	Anthropic.Claude-sonnet-4-5-20250929-v1:0
			OpenAI	gpt-5.1-2025-11-13 gpt-4o-2024-11-20
			Google	gemini-2.5-pro gemini-2.5-flight
		Berichte generieren	Anthropic	Anthropic.Claude-sonnet-4-5-20250929-v1:0
			OpenAI	gpt-5.1-2025-11-13 gpt-4o-2024-11-20
			Google	gemini-2.5-pro gemini-2.5-flight
		Anforderungsauswertung	Anthropic	Anthropic.Claude-sonnet-4-5-20250929-v1:0
			OpenAI	gpt-5.1-2025-11-13 gpt-4o-2024-11-20
			Google	gemini-2.5-pro gemini-2.5-flight
IXP	Ja	Unstrukturierte und komplexe Dokumente	OpenAI	gpt-5.4-2026-03-05 gpt-5.1-2025-11-13 gpt-4o-2024-08-06
			Google	gemini-3.1-pro-vorschau gemini-3.1- Flash-litere-preview gemini-2.5-pro gemini-2.5-flight
ScreenPlay	Ja	Screen Play	OpenAI	gpt-5.6-sol gpt-5.6- Terra gpt-5.6- Luna gpt-5.5-2026-04-23 gpt-5.4-mini-2026-03-17 gpt-5.4-2026-03-05 gpt-5-2025-08-07 gpt-5-mini-2025-08-07 computer-use-preview-2025-03-11 gpt-4.1-2025-04-14 gpt-4.1-mini-2025-04-14
			Google	gemini-3.6-Flag gemini-2.5-flight
			Anthropic	Anthropic.Claude-sonnet-4-5-20250929-v1:0
		Semantische Aktivitäten	Google	gemini-3-flight-preview gemini-2.5-flight
			OpenAI	gpt-5-mini-2025-08-07 gpt-4.1-2025-04-14 gpt-4.1-mini-2025-04-14
		Semantische Selektoren	Google	gemini-2.5-flight

¹ Agents-Anforderungen:

• Stellen Sie sicher, dass Ihr LLM Folgendes unterstützt:
  • Tool (Funktions)-Aufruf – Das Modell muss in der Lage sein, Tools oder Funktionen während der Ausführung aufzurufen.
  • Parallele Toolaufrufe deaktivieren – Wenn Ihr Anbieter dies unterstützt, sollte das Modell die Option zum Deaktivieren paralleler Toolaufrufe bieten.
• Bei Verwendung benutzerdefinierter Modelle setzen Agents standardmäßig ein 4096-Token-Limit, unabhängig von der wahren Kapazität des Modells, da UiPath keine Token-Limits für kundenseitig definierte Bereitstellungen ableiten kann.