- Erste Schritte
- Datensicherheit und Compliance
- Organisationen
- Authentifizierung und Sicherheit
- Lizenzierung
- Über die Lizenzierung
- Einheitliche Preise: Lizenzierungsplan-Framework
- Aktivieren Ihrer Enterprise-Lizenz
- Migrieren von Test Suite zu Test Cloud
- Lizenzmigration
- Zuweisen von Lizenzen zu Mandanten
- Zuweisen von Benutzerlizenzen
- Freigegeben von Benutzerlizenzen
- Überwachung der Lizenzzuweisung
- Lizenzüberzuweisung
- Lizenzierungsbenachrichtigungen
- Benutzerlizenzverwaltung
- Mandanten und Dienste
- Konten und Rollen
- AI Trust Layer
- Über AI Trust Layer
- Überprüfung der Nutzungszusammenfassung
- Anzeigen von Überwachungsprotokollen
- Verwalten von AI Trust Layer-Richtlinien
- PII-Maskierung
- Verwalten von Autopilot for Everyone
- Konfigurieren von LLMs
- Einschränken von LLM-Aufrufen auf Ihre eigenen Modelle
- Konfigurieren von OpenTelemetry
- Steuern von kontextbezogenen Daten für GenAI-Funktionen
- Externe Anwendungen
- Benachrichtigungen
- Protokollierung
- Datenexport
- Tests in Ihrer Organisation
- Fehlersuche und ‑behebung
- Migration zur Test Cloud
LLM-Konfigurationsoptionen im AI Trust Layer zum Verbinden benutzerdefinierter oder abonnementbasierter großer Sprachmodelle mit Test Cloud-Diensten.
Auf der Registerkarte LLM-Konfigurationen können Sie Ihre vorhandenen KI-Abonnements integrieren und gleichzeitig das von UiPath bereitgestellte Governance-Framework beibehalten. Sie können:
- UiPath LLM-Abonnement ersetzen: Ersetzen Sie von UiPath verwaltete Abonnements durch Ihre eigenen, sofern sie der gleichen Modellfamilie und Version entsprechen, die bereits vom UiPath-Produkt unterstützt wird. Dies ermöglicht einen nahtlosen Wechsel von von UiPath verwalteten Modellen zu Ihren abonnierten Modellen.
- Eigenes LLM hinzufügen: Verwenden Sie ein beliebiges LLM, das die Kompatibilitätskriterien des Produkts erfüllt. Um eine reibungslose Integration zu gewährleisten, muss das von Ihnen gewählte LLM eine Reihe von Tests bestehen, die über einen Testaufruf initiiert wurden, bevor es im UiPath-Ökosystem verwendet werden kann.
Der Zugriff auf von UiPath verwaltete Modelle und/oder LLM-Konfigurationen hängt von der Cloud-Plattform ab, die Sie verwenden. Weitere Informationen finden Sie unter Verfügbarkeit der Funktionen von Test Cloud.
Durch die Konfiguration von LLMs werden die meisten Governance-Vorteile des AI Trust Layer beibehalten, einschließlich der Richtliniendurchsetzung über Automation Ops und detaillierter Prüfungsprotokolle. Modell-Governance-Richtlinien sind jedoch speziell für von UiPath verwaltete LLMs konzipiert.
Das bedeutet, dass, wenn Sie ein bestimmtes Modell über eine AI Trust Layer-Richtlinie deaktivieren, die Einschränkung nur für die von UiPath verwaltete Version dieses Modells gilt. Ihre eigenen konfigurierten Modelle desselben Typs bleiben davon unberührt.
Wenn Sie die Option zur Verwendung Ihres eigenen LLM oder Abonnement nutzen, beachten Sie die folgenden Punkte:
- Kompatibilitätsanforderungen: Das ausgewählte LLM oder Abonnement muss der Modellfamilie und der Version entsprechen, die vom UiPath-Produkt unterstützt werden.
- Einrichtung: Stellen Sie sicher, dass Sie alle erforderlichen LLMs im benutzerdefinierten Setup ordnungsgemäß konfigurieren und verwalten. Wenn eine Komponente fehlt, veraltet oder falsch konfiguriert ist, funktioniert Ihr benutzerdefiniertes Setup möglicherweise nicht mehr. In solchen Fällen kehrt das System automatisch zu einem UiPathverwalteten LLM zurück, um die Kontinuität des Dienstes sicherzustellen, es sei denn, UiPath -LLMs werden durch eine Automation Ops Richtlinie deaktiviert.
- Kostenersparnis: Wenn Ihre benutzerdefinierte LLM-Einrichtung vollständig und korrekt ist und alle erforderlichen Anforderungen erfüllt, haben Sie möglicherweise Anspruch auf eine reduzierte Verbrauchsrate. Weitere Informationen finden Sie unter Verbrauchsraten für vom Kunden verwaltete Modelle.
Lizenzierung
LLM-Konfigurationen sind in den folgenden Lizenzierungsplänen verfügbar:
- Unified Pricing: Community, Enterprise-Plattform, Standard Platform, Basic Platform, App Test Platform Enterprise, App Test Platform Standard.
- Flex: Erweiterte Plattform, Flex Standard-Plattform.
Wie LLM-Anforderungen weitergeleitet werden
Jeder LLM-Aufruf von einem UiPath-Produkt durchläuft das AI Trust Layer LLM-Gateway, bevor er das Modell erreicht, unabhängig davon, ob das Modell von UiPath oder von Ihrem eigenen verwaltet wird. Die folgenden Diagramme zeigen die Verbindungsmuster, die für Ihre eigenen Modelle verfügbar sind: eine direkte Verbindung zu einem öffentlich erreichbaren Anbieter, eine Relay-vermittelte Verbindung zu einem Modell, das in einem privaten Netzwerk gehostet wird, und einen benutzerdefinierten Connector für ein Modell hinter Ihrem eigenen KI-Gateway.
Direkte Verbindung über Integration Service
Mit der direkten Verbindung sendet das Produkt die Anforderung an das LLM-Gateway, das sie über die Integration Service-Verbindung weiterleitet, die Sie für Ihren Anbieter erstellt haben. Die Verbindung überträgt die Anforderung über die Grenze hinweg in die Domäne Ihres Anbieters und die Antwort läuft auf demselben Pfad zurück.
Das Gateway bleibt in beiden Richtungen im Pfad, sodass die Richtliniendurchsetzung und Prüfungsprotokollierung für jeden Aufruf gelten, auch wenn das Modell Ihr Modell ist.
Private Netzwerkverbindung über Relay
Wenn Ihr Modell lokal oder in einem privaten Netzwerk ohne öffentlichen Endpunkt gehostet wird, stellt Relay die Verbindung dazu her. Das LLM-Gateway und der Integration Service verhalten sich genauso wie bei der direkten Verbindung. Die UiPath-Relay-Infrastruktur leitet dann die Anforderung durch den ausgehenden Tunnel weiter, den ein Relay-Client in Ihrem Netzwerk offen hält, und der Client ruft Ihr Modell lokal auf.
Für dieses Verbindungsmuster muss der Modellendpunkt unter einer Relay-Gruppe registriert sein, wobei beim Erstellen der Integration Service-Verbindung „Privat“ als Verbindungstyp ausgewählt ist. Weitere Informationen finden Sie unter Verwenden von Relay.
KI-Gateway-Verbindung über einen benutzerdefinierten Connector
Wenn sich Ihr Modell hinter Ihrem eigenen KI-Gateway befindet oder eine API bereitstellt, die kein integrierter Connector unterstützt, verbindet ein benutzerdefinierter Integration Service-Connector die beiden Formate. Das LLM-Gateway sendet und empfängt das Standardformat für Anforderungen und Antworten, und die Connectors übersetzen zwischen diesem Format und dem, das Ihr Gateway erwartet, in beide Richtungen. Weitere Informationen finden Sie unter Verbinden von benutzerdefinierten LLMs über AI Trust Layer.
Einrichten einer LLM-Konfiguration
Die LLM-Konfiguration verwendet Integration Service , um die Verbindung zu Ihren eigenen Modellen herzustellen. Sie können Verbindungen mit den folgenden Anbietern erstellen:
- Azure Open AI
- OpenAI
- Amazon Web Services
- Anthropic Claude
- Google Vertex
- Open AI V1 Compliant LLM – Verwenden Sie diese Option, um eine Verbindung zu einem beliebigen LLM-Anbieter zu herstellen, dessen API dem OpenAI V1-Standard folgt. Weitere Details finden Sie in der Dokumentation zum OpenAI V1 Compliant LLM Connector.
Hinweis:
Um Integration Service-Verbindungen zu verwenden, müssen Sie die ausgehenden IP-Bereiche des Integration Service zu Ihrer Zulassungsliste hinzufügen.
Um eine neue Verbindung einzurichten, führen Sie die folgenden Schritte aus:
1. Erstellen Sie die Integration Service-Verbindung
- Erstellen Sie im Integration Service eine Verbindung mit Ihrem LLM-Anbieter.
- Wählen Sie den Ordner aus, in dem die Verbindung gespeichert wird.
- Schließen Sie die Authentifizierung gemäß den Anforderungen des ausgewählten Connectors ab.
Hinweis:
Der von Ihnen ausgewählte Ordner steuert sowohl die Sicherheit als auch die Sichtbarkeit. Um unbefugten Zugriff zu verhindern, erstellen Sie die Integration Service-Verbindung in einem privaten, nicht freigegebenen Ordner. Beachten Sie jedoch, dass die Modellsichtbarkeit durch den Zugriff auf diesen Ordner bestimmt wird. Wenn ein Administrator keinen Zugriff darauf hat, wird die zugehörige Modellkonfiguration nicht in der Liste angezeigt.
2. Fügen Sie eine neue LLM-Konfiguration hinzu
- Gehen Sie zu Administrator > AI Trust Layer > LLM-Konfigurationen.
- Wählen Sie den Mandanten aus .
- Wählen Sie Konfiguration hinzufügen aus.
- Wählen Sie das Produkt (z. B. Agents) und die Funktion (z. B. Design, Bewerten und Bereitstellen aus.
- Wählen Sie den Verbindungsordner aus.
3. Konfigurieren Sie das Modell
Füllen Sie im Abschnitt Modellkonfiguration die folgenden Felder aus:
- LLM-Name – Dieses Feld unterstützt je nach Anwendungsfall zwei Konfigurationsoptionen:
- Wählen Sie ein Modell aus der Liste – Wenn Sie ein Modell aus der vordefinierten Liste auswählen, wird das von UiPath verwaltete LLM-Abonnement durch Ihr eigenes Abonnement für dasselbe Modell ersetzt. Dieses Szenario wird als Bring Your Own Subscription (BYOS) bezeichnet.
- Benutzerdefinierten Alias hinzufügen – Durch die Eingabe eines benutzerdefinierten Namens können Sie ein Modell konfigurieren, das nicht in der vordefinierten Liste der empfohlenen Modelle für dieses Produkt enthalten ist. Dieses Szenario wird als Bring Your Own Model (BYOM) bezeichnet.
Hinweis:
Die Option Benutzerdefiniertes Alias hinzufügen ist nur für Produkte verfügbar, die benutzerdefinierte Modelle unterstützen. Welche Produkte benutzerdefinierte Modelle unterstützen, erfahren Sie in der folgenden Tabelle.
- API-Typ – Der API-Endpunkt, der vom LLM unterstützt wird (z. B. Open AI Chat Completions). Dieser muss mit dem von Ihrem Anbieter offengelegten Endpunkt übereinstimmen.
- Connector – Der Integration Service-Connector (z. B. Microsoft Azure OpenAI, Amazon Web Services).
- Wenn Sie Zugriff auf benutzerdefinierte Connectors für AI Trust Layer haben (derzeit auf Anfrage für Enterprise-Kunden verfügbar), können Sie auch Benutzerdefinierten Connector erstellen auswählen, um eine vordefinierte Vorlage über Connector Builder zu verwenden. Weitere Informationen finden Sie unter Verbinden von benutzerdefinierten LLMs über AI Trust Layer.
- Verbindung – Die spezifische Integration Service-Verbindung, die zuvor erstellt wurde. Wenn keine Verbindung verfügbar ist, erstellen Sie eine im Integration Service.
- LLM-Bezeichner – Der Modellbezeichner genau so, wie er in Ihrem LLM-Abonnement angezeigt wird.
- Für von Azure gehostete Modelle: Geben Sie den Namen/die ID der Modellbereitstellung ein.
- Für die Regionsübergreifende AWS Bedrock-Inferenz: Geben Sie die Inferenzprofil-ID ein. Sie müssen der Modell-ID Ihren Regionscode voranstellen, zum Beispiel:
eu.anthropic.claude-3-5-sonnet-20240620-v1:0. - Für andere Anbieter: Verwenden Sie den Modellnamen, wie in Ihrem Abonnement definiert.
Beim Konfigurieren Ihres eigenen LLM können Sie optional einschränken, welche Large Language Models für die Verwendung in Ihrer Organisation verfügbar sind. Wenn Sie sicherstellen möchten, dass nur Ihre benutzerdefinierten Modelle verwendet werden, können Sie von UiPath verwaltete Modelle von Drittanbietern deaktivieren, indem Sie eine AI Trust Layer-Richtlinie anwenden . Sehen Sie sich den Abschnitt Modelle in der Dokumentation zu den AI Trust Layer-Richtlinien an.
4. Validieren und speichern Sie
-
Wählen Sie Testkonfiguration aus, um zu überprüfen, ob der Endpunkt erreichbar ist.
- Die Plattform validiert die Konnektivität.
- Es liegt in Ihrer Verantwortung, sicherzustellen, dass das richtige Modell konfiguriert ist.
-
Wenn die Validierung erfolgreich ist, wählen Sie Speichern aus, um die Konfiguration zu aktivieren.
Verwalten vorhandener LLM-Verbindungen
Sie können die folgenden Aktionen für Ihre vorhandenen Verbindungen ausführen:
- Status überprüfen – Überprüfen Sie den Status Ihrer Integration Service-Verbindung. Diese Aktion stellt sicher, dass die Verbindung aktiv ist und ordnungsgemäß funktioniert.
- Bearbeiten – Ändern Sie alle Parameter Ihrer vorhandenen Verbindung.
- Deaktivieren – Setzt die Verbindung vorübergehend aus. Wenn diese Option deaktiviert ist, bleibt die Verbindung in Ihrer Liste sichtbar, leitet jedoch keine Anrufe weiter. Sie können die Verbindung bei Bedarf erneut aktivieren.
- Löschen – Entfernen Sie die Verbindung endgültig aus Ihrem System. Diese Aktion deaktiviert die Verbindung und entfernt sie aus Ihrer Liste.
Konfiguration von LLMs für Ihr Produkt
Jedes Produkt unterstützt bestimmte Large Language Models (LLMs) und -Versionen. Verwenden Sie die folgende Tabelle, um die unterstützten Modelle und Versionen für Ihr Produkt zu ermitteln.
Sie können Ihr eigenes LLM mithilfe eines der folgenden Anbieter verbinden: Amazon Web Services, Google Vertex, Microsoft Azure OpenAI oder OpenAI V1 Compliance. Führen Sie die im vorherigen Abschnitt beschriebenen Schritte aus, um eine Verbindung zu erstellen.
Dateiunterstützung: Einige Produktfunktionen sind auf den konfigurierten LLM-Endpunkt angewiesen, um hochgeladene Dateien zu verarbeiten. Bei Verwendung benutzerdefinierter LLM-Konfigurationen hängt die Unterstützung von Dateiformaten vom Anbieter, der Modellfamilie, der Modellversion und dem API-Typ ab. Überprüfen Sie, ob das ausgewählte Modell die erforderlichen Dateiformate unterstützt, bevor Sie dateibasierte Funktionen aktivieren. Produktspezifische Anforderungen finden Sie in der entsprechenden Produktdokumentation, z. B. in Dateien analysieren für Agents.
Die Anzahl der Modelle, die Sie konfigurieren müssen, hängt vom Produkt und der Funktion ab:
- Für Funktionen mit einem auswählbaren Modell – bei dem Sie auswählen, welches Modell Sie verwenden möchten – können Sie ein oder mehrere Modelle konfigurieren. Unkonfigurierte Modelle verwenden weiterhin von UiPath verwaltete Abonnements.
- Für Funktionen mit einem festen Modellsatz – bei denen die Funktion einen vorbestimmten Satz von Modellen verwendet – müssen Sie alle Modelle konfigurieren, damit die Funktion funktioniert. Eine Teilkonfiguration ist nicht gültig.
| Produkt | Unterstützt benutzerdefinierte Modelle | Funktionen | LLM | Haupt-LLM-Versionen |
|---|---|---|---|---|
| Agents 1 | Ja | Entwerfen, auswerten und bereitstellen |
| |
| OpenAI |
| |||
| Anthropic |
| |||
| Autopilot | Ja | Chat | OpenAI |
|
| Anthropic |
| |||
| ||||
| Fireworks KI |
| |||
| Generation |
| |||
| Autopilot for Everyone | Ja | Chat | Anthropic |
|
| OpenAI |
| |||
| Codierte Agents | Ja | LLMs aufrufen |
| |
| OpenAI |
| |||
| Anthropic |
| |||
| Kontextgrundlage | Ja | Erweiterte Erfassung |
| |
| Batch-Transformation |
| |||
| Batch-Transformation mit Web-Suche |
| |||
| DeepRAG |
| |||
| Einbettungen |
| |||
| GenAI-Aktivitäten | Ja | Erstellen, Testen und Bereitstellen | Anthropic |
|
| OpenAI |
| |||
| ||||
| Healing Agent | Ja | Workflow-Wiederherstellung |
| |
| OpenAI |
| |||
| UI-Automatisierung (UI Automation) | Nein | ScreenPlay | Anthropic |
|
| ||||
| OpenAI |
| |||
| Semantische Selektoren |
| |||
| Semantische Aktivitäten |
| |||
| OpenAI |
| |||
| Test Manager | Ja | Autopilot-Suche | Anthropic |
|
| OpenAI |
| |||
| ||||
| Veraltete Tests finden | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Testfälle generieren | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Testfälle importieren | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Berichte generieren | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Anforderungsauswertung | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| IXP | Ja | Unstrukturierte und komplexe Dokumente | OpenAI |
|
| ||||
| ScreenPlay | Ja | ScreenPlay | OpenAI |
|
| ||||
| Anthropic |
| |||
| Semantische Aktivitäten |
| |||
| OpenAI |
| |||
| Semantische Selektoren |
| |||
| Delegate | Ja | Chat | OpenAI |
|
| Anthropic |
| |||
| ||||
| Fireworks KI |
|
1 Agents-Anforderungen:
- Stellen Sie sicher, dass Ihr LLM Folgendes unterstützt:
- Tool (Funktions)-Aufruf – Das Modell muss in der Lage sein, Tools oder Funktionen während der Ausführung aufzurufen.
- Parallele Toolaufrufe deaktivieren – Wenn Ihr Anbieter dies unterstützt, sollte das Modell die Option zum Deaktivieren paralleler Toolaufrufe bieten.
- Bei Verwendung benutzerdefinierter Modelle setzen Agents standardmäßig ein 4096-Token-Limit, unabhängig von der wahren Kapazität des Modells, da UiPath keine Token-Limits für kundenseitig definierte Bereitstellungen ableiten kann.
Verbrauchsraten für vom Kunden verwaltete Modelle
Wenn Sie Ihr eigenes Modell (BYOM) verwenden, verbrauchen berechtigte Produkte weniger Lizenzierungseinheiten. In der folgenden Tabelle sind die BYOM-Verbrauchsraten zusammengefasst, die in der UiPath-Lizenzierungsrichtlinie, der autoritativen Quelle, veröffentlicht wurden. Berechtigungen sowie Produkte und Funktionen, die hier nicht aufgeführt sind, finden Sie auf dieser Seite.
Die meisten berechtigten Produkte wenden eine Ermäßigung von 30 % an, drei entfernen die Gebühr vollständig, AI Center wendet eine Ermäßigung von 90 % an und Agents ändern den Zähler anstelle der Rate.
Um sich für die Verringerung zu qualifizieren, konfigurieren Sie jedes Modell, das das Produkt benötigt. Wenn ein erforderliches Modell fehlt, greift das Produkt auf von UiPath verwaltete Modelle zurück und es gilt die Standardrate.
Unified Pricing
Die Raten werden in Platform Units (PU) angegeben.
Die aufgeführten Raten sind Standardverbrauchsraten und spiegeln möglicherweise nicht die vertraglichen Raten Ihrer Organisation wider. Die vollständige und aktuelle Liste der Raten finden Sie unter UiPath-Lizenzierung.
| Produkt | Funktion | Meter | Standardrate | Bewerten Sie mit Ihrem eigenen Modell | Reduzierung |
|---|---|---|---|---|---|
| Ausführung des Conversational Agent | Autopilot for Everyone | Pro Aktion | 0.2 | 0,14 | 30 % |
| Agent-Ausführung | Mitarbeiter | Pro LLM-Aufruf in 64.000 Eingabetoken-Schritten | 0,2 Standardmodell; 0,16 Basismodell; 0,4 Premiummodell | 0,2 pro Agent-Ausführung | Keines. Der Zähler ändert sich von LLM-Aufrufen zu Agent-Ausführungen. |
| Agent-Ausführung | Codierte Agents (BYOM) | Pro Agent-Ausführung, max. Laufzeit von 5 Minuten | 0,2 kleine Maschine; 0,4 Standard; 0,8 mittel; 2 groß | Entspricht der Standardrate | Keine |
| Healing Agent | Keine Angabe | Pro Heilung, einschließlich Empfehlung | 3 | 2.1. | 30 % |
| App Test Healing Agent | Keine Angabe | Pro Testheilung | 1 | 0.7 | 30 % |
| ScreenPlay | ScreenPlay | Pro ScreenPlay-Ausführung | 0,2 Standardmodell; 0,05 Basismodell | Verfügbar | 100% |
| ScreenPlay | Semantische Aktivitäten | Pro Aktivität | 0,1 | Verfügbar | 100% |
| ScreenPlay | Semantische Selektoren | Pro Selektorausführung | 0,01 | Verfügbar | 100% |
| Kontextgrundlage | DeepRAG-Abfrage | Pro Anforderung sind 30.000 Token begrenzt | 0.2 | 0,14 | 30 % |
| Kontextgrundlage | Erweiterte Erfassung | Pro 15.000 erfasste Token | 0.4 | 0,28 | 30 % |
| Kontextgrundlage | Batch-Transformation | Pro verarbeiteter Zeile | 0.2 | 0,14 | 30 % |
| AI Center-Ausführung | Keine Angabe | Pro Vorhersage | 0.2 | 0.02 | 90% |
Flex
Weitere Informationen zu den Flex Pricing-BYOM-Verbrauchsraten erhalten Sie von Ihrem UiPath-Vertreter.
- Lizenzierung
- Wie LLM-Anforderungen weitergeleitet werden
- Direkte Verbindung über Integration Service
- Private Netzwerkverbindung über Relay
- KI-Gateway-Verbindung über einen benutzerdefinierten Connector
- Einrichten einer LLM-Konfiguration
- 1. Erstellen Sie die Integration Service-Verbindung
- 2. Fügen Sie eine neue LLM-Konfiguration hinzu
- 3. Konfigurieren Sie das Modell
- 4. Validieren und speichern Sie
- Verwalten vorhandener LLM-Verbindungen
- Konfiguration von LLMs für Ihr Produkt
- Verbrauchsraten für vom Kunden verwaltete Modelle
- Unified Pricing
- Flex