Konfigurieren eines LLM für Autopilot

Konfigurieren Sie Ihr eigenes LLM-Abonnement für Autopilot über den AI Trust Layer für die Generierungs- und Chat-Funktionen.

Mit der AI Trust Layer-Karte im Abschnitt Administrator Ihrer Organisation können Sie Ihr eigenes Abonnement für die Modelle konfigurieren, die Autopilot unterstützt.

Um Ihr eigenes LLM zu konfigurieren, benötigen Sie eine Verbindung zu den folgenden KI-Anbietern, je nachdem, welches Modell Sie integrieren möchten:

• Amazon Bedrock oder Amazon Web Services für Anthropic-Modelle
• Google Vertex für Gemini-Modelle.
  Wichtig:

  Um ein Gemini-Modell einzurichten, müssen Sie sich an Ihren angegebenen technischen Kontomanager bei UiPath wenden.

Wenn Sie Autopilot als das Produkt auswählen, für das Sie Ihr eigenes LLM konfigurieren möchten, müssen Sie die Funktion auswählen, die dieses Modell verwenden wird:

Generation

Konfigurieren Sie Ihr eigenes LLM zum Generieren von Automatisierungen, Ausdrücken oder Apps in Ihren Studio-Projekten. Sie müssen alle Standardmodelle mit Ihren eigenen überschreiben:

1. Gehen Sie zu Admin > AI Trust Layer Abschnitt Ihrer Organisation.

2. Wählen Sie auf der Registerkarte LLM-Konfigurationen den Mandanten aus, für den Sie Ihr LLM konfigurieren möchten.

3. Wählen Sie Konfiguration hinzufügen aus und geben Sie die folgenden Eigenschaften an:

   1. Produkt – Wählen Sie Autopilotaus
   2. Funktion – Wählen Sie Generationaus

4. Geben Sie den Verbindungsordner an.

5. Konfigurieren Sie für jeden Standard -LLM-Namen einen neuen Connector und eine Verbindung für Ihr eigenes Modell.

   

Chat

Konfigurieren Sie ein anderes LLM, um den Kontext Ihrer aktuellen Seite oder Ihres Projekts zu lesen und Fragen zu beantworten, Automatisierungen zu erklären oder Verbesserungen vorzuschlagen. Das von Ihnen konfigurierte Modell überschreibt das vorhandene Modell. Autopilot-Chat verwendet ein primäres Modell für komplexe Aufgaben und ein optionales sekundäres Modell für einfachere, kostenoptimierte Aufgaben.

1. Gehen Sie zu Admin > AI Trust Layer Abschnitt Ihrer Organisation.

2. Wählen Sie auf der Registerkarte LLM-Konfigurationen den Mandanten aus, für den Sie Ihr LLM konfigurieren möchten.

3. Wählen Sie Konfiguration hinzufügen aus und geben Sie die folgenden Eigenschaften an:

   1. Produkt – Wählen Sie Autopilotaus
   2. Funktion – Wählen Sie Chataus

4. Geben Sie den Verbindungsordner an.

5. Konfigurieren Sie Ihr neues Modell.

   

Wichtig:

Wenn Sie sowohl ein primäres als auch ein sekundäres Modell konfigurieren, zeigt ein Tooltip beide Modellnamen an und bestätigt, dass das sekundäre Modell für die Optimierung verwendet wird. Wenn Sie nur das primäre Modell konfigurieren, wird die fehlende sekundäre Konfiguration durch eine Warnung gekennzeichnet. Das primäre Modell verarbeitet alle Aufgaben – einschließlich einfacherer Aufgaben, die das System andernfalls auf ein leichteres sekundäres Modell verlagern würde. Wenn Sie das sekundäre Modell unkonfiguriert lassen, wird standardmäßig ein UiPath-eigenes Abonnement für Automation Cloud-Organisationen verwendet oder kann Chatfunktionen wie Kontextkomprimierung für Automation Suite-Organisationen einschränken.

Weitere Einzelheiten dazu finden Sie unter Einrichten einer LLM-Verbindung.

Die Liste der Modelle, die Autopilot unterstützt, und deren Kontextfenster- und Ausgabetoken-Grenzen finden Sie unter Unterstützte Modelle und Limits.

Das Produkt und die Funktion, die Sie hier auswählen (Autopilot > Generation oder Autopilot > Chat), bestimmen, welche LLM-Konfiguration angewendet wird. Der Modellhub zeigt das resultierende Modell, den Anbieter, die Region und den Status für Produkte wie den Test Manager an, der dort nicht auswählbar ist – verwenden Sie die Schritte auf dieser Seite (oder entfernen Sie die Konfiguration), um das Modell zu ändern. Model Hub zeigt nur das Ergebnis und den Konfigurationsverlauf an.

Wichtig:

Sie sind für den Lebenszyklus jeder benutzerdefinierten LLM-Konfiguration verantwortlich, die Sie hier einrichten. Wenn das zugrunde liegende Modell veraltet ist, werden Sie mindestens 30 Tage im Voraus in der App und per E-Mail benachrichtigt und müssen vor dem Einstellungsdatum zu einem Ersatz migrieren; andernfalls schlagen Anforderungen über diese Konfiguration fehl.

Weitere Informationen finden Sie unter Model Hub und Verwalten von Modellen im Model Hub.