Konfigurieren eines LLM für Autopilot

Konfigurieren Sie Ihr eigenes LLM-Abonnement für Autopilot über den AI Trust Layer.

Mit der AI Trust Layer-Karte im Abschnitt Administrator Ihrer Organisation können Sie Ihr eigenes Abonnement für die Modelle konfigurieren, die Autopilot unterstützt.

Um Ihr eigenes LLM zu konfigurieren, benötigen Sie eine Verbindung zu den folgenden KI-Anbietern, je nachdem, welches Modell Sie integrieren möchten:

• Amazon Bedrock oder Amazon Web Services für Anthropic-Modelle
• Google Vertex für Gemini-Modelle.
  Wichtig:

  Um ein Gemini-Modell einzurichten, müssen Sie sich an Ihren angegebenen technischen Kontomanager bei UiPath wenden.

Wenn Sie Autopilot als das Produkt auswählen, für das Sie Ihr eigenes LLM konfigurieren möchten, müssen Sie die Funktion auswählen, die dieses Modell verwenden wird:

Generation

Konfigurieren Sie Ihr eigenes LLM zum Generieren von Automatisierungen, Ausdrücken oder Apps in Ihren Studio-Projekten. Sie müssen alle Standardmodelle mit Ihren eigenen überschreiben:

1. Gehen Sie zu Admin > AI Trust Layer Abschnitt Ihrer Organisation.

2. Wählen Sie auf der Registerkarte LLM-Konfigurationen den Mandanten aus, für den Sie Ihr LLM konfigurieren möchten.

3. Wählen Sie Konfiguration hinzufügen aus und geben Sie die folgenden Eigenschaften an:

   1. Produkt – Wählen Sie Autopilotaus
   2. Funktion – Wählen Sie Generationaus

4. Geben Sie den Verbindungsordner an.

5. Konfigurieren Sie für jeden Standard -LLM-Namen einen neuen Connector und eine Verbindung für Ihr eigenes Modell.

   

Chat

Konfigurieren Sie ein anderes LLM, um den Kontext Ihrer aktuellen Seite oder Ihres Projekts zu lesen und Fragen zu beantworten, Automatisierungen zu erklären oder Verbesserungen vorzuschlagen. Das von Ihnen konfigurierte Modell überschreibt das vorhandene Modell. Autopilot verwendet ein primäres Modell für komplexe Aufgaben und ein optionales sekundäres Modell für einfachere, kostenoptimierte Aufgaben.

1. Gehen Sie zu Admin > AI Trust Layer Abschnitt Ihrer Organisation.

2. Wählen Sie auf der Registerkarte LLM-Konfigurationen den Mandanten aus, für den Sie Ihr LLM konfigurieren möchten.

3. Wählen Sie Konfiguration hinzufügen aus und geben Sie die folgenden Eigenschaften an:

   1. Produkt – Wählen Sie Autopilotaus
   2. Funktion – Wählen Sie Chataus

4. Geben Sie den Verbindungsordner an.

5. Konfigurieren Sie Ihr neues Modell.

   

Wichtig:

Wenn Sie sowohl ein primäres als auch ein sekundäres Modell konfigurieren, zeigt ein Tooltip beide Modellnamen an und bestätigt, dass das sekundäre Modell zur Optimierung verwendet wird. Wenn Sie nur das primäre Modell konfigurieren, weist eine Warnung auf die fehlende sekundäre Konfiguration hin, und das primäre Modell übernimmt alle Aufgaben – einschließlich der einfacheren Aufgaben, die das System andernfalls an ein leichteres sekundäres Modell übergeben würde. Wenn Sie das sekundäre Modell nicht konfiguriert lassen, wird standardmäßig ein UiPath-eigenes Abonnement für Automation Cloud-Organisationen verwendet oder es kann Chatfunktionen wie die Kontextkomprimierung für Automation Suite-Organisationen einschränken.

Weitere Einzelheiten dazu finden Sie unter Einrichten einer LLM-Verbindung.

Die Liste der von Autopilot unterstützten Modelle sowie deren Kontextfenster- und Output-Token-Limits finden Sie unter Unterstützte Modelle und Limits“..

Das Produkt und die Funktion, die Sie hier auswählen (Autopilot > Generation oder Autopilot > Chat), bestimmen, welche LLM-Konfiguration gilt. Model Hub zeigt das resultierende Modell, den Anbieter, die Region und den Status für Produkte wie Test Manager, das dort nicht auswählbar ist. Verwenden Sie die Schritte auf dieser Seite (oder entfernen Sie die Konfiguration), um das Modell zu ändern. Der Model Hub zeigt nur das Ergebnis und den Konfigurationsverlauf an.

Wichtig:

Sie sind für den Lebenszyklus jeder benutzerdefinierten LLM-Konfiguration verantwortlich, die Sie hier einrichten. Wenn das zugrunde liegende Modell veraltet ist, werden Sie mindestens 30 Tage im Voraus in der App und per E-Mail darüber informiert und müssen vor dem Datum der Einstellung zu einem Ersatz migrieren; andernfalls schlagen die Anfragen über diese Konfiguration fehl.»

Weitere Informationen finden Sie unter Model Hub und Verwalten von Modellen im Model Hub.