Chatvervollständigung generieren

Verwenden Sie den UiPath-Connector, um eine Chatvervollständigung zu generieren.

Beschreibung

Ausgehend von einer Benutzeraufforderung generiert diese Aktivität eine Chat-Vervollständigungsantwort. Die Eingabeaufforderung kann sowohl Systemanweisungen als auch Benutzeranweisungen sowie aufgabenspezifische Parameter enthalten, die von der Modelleinrichtung in der NVIDIA NIM-API abhängen .

Verwendung der Aktivität in einem agentischen Prozess

Um diese Aktivität in einem Maestro-Prozess zu verwenden, führen Sie folgende Schritte aus:

1. Öffnen Sie einen neuen oder vorhandenen agentischen Prozess.
2. Fügen Sie ein Dienstaufgabenelement zur Arbeitsfläche hinzu und öffnen Sie den Eigenschaftenbereich der Aufgabe.
3. Nennen Sie die Dienstaufgabe Nvidia NIM Hello World.
4. Wählen Sie im Abschnitt Implementierung in der Dropdownliste Aktion die Option Connector-Aktivität ausführen aus.
5. Wählen Sie den NVIDIA NIM- Connector aus.
6. Wählen Sie eine vorhandene Verbindung aus oder erstellen Sie eine neue. Weitere Informationen finden Sie unter NVIDIA NIM-Authentifizierung.
7. Wählen Sie unter Aktivität die Option Chatvervollständigung generieren aus.
8. Wählen Sie für Modellversion ein Modell aus der Liste der Modelle aus, die im API-Endpunkt verfügbar sind, der unter URL angegeben wurde, als der Connector erstellt wurde. Die Modellversion kann während des Builds und Debuggens geändert werden und wird auf eine Prozessversion festgelegt, wenn die Automatisierung veröffentlicht wird.
9. Verwenden Sie für Aufforderungstext den Ausdruckseditor, um eine Eingabeaufforderung zu erstellen, die sowohl Systemanweisungen als auch die Variablen aus Ihrem Prozess enthält, die für die Aufgabe des Modells erforderlich sind. Für eine kurze Verbindungsprüfung ist ein einfacher Prompt wie "What can you do" ein guter Anfang.
10. Verbinden Sie das Startereignis mit der Dienstaufgabe und die Dienstaufgabe mit einem Endereignisknoten in der Canvas.
11. Wählen Sie Debuggen , um diesen Prozess auszuführen. Überprüfen Sie nach einer erfolgreichen Ausführung die globalen Variablen und suchen Sie nach der Antwort {:} aus der Quelle: NVIDIA NIM sie Hello World. Beachten Sie die Struktur der Antwort.

Die Ausgabe des Agents muss einer Prozessvariablen zugeordnet werden, damit sie den Fortschritt des Maestro-Prozesses beeinflussen kann, um beispielsweise eine Entscheidung auf der Grundlage einer booleschen Bewertung zu treffen oder die Antwort aus einer Klassifizierungsaufgabe zu verwenden.

1. Wählen Sie im Designmodus den Agent auf der Designfläche aus.
2. Wählen Sie Eigenschaften aus.
3. Unter Ausgabe. Wählen Sie + Neu hinzufügen aus
4. Wählen Sie unter Ausgabe die Option Neue hinzufügen und fügen Sie eine Variable vom Typ Zeichenfolge mit dem Namen agent_reponse hinzu.
5. Für Wert: Wählen Sie Variable aus und überprüfen Sie die verfügbaren Ausgabevariablen des NIM-Agenten. Dies ist wahrscheinlich eine Zeichenfolgenvariable, die die vollständige Modellantwort enthält.

Bewerten der Ausgabe

Ausgaben, die sich an Menschen wenden, z. B. die Gründe für eine Eskalation, können einfach als natürlicher Text für den Menschen übergeben werden. Eine Ausgabe, die für eine API-/Roboteraktion erwartet wird, muss streng zusammengesetzt sein. Hier ist ein Beispiel für einen System-/Benutzerprompt, der eine bestimmte Ausgabe eines Agents liefert. Verwenden Sie den Ausdrucks-Editor in Studio, um nach Bedarf Variablen hinzuzufügen.

"What is the quantity on inventory of Order ID " + vars.orderId_1 + "respond only with a JSON object with the quantity in the key Order_Quantity. No explanations, only JSON"

Der Agent antwortet wie folgt:

{"Order_Quantity":"100"}

Achten Sie besonders auf die Typen in Ihrer Anfrage an den Agenten und in der tatsächlichen Antwort. Auch wenn die Antwort wie vom Typ JSON aussieht, kann sie tatsächlich vom Typ string sein.