Chatvervollständigung generieren

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

Beschreibung

Ausgehend von einer Benutzeraufforderung und zusätzlichen Optionen wie Anweisung (die einen Konversationsverlauf enthalten kann) generiert diese Aktivität eine Textvervollständigungsantwort. Weitere Informationen zur Chatvervollständigungs-API.

Bitte beachten Sie, dass diese Aktivität zwar einen Konversationsverlauf hinzufügen kann, aber frühere Anforderungen und Antworten aus dem Modell nicht im Speicher speichert. Sie ist zustandslos. Bei jeder OpenAI Chat-Aktivität muss der Benutzer den vollständigen Dialogverlauf als Kontext in der Eingabeaufforderung angeben.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindung – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.
• Modellname – Das Large Language Model (LLM), das für die Chatvervollständigung verwendet werden soll. Wählen Sie eine der verfügbaren Optionen aus der Dropdownliste aus. Die Chatvervollständigung wird nicht von allen Modellen unterstützt. Stellen Sie sicher, dass das ausgewählte Modell mit diesem Vorgang kompatibel ist. Weitere Informationen zu den Unterschieden zwischen diesen Modellen finden Sie in der OpenAI-Dokumentation.
• Eingabeaufforderung – Die Eingabeaufforderung, die Sie für die Generierung der Chatvervollständigung verwenden möchten. Lesen Sie mehr über Prompt Engineering.
• Bildtyp – Der Bildtyp, der zusammen mit einer Nachricht gesendet werden soll, wenn eine Bildanalyse erforderlich ist. Dieses Feld wird angezeigt, wenn Sie das Modell GPT-4V auswählen. Wählen Sie eine der verfügbaren Optionen aus: Bilddatei, Bild-URL. Unterstützte Dateiformate: PNG (.png), JPEG (.jpeg und .jpg), WEBP (.webp) und nicht animiertes GIF (.gif)
  • Bilddatei – Wählen Sie eine Bilddatei mithilfe einer Variablen aus. Dieses Feld unterstützt die Eingabe vom Typ IResource .
  • Bild-URL – Die Bild-URL, die zusammen mit einer Nachricht gesendet werden soll, wenn eine Bildanalyse erforderlich ist. Dieses Feld unterstützt die Eingabe vom Typ String .

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten, um standardmäßige oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Eigenschaften anzeigen (in Studio Web) verfügbar.

Zusätzliche Eigenschaften

• Anweisung – Anweisungen, wie die KI die Chatvervollständigungsantwort generieren soll. Dies ist das Äquivalent der Systemrolle , die in den OpenAI-Dokumenten beschrieben wird. Die Rolle Assistant ist derzeit in dieser Aktivität nicht verfügbar.
• Max. Token – Die maximale Anzahl der Token, die für die Eingabeaufforderung und die generierte Antwort zulässig sind. Weniger Token sind weniger teuer. Die meisten Modelle unterstützen maximal 4096 Token, einige Modelle unterstützen jedoch nur 2048. Der Standardwert ist 1920. Hier erfahren Sie mehr über Token.
• N – Die Anzahl der Vervollständigungsoptionen, die die KI zurückgeben soll. Der Mindestwert dieses Felds ist 1. Der Standardwert ist 1.
• Temperatur - Eine Zahl zwischen 0 und 2. Höhere Werte wie 0.8 machen die Ausgabe zufälliger, während niedrigere Werte wie 0.2 sie gezielter und deterministischer machen. Der Standardwert ist 1.
• Erste P – Eine Zahl zwischen 0 und 1. Je niedriger die Anzahl, desto weniger Token werden berücksichtigt. Die Standardeinstellung ist 1.
• Stream – Gibt an, ob teilweise Fortschritten gestreamt werden sollen. Wenn diese Option festgelegt ist, werden Token als reine Server-Ereignisse gesendet, sobald sie verfügbar sind, und der Stream wird durch eine data:[DONE] -Meldung beendet. Die Standardeinstellung ist false.
• Anhalten – Bis zu 4 Sequences, in denen die API die Generierung weiterer Token anhält. Der zurückgesendete Text enthält keine Stopp-Sequence. Die Standardeinstellung ist null.
• Ahndung für Vorkommen – Eine Zahl zwischen -2.0 und 2.0. Positive Werte wirken sich negativ auf neue Token aus, je nachdem, ob sie bisher im Text vorkommen, und erhöhen die Wahrscheinlichkeit, dass das Modell über neue Themen spricht. Die Standardeinstellung ist 0.
• Ahndung für Häufigkeit – Zahl zwischen -2,0 und 2,0. Positive Werte wirken sich negativ auf neue Token aus, die auf ihrer bisherigen Häufigkeit im Text basieren, und verringern die Wahrscheinlichkeit, dass das Modell dieselbe Zeile wörtlich wiederholt. Die Standardeinstellung ist 0.
• Benutzer – Eine eindeutige Kennung für Ihren Endbenutzer, die OpenAI helfen kann, Missbrauch zu überwachen und zu erkennen. Die Standardeinstellung ist null.

Ausgabe

• Am häufigsten generierter Text – Die am häufigsten generierte Chat-Vervollständigungszeichenfolge. Wenn Sie nur eine einzelne Antwort zurückgeben möchten (d. h. N=1, was der Standardwert ist), ist dies die Ausgabe, die Sie wahrscheinlich verwenden möchten. Es handelt sich um einen Text -Datentyp, dem einfach eine Variable zugewiesen und direkt in anderen Aktivitäten/Texteingaben verwendet werden kann.
• Generate Chat Completion – Automatisch generierte Ausgabevariable. Die am häufigsten generierte Chat-Vervollständigungszeichenfolge. Wenn Sie nur eine einzelne Antwort zurückgeben möchten (d. h. N=1, was der Standardwert ist), ist dies die Ausgabe, die Sie wahrscheinlich verwenden möchten. Es handelt sich um einen Text-Datentyp, dem einfach eine Variable zugewiesen und direkt in anderen Aktivitäten/Texteingaben verwendet werden kann.
  • Auswahlmöglichkeiten – oder Antworten aus dem Modell. Sie können die Gesamtanzahl der Antworten, die Sie aus dem Modell zurückgeben möchten, mithilfe des Felds „N“ in den zusätzlichen Optionen der Aktivität festlegen, die standardmäßig 1 ist. Dies wird als Array mit dem ersten Objekt zurückgegeben, das bei 0 beginnt. Bsp. Verweisen auf ein einzelnes Objekt in einem Array innerhalb eines Steuerelements „Für jede/n“: Response.Choices(0).Text. Weitere Informationen finden Sie in der Dokumentation zum Chatvervollständigungsobjekt .