Chatvervollständigung generieren

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

Beschreibung

Bei einer Benutzeraufforderung und zusätzlichen Optionen wie einer Anweisung (die einen Konversationsverlauf enthalten kann) generiert diese Aktivität eine Text-Vervollständigungsantwort. Diese Aktivität ist standardmäßig GPT-3.5-Turbo hat, sondern auch den Zugriff auf GPT-4 ermöglicht. Beide Modelle sind für den Chat optimiert, daher der Name der Aktivität. Lesen Sie mehr über die Chat-Vervollständigungs-API.

Bitte beachten Sie, dass diese Aktivität Benutzern zwar die Möglichkeit gibt, einen Konversationsverlauf hinzuzufügen, aber frühere Anforderungen und Antworten des Modells nicht im Speicher behält. Er ist zustandslos. Bei jeder OpenAI Chat-Aktivität muss der Benutzer den vollständigen Dialogverlauf als Kontext in der Eingabeaufforderung angeben.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindungs-ID – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.

• Modellname – Das Large Language Model (LLM), das für die Chatvervollständigung verwendet werden soll. Wählen Sie eine der verfügbaren Optionen aus der Dropdownliste aus: GPT-4, GPT-3.5, GPT-4V. Der Standardwert ist GPT-4. Weitere Informationen zu den Unterschieden zwischen diesen Modellen finden Sie in der OpenAI-Dokumentation.
• Eingabeaufforderung – Die Eingabeaufforderung, die Sie für die Generierung der Chatvervollständigung verwenden möchten. Lesen Sie mehr über Eingabeaufforderungen.
• Image type - The type of image to send along with a message if image analysis is needed. This field is displayed if you select the GPT-4V model. Select one of the available options: Image file, Image URL.
  • Image file - Select an image file using a variable. This field supports IResource type input.
  • Image URL - The image URL to send along with a message if image analysis is needed. This field supports String type input.

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten, um Standard- oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Optionen anzeigen (in Studio Web) verfügbar.

Zusätzliche Optionen

• Anweisung – Anweisungen, wie die KI die Chat-Vervollständigungsantwort generieren soll. Dies ist das Äquivalent der Systemrolle, die in den OpenAI-Dokumenten beschrieben wird. Die Rolle Assistant ist in dieser Aktivität derzeit nicht verfügbar.
• Modellname – Das Large Language Model (LLM), das für die Chatvervollständigung verwendet werden soll. Sie können zwischen gpt-3.5-turbo und gpt-4 wählen. Standardmäßig ist gpt-4 ausgewählt.
• Max. Token – Die maximale Anzahl von Token, die für die Eingabeaufforderung und die generierte Antwort zulässig sind. Weniger Token sind weniger teuer. Die meisten Modelle unterstützen maximal 4096 Token, einige Modelle unterstützen jedoch nur 2048. Der Standardwert ist 1920. Lesen Sie mehr über Token.
• N – Die Anzahl der Auswahlmöglichkeiten für den Abschluss, die die KI zurückgeben soll. Der Mindestwert dieses Felds ist 1. Der Standardwert ist 1.
• Temperatur – Eine Zahl zwischen 0 und 2. Höhere Werte wie 0.8 sorgen für eine zufälligere Ausgabe, während niedrigere Werte wie 0.2 für eine fokussiertere und bestimmtere Ausgabe sorgen. Der Standardwert ist 1.
• Top P – Eine Zahl zwischen 0 und 1. Je niedriger die Zahl, desto weniger Token werden berücksichtigt. Die Standardeinstellung ist 1.
• Stream – Gibt an, ob der teilweise Fortschritt zurückgestreamt werden soll. Wenn festgelegt, werden Token als vom Server gesendete Nur-Daten-Ereignisse gesendet, sobald sie verfügbar werden, wobei der Stream durch eine data:[DONE] -Nachricht beendet wird. Die Standardeinstellung ist false.
• Anhalten – Bis zu 4 Sequences, bei denen die API die Generierung weiterer Token beendet. Der zurückgegebene Text enthält die Stopp-Sequence nicht. Die Standardeinstellung ist null.
• Anwesenheitsstrafe (Penalty ) - Eine Zahl zwischen -2,0 und 2,0. Positive Werte bestrafen neue Token basierend darauf, ob sie bereits im Text erscheinen, wodurch die Wahrscheinlichkeit steigt, dass das Modell über neue Themen spricht. Die Standardeinstellung ist 0.
• Häufigkeitsabzug – Zahl zwischen -2,0 und 2,0. Positive Werte benachteiligen neue Token basierend auf ihrer bisherigen Häufigkeit im Text und verringern die Wahrscheinlichkeit, dass das Modell dieselbe Zeile wörtlich wiederholt. Die Standardeinstellung ist 0.
• Benutzer – Ein eindeutiger Bezeichner, der Ihren Endbenutzer darstellt, der OpenAI bei der Überwachung und Erkennung von Missbrauch helfen kann. Die Standardeinstellung ist null.

Ausgabe

• Am häufigsten generierter Text – Die am häufigsten generierte Chat-Vervollständigungszeichenfolge. Wenn Sie daran interessiert sind, nur eine einzelne Antwort zurückzugeben (d. h. N=1, was der Standardeinstellung entspricht), ist dies die Ausgabe, die Sie am wahrscheinlichsten verwenden möchten. Es handelt sich um einen Text -Datentyp, dem einfach eine Variable zugewiesen und direkt in anderen Aktivitäten/Texteingaben verwendet werden kann.
• Chatvervollständigung generieren – Automatisch generierte Ausgabevariable. Die am häufigsten generierte Chat-Vervollständigungszeichenfolge. Wenn Sie daran interessiert sind, nur eine einzelne Antwort zurückzugeben (d. h. N=1, was der Standardeinstellung entspricht), ist dies die Ausgabe, die Sie am wahrscheinlichsten verwenden möchten. Es handelt sich um einen Text-Datentyp, dem einfach eine Variable zugewiesen und direkt in anderen Aktivitäten/Texteingaben verwendet werden kann.
  • Auswahlmöglichkeiten – oder Antworten aus dem Modell. Sie können die Gesamtanzahl der Antworten, die das Modell zurückgeben soll, festlegen, indem Sie das Feld „N“ in den zusätzlichen Optionen der Aktivität verwenden, die standardmäßig auf 1 gesetzt ist. Dies wird als Array zurückgegeben, wobei das erste Objekt bei 0 beginnt. Bsp. Verweisen auf ein einzelnes Objekt in einem Array innerhalb eines Für jede-Steuerelements: Response.Choices(0).Text. Weitere Informationen finden Sie in der Dokumentation zum Chatvervollständigungsobjekt .