Chatvervollständigung generieren

Beschreibung

Ausgehend von einer Eingabeaufforderung und anderen Eingaben wird eine Chat-Vervollständigungsantwort generiert.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindungs-ID – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.

• Nachrichten – Die Nachrichten, die Sie für die Generierung der Chatvervollständigung(en) verwenden möchten. Geben Sie dem Modell einen Dialog- oder Chatkontext, indem Sie eine Zeichenfolge eingeben und dann zurückgeben. Es muss eine ungerade Anzahl von Zeichenfolgen eingegeben werden, damit die Aktivität funktioniert. Die erste Eingabe ist der „Benutzer“, die zweite das „Modell“ und so weiter. Dieses Feld unterstützt die Eingabe vom Typ String .
• Modell-ID – Das Large Language Model (LLM), das für die Vollständigungsanforderung verwendet werden soll. Wählen Sie eine der verfügbaren Optionen aus: Baxon-002, Baxon-001.

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten, um Standard- oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Optionen anzeigen (in Studio Web) verfügbar.

Zusätzliche Optionen

• Kontext – Kontextinformationen in der Eingabeaufforderung leiten die Antwort des Modells und helfen dabei, den Umfang seiner Antwort basierend auf dem bereitgestellten Kontext zu begrenzen. Dieses Feld unterstützt die Eingabe vom Typ String .
• Max. Ausgabetoken – Die maximale Anzahl der Token, die für die Eingabeaufforderung und die generierte Antwort zulässig sind. Weniger Token sind weniger kostspielig. Die meisten Modelle unterstützen maximal 1024 Token. Der Standardwert ist 1024.
• Temperatur - Eine Zahl zwischen 0 und 1. Höhere Werte wie 0.8 machen die Ausgabe zufälliger, während niedrigere Werte wie 0.2 sie fokussierter und bestimmter machen. Der Standardwert ist 0.8.
• Top p – Eine Zahl zwischen 0 und 1. Je niedriger die Zahl, desto geringer die Zufälligkeit des Ergebnisses. Die Standardeinstellung ist 0.8.
• Top k – Eine Zahl zwischen 1 und 40. Je höher die Zahl, desto höher die Vielfalt des generierten Texts. Die Standardeinstellung ist 40.
• Beispiele – Strukturierte Nachrichtenpaare, die eine Eingabenachricht enthalten wie „Für wen arbeiten Sie?“ und die entsprechende ideale Antwort „Ich arbeite für Ned“ sind wichtige Beispiele für das Training des Modells, um in verschiedenen Gesprächen effektiv zu reagieren. Dieses Feld unterstützt die Eingabe vom Typ String .

Ausgabe

• Am häufigsten generierter Text – Der am häufigsten generierte Chat. Automatisch generierte Ausgabevariable.
• Chatvervollständigung – Automatisch generierte Ausgabevariable.