Chatvervollständigung generieren

Beschreibung

Ausgehend von einer Eingabeaufforderung und anderen Eingaben wird eine Chat-Vervollständigungsantwort generiert.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindung – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.
• Nachrichten – Die Nachrichten, die Sie für die Erzeugung der Chatvervollständigungverwenden möchten. Geben Sie dem Modell einen Dialog- oder "Chat"-Kontext, indem Sie eine Zeichenfolge eingeben und dann zurückgeben. Es muss eine ungerade Anzahl von Zeichenfolgen eingegeben werden, damit die Aktivität funktioniert. Die erste Eingabe ist der „Benutzer“, die zweite das „Modell“ und so weiter. Dieses Feld unterstützt die Eingabe vom Typ String .
• Modell-ID – Das Large Language Model (LLM), das für die Vervollständigungsanforderung verwendet werden soll. Wählen Sie eine der verfügbaren Optionen aus: BSON-002, BSON-001.

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten, um standardmäßige oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Eigenschaften anzeigen (in Studio Web) verfügbar.

Zusätzliche Eigenschaften

• Kontext – Kontextinformationen in der Eingabeaufforderung leiten die Antwort des Modells und helfen dabei, den Umfang seiner Antwort basierend auf dem bereitgestellten Kontext zu begrenzen. Dieses Feld unterstützt die Eingabe vom Typ String .
• Max. Ausgabetoken – Die maximale Anzahl der Token, die für die Eingabeaufforderung und die generierte Antwort zulässig sind. Weniger Token sind weniger teuer. Die meisten Modelle unterstützen maximal 1024 Token. Der Standardwert ist 1024.
• Temperatur – Eine Zahl zwischen 0 und 1. Höhere Werte wie 0.8 machen die Ausgabe zufälliger, während niedrigere Werte wie 0.2 sie gezielter und deterministischer machen. Der Standardwert ist 0.8.
• Erste p – Eine Zahl zwischen 0 und 1. Je niedriger die Zahl, desto geringer ist die Zufälligkeit des Ergebnisses. Die Standardeinstellung ist 0.8.
• Erste k – Eine Zahl zwischen 1 und 40. Je höher die Zahl, desto größer ist die Vielfalt des generierten Texts? Die Standardeinstellung ist 40.
• Beispiele – Strukturierte Nachrichtenpaare, bestehend aus einer Eingabenachricht wie „Für wen arbeiten Sie?“ und die entsprechende ideale Antwort „Ich arbeite für Ned“ sind wichtige Beispiele für das Training des Modells, um in verschiedenen Gesprächen effektiv zu reagieren. Dieses Feld unterstützt die Eingabe vom Typ String .

Ausgabe

• Am häufigsten generierter Text – Der am häufigsten generierte Chat. Automatisch generierte Ausgabevariable.
• Chatvervollständigung – Automatisch generierte Ausgabevariable.