Chatvervollständigung generieren

Beschreibung

Generieren Sie mithilfe von Chat-Vervollständigungsmodellen eine Chat-Antwort für die bereitgestellte Anforderung.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindungs-ID – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.

• Modellname – Der Name oder die ID des Modells oder der Bereitstellung, die für die Chatvervollständigung verwendet werden soll. Wählen Sie eine Option aus der verfügbaren Dropdownliste aus, die mehrere Azure OpenAI- und Google Vertex-Modelle enthält.
• Eingabeaufforderung – Die Benutzeraufforderung für die Chatvervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String .

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten, um Standard- oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Optionen anzeigen (in Studio Web) verfügbar.

Zusätzliche Optionen

• Systemeingabeaufforderung – Die Systemeingabeaufforderung oder Kontextanweisung der Chat-Vervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String .
• Maximale Anzahl von Token – Die maximale Anzahl der Token, die in der Vervollständigung generiert werden sollen. Die Tokenanzahl Ihrer Eingabeaufforderung sowie die des Ergebnisses/der Vervollständigung dürfen den für dieses Feld angegebenen Wert nicht überschreiten. Es ist am besten, diesen Wert kleiner als die maximale Anzahl des Modells festzulegen, um etwas Platz für die Anzahl der Eingabeaufforderungstoken zu haben. Der Standardwert ist 1024. Dieses Feld unterstützt die Eingabe vom Typ Int64 .
• Temperatur – Der Wert des Kreativitätsfaktors oder die zu verwendende Stichprobe. Höhere Werte bedeutet, dass das Modell mehr Risiken eingeht. Versuchen Sie es mit 0,9 für kreativere Antworten oder Vervollständigungen oder 0 (auch „Argmax-Sampling“ genannt) für solche mit einer genau definierten oder genaueren Antwort. Im Allgemeinen wird empfohlen, ab dem Standardwert diesen oder den Nucleus-Beispielwert zu ändern, aber nicht beide Werte. Der Standardwert ist 1.
• Anzahl der Vervollständigungsauswahlen – Die Anzahl der Vervollständigungsauswahlen, die für die Anforderung generiert werden sollen. Je höher der Wert dieses Felds ist, desto mehr Token werden verwendet. Dies führt zu höheren Kosten, deshalb muss sich der Benutzer dessen bewusst sein, wenn er den Wert dieses Felds festlegt. Der Standardwert ist 1.
• Sequence anhalten – Bis zu vier Sequences, bei denen die API aufhört, weitere Token zu generieren. Der zurückgegebene Text enthält die Stopp-Sequence nicht. Der Standardwert ist null.
• Ahndung für Vorkommen – Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage geahndet, ob sie bisher im Text vorkommen, und die Wahrscheinlichkeit wird erhöht, dass das Modell über neue Themen spricht. Der Standardwert ist 0.
• Ahndung für Häufigkeit – Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage ihrer bisherigen Häufigkeit im Text geahndet und die Wahrscheinlichkeit wird verringert, dass das Modell dieselbe Zeile wortwörtlich wiederholt. Der Standardwert ist 0.

Ausgabe

• Am häufigsten generierter Text – Der generierte Text. Automatisch generierte Ausgabevariable.
• Chatvervollständigung generieren – Automatisch generierte Ausgabevariable.