Chatvervollständigung generieren

Beschreibung

Generieren Sie mithilfe von Chat-Vervollständigungsmodellen eine Chat-Antwort für die bereitgestellte Anforderung.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindungs-ID – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.

• Modellname – Der Name oder die ID des Modells oder der Bereitstellung, die für die Chatvervollständigung verwendet werden soll. Wählen Sie eine Option aus der verfügbaren Dropdownliste aus, die mehrere Azure OpenAI- und Google Vertex-Modelle enthält.
• Eingabeaufforderung – Die Benutzeraufforderung für die Chatvervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String .
• PII-Erkennung – Datum, an dem PII in der Eingabeaufforderung erkannt werden soll. Boolescher Wert. Der Standardwert ist False.
  • PII-Filterung – Bei True werden alle erkannten PII/PHi vor dem Senden an das LLM maskiert. Bei „False“ ist das erkannte PII in der Eingabeaufforderung enthalten. In beiden Fällen ist das erkannte PII in der Ausgabe verfügbar. Wenn True festgelegt wurde, kann die Qualität der Ausgabe beeinträchtigt werden. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
  • PII-Sprache – Die Sprache der Eingabeaufforderung und -ausgabe, die nach PII gescannt werden soll. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
  • PII/Phi-Kategorie – Die optionale PII-/Phi-Kategorie oder Kategorien, nach denen analysiert werden soll. Wenn nicht festgelegt, werden alle Kategorien überprüft. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
• Systemeingabeaufforderung – Die Systemeingabeaufforderung oder Kontextanweisung der Chat-Vervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String . Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
• Kontexterstellung – Fügen Sie Kontext aus einem vorhandenen Index (Orchestrator-Bucket) oder aus einer Datei in die Eingabeaufforderung ein. Wählen Sie eine der verfügbaren Optionen aus dem Dropdownmenü aus: Keine, Vorhandener Index, Dateiressource.
  • Index - Name des Indexes, auf den verwiesen werden soll. Dieses Feld wird angezeigt, wenn Kontexterstellung auf Vorhandener Index festgelegt ist.
  • Datei – Klicken Sie, um Variable zu verwenden. Dieses Feld unterstützt die Eingabe des IResource-Typs. Dieses Feld wird angezeigt, wenn Kontexterdung auf Dateiressource festgelegt ist.
  • Anzahl der Ergebnisse – Gibt die Anzahl der zurückzugebenden Ergebnisse an.

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten, um Standard- oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Optionen anzeigen (in Studio Web) verfügbar.

Zusätzliche Optionen

• Maximale Anzahl von Token – Die maximale Anzahl der Token, die in der Vervollständigung generiert werden sollen. Die Tokenanzahl Ihrer Eingabeaufforderung sowie die des Ergebnisses/der Vervollständigung dürfen den für dieses Feld angegebenen Wert nicht überschreiten. Es ist am besten, diesen Wert kleiner als die maximale Anzahl des Modells festzulegen, um etwas Platz für die Anzahl der Eingabeaufforderungstoken zu haben. Der Standardwert ist 1024. Dieses Feld unterstützt die Eingabe vom Typ Int64 .
• Temperatur – Der Wert des Kreativitätsfaktors oder die zu verwendende Stichprobe. Höhere Werte bedeutet, dass das Modell mehr Risiken eingeht. Versuchen Sie es mit 0,9 für kreativere Antworten oder Vervollständigungen oder 0 (auch „Argmax-Sampling“ genannt) für solche mit einer genau definierten oder genaueren Antwort. Im Allgemeinen wird empfohlen, ab dem Standardwert diesen oder den Nucleus-Beispielwert zu ändern, aber nicht beide Werte. Der Standardwert ist 1.
• Anzahl der Vervollständigungsauswahlen – Die Anzahl der Vervollständigungsauswahlen, die für die Anforderung generiert werden sollen. Je höher der Wert dieses Felds ist, desto mehr Token werden verwendet. Dies führt zu höheren Kosten, deshalb muss sich der Benutzer dessen bewusst sein, wenn er den Wert dieses Felds festlegt. Der Standardwert ist 1.
• Sequence anhalten – Bis zu vier Sequences, bei denen die API aufhört, weitere Token zu generieren. Der zurückgegebene Text enthält die Stopp-Sequence nicht. Der Standardwert ist null.
• Ahndung für Vorkommen – Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage geahndet, ob sie bisher im Text vorkommen, und die Wahrscheinlichkeit wird erhöht, dass das Modell über neue Themen spricht. Der Standardwert ist 0.
• Ahndung für Häufigkeit – Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage ihrer bisherigen Häufigkeit im Text geahndet und die Wahrscheinlichkeit wird verringert, dass das Modell dieselbe Zeile wortwörtlich wiederholt. Der Standardwert ist 0.

Ausgabe

• Am häufigsten generierter Text – Der generierte Text. Automatisch generierte Ausgabevariable.
• Chatvervollständigung generieren – Automatisch generierte Ausgabevariable.