Chatvervollständigung generieren

Beschreibung

Ausgehend von einer Benutzeraufforderung, einer optionalen Anweisung und anderen optionalen Eingaben, wie z. B. der Modell-ID usw., wird eine Antwort zum Abschluss des Chats erzeugt. Diese Funktion imitiert die beliebten ChatGPT-Funktionen. Diese Aktivität ermöglicht Benutzern die Interaktion mit GPT-3.5- und GPT-4-Modellen und die Simulation eines Dialogs mit dem Modell über Kontext und Benutzerrollen.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindungs-ID – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.

• Modell – Das Large Language Model (LLM), das für die Chatvervollständigung verwendet werden soll. Sie können zwischen gpt-35-turbo und gpt-4 wählen. Weitere Informationen zu den Unterschieden zwischen diesen Modellen finden Sie in der Microsoft- Dokumentation.
  Hinweis: Diese Aktivität ermöglicht Benutzern die Auswahl eines beliebigen GPT-3.5- oder GPT-4-Modells, das in Ihrer Azure-Instanz bereitgestellt wurde. Wenn Sie ein Modell nicht in der Dropdownliste sehen, wenden Sie sich an Ihren Azure-Administrator und stellen Sie sicher, dass das Modell für die Produktion bereitgestellt wurde.
• Eingabeaufforderung – Die Eingabe, die für die Chatvervollständigungsanforderung verwendet werden soll. Lesen Sie mehr über Eingabeaufforderungsentwicklung. Dieses Feld unterstützt die Eingabe vom Typ String .
• Wissensdatenbank – Gibt an, ob die Chatvervollständigung mit eindeutigem Kontext ausgeführt wird, der in einer Symboldatenbank gespeichert ist. Wenn diese Option ausgewählt ist, sind andere Felder erforderlich. Boolescher Wert. Der Standardwert ist „False“.
• Symbol-DB – Die Kontur-DB, die als interne Wissensdatenbank verwendet werden soll. Wählen Sie eine Option aus dem Dropdownmenü aus. Im Moment ist nur Pinecone verfügbar. Dieses Feld wird angezeigt, wenn Sie Wissensdatenbank auf True festlegen.
• Pinecone API Key – Wenn Sie Ihre eigene Instanz einer Pinecone-vektordatenbank verwenden, um eine Chat-Vervollständigung mit erweiterter Abrufgenerierung zu erhalten, müssen Sie den API-Schlüssel angeben. Dies kann als Asset gespeichert werden, wenn die Sicherheit ein Problem ist. Dieses Feld unterstützt die Eingabe vom Typ String . Dieses Feld wird angezeigt, wenn Sie Pinecone für das Feld V-DB auswählen.
• Pinecone-Umgebung – Umgebung, in der die Pinecone-Datenbank gehostet wird. Wenden Sie sich an Ihre Instanz. Dies ist ein Pflichtfeld, wenn eine erweiterte Generierung für den Abruf gewünscht wird. Wählen Sie eine Option aus der verfügbaren Dropdownliste aus.
• Pinecone-Index - Der Pinecone-Index, der nach relevantem Inhalt durchsucht werden soll. Wählen Sie eine Option aus der verfügbaren Dropdownliste aus. Dieses Feld ist optional.
• Pinecone namespace – Der spezifische Pinecone-Namespace, der nach Ziehen in einem relevanten Kontext gesucht werden soll. Wählen Sie eine Option aus der verfügbaren Dropdownliste aus. Dieses Feld ist optional.

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten , um Standard- oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Eigenschaften anzeigen (in Studio Web) verfügbar.

Zusätzliche Eigenschaften

• API-Version - Die API-Version, die für diesen Vorgang verwendet werden soll. dies folgt dem Format JJJJ-MM-TT. Dieses Feld unterstützt die Eingabe vom Typ String .
• Anweisung – Anweisungen, die die KI anweisen, entsprechend Ihrer Absicht zu reagieren. Der Standardwert ist NULL. Dieses Feld unterstützt die Eingabe vom Typ String .
• Max. Token – Die maximale Anzahl von Token, die für die Eingabeaufforderung und die generierte Antwort zulässig sind. Weniger Token sind weniger teuer. Die meisten Modelle unterstützen maximal 4096 Token, einige Modelle unterstützen jedoch nur 2048. Der Standardwert ist 3840. Lesen Sie weitere Informationen zu Tokens.
• Temperatur – Eine Zahl zwischen 0 und 2. Höhere Werte wie 0.8 machen die Ausgabe zufälliger, während niedrigere Werte wie 0,2 sie gezielter und deterministischer machen. Der Standardwert ist 1.
• N – Die Anzahl der Vervollständigungsauswahlen, die die KI zurückgeben soll. Der Mindestwert dieses Felds ist 1. Der Standardwert ist 1.
• Oberste P – Eine Zahl zwischen 0 und 1. Je niedriger die Zahl, desto weniger Token werden berücksichtigt. Der Standardwert ist 1.
• Stream – Gibt an, ob der teilweise Fortschritt zurückgestreamt werden soll. Wenn diese Option festgelegt ist, werden die Token als reine Server-Ereignisse gesendet, sobald sie verfügbar sind, und der Stream wird durch eine data:[DONE] -Nachricht beendet. Der Standardwert ist False.
• Ahndung für Vorkommen ( Presence Ahndung ) - Eine Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage geahndet, ob sie bisher im Text vorkommen, und die Wahrscheinlichkeit wird erhöht, dass das Modell über neue Themen spricht. Der Standardwert ist 0.
• Ahndung für Häufigkeit – Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage ihrer bisherigen Häufigkeit im Text geahndet und die Wahrscheinlichkeit wird verringert, dass das Modell dieselbe Zeile wortwörtlich wiederholt. Der Standardwert ist 0.

Ausgabe

• Am häufigsten generierter Text – Die am häufigsten generierte Chat-Vervollständigungszeichenfolge. Wenn Sie daran interessiert sind, nur eine einzelne Antwort zurückzugeben (d. h. N=1, was der Standardeinstellung entspricht), ist dies die Ausgabe, die Sie am wahrscheinlichsten verwenden möchten. Es handelt sich um einen Text -Datentyp, dem einfach eine Variable zugewiesen und direkt in anderen Aktivitäten/Texteingaben verwendet werden kann.
• Chatvervollständigung - Das vollständige ChatCompletion -Objekt, das Folgendes enthält:
  • Auswahlmöglichkeiten – oder Antworten aus dem Modell. Sie können die Gesamtanzahl der Antworten, die das Modell zurückgeben soll, festlegen, indem Sie das Feld „N“ in den zusätzlichen Optionen der Aktivität verwenden, die standardmäßig auf 1 gesetzt ist. Dies wird als Array zurückgegeben, wobei das erste Objekt bei 0 beginnt. Bsp. Verweisen auf ein einzelnes Objekt in einem Array innerhalb eines Steuerelements „For Each“: Response.Choices(0).Text. Weitere Informationen finden Sie in der Dokumentation zum Chatvervollständigungsobjekt.