Chatvervollständigung generieren

Beschreibung

Ausgehend von einer Benutzeraufforderung, einer optionalen Anweisung und anderen optionalen Eingaben, wie z. B. der Modell-ID usw., wird eine Antwort zum Abschluss des Chats erzeugt. Diese Funktion imitiert die beliebten ChatGPT-Funktionen. Diese Aktivität ermöglicht Benutzern die Interaktion mit GPT-3.5- und GPT-4-Modellen und die Simulation eines Dialogs mit dem Modell über Kontext und Benutzerrollen.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindung – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.
• Modell – Das Large Language Model (LLM), das für die Chatvervollständigung verwendet werden soll. Sie können zwischen gpt-35-turbo und gpt-4 wählen. Weitere Informationen zu den Unterschieden zwischen diesen Modellen finden Sie in der Microsoft- Dokumentation.
  Hinweis:

  Diese Aktivität ermöglicht Benutzern die Auswahl eines beliebigen GPT-3.5- oder GPT-4-Modells, das in Ihrer Azure-Instanz bereitgestellt wurde. Wenn Sie ein Modell nicht in der Dropdownliste sehen, wenden Sie sich an Ihren Azure-Administrator und stellen Sie sicher, dass das Modell für die Produktion bereitgestellt wurde.

• Eingabeaufforderung – Die Eingabe, die für die Chatvervollständigungsanforderung verwendet werden soll. Lesen Sie mehr über Prompt-Engineering. Dieses Feld unterstützt die Eingabe vom Typ String .
• Wissensdatenbank – Gibt an, ob die Chatvervollständigung mit eindeutigem Kontext ausgeführt wird, der in einer Vektordatenbank gespeichert ist. Wenn diese Option ausgewählt ist, sind weitere Felder erforderlich. Boolescher Wert. Der Standardwert ist „False“.
• Vektor-DB – Die Vektor-DB, die als interne Wissensdatenbank verwendet werden soll. Wählen Sie eine Option aus dem Dropdownmenü aus. Derzeit ist nur Pinecone verfügbar. Dieses Feld wird angezeigt, wenn Sie Wissensdatenbank auf True festlegen.
• Pinecone-API-Schlüssel – Wenn Sie Ihre eigene Instanz einer Pinecone-vektordatenbank verwenden, um eine Chatvervollständigung mit erweiterter Abrufgenerierung zu erhalten, müssen Sie den API-Schlüssel angeben. Dies kann als Asset gespeichert werden, wenn Sicherheit ein Problem darstellt. Dieses Feld unterstützt die Eingabe vom Typ String . Dieses Feld wird angezeigt, wenn Sie Pinecone für das Vektor-DB-Feld auswählen.
• Pinecone-Umgebung – Umgebung, in der die Pinecone-Datenbank gehostet wird. Wenden Sie sich an Ihre Instanz. Dies ist ein Pflichtfeld, wenn eine Augmented-Generierung für den Abruf gewünscht wird. Wählen Sie eine Option aus der verfügbaren Dropdownliste aus.
• Pinecone-Index – Der Pinecone-Index, der nach relevanten Inhalten gesucht werden soll. Wählen Sie eine Option aus der verfügbaren Dropdownliste aus. Dieses Feld ist optional.
• Pinecone-Namespace – Der spezifische Pinecone-Namespace, der nach Pull-Vorgang im relevanten Kontext gesucht werden soll. Wählen Sie eine Option aus der verfügbaren Dropdownliste aus. Dieses Feld ist optional.

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten, um standardmäßige oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Eigenschaften anzeigen (in Studio Web) verfügbar.

Zusätzliche Eigenschaften

• API-Version – Die API-Version, die für diesen Vorgang verwendet werden soll. dies folgt dem Format JJJJ-MM-TT. Dieses Feld unterstützt die Eingabe vom Typ String .
• Anweisung – Anweisungen, die die KI anleiten, entsprechend Ihrer Absicht zu reagieren. Der Standardwert ist NULL. Dieses Feld unterstützt die Eingabe vom Typ String .
• Max. Token – Die maximale Anzahl der Token, die für die Eingabeaufforderung und die generierte Antwort zulässig sind. Weniger Token sind weniger teuer. Die meisten Modelle unterstützen maximal 4096 Token, einige Modelle unterstützen jedoch nur 2048. Der Standardwert ist 3840. Hier finden Sie weitere Informationen zu Tokens.
• Temperatur - Eine Zahl zwischen 0 und 2. Höhere Werte wie 0.8 machen die Ausgabe zufälliger, während niedrigere Werte wie 0,2 sie gezielter und deterministischer machen. Der Standardwert ist 1.
• N – Die Anzahl der Vervollständigungsoptionen, die die KI zurückgeben soll. Der Mindestwert dieses Feldes ist 1. Der Standardwert ist 1.
• Erste P – Eine Zahl zwischen 0 und 1. Je niedriger die Anzahl, desto weniger Token werden berücksichtigt. Der Standardwert ist 1.
• Stream – Gibt an, ob teilweise Fortschritten gestreamt werden sollen. Wenn diese Option festgelegt ist, werden Token als reine Server-Ereignisse gesendet, sobald sie verfügbar sind, und der Stream wird durch eine data:[DONE] -Meldung beendet. Der Standardwert ist „False“.
• Ahndung für Vorkommen – Eine Zahl zwischen -2.0 und 2.0. Positive Werte wirken sich negativ auf neue Token aus, je nachdem, ob sie bisher im Text vorkommen, und erhöhen die Wahrscheinlichkeit, dass das Modell über neue Themen spricht. Der Standardwert ist 0.
• Ahndung für Häufigkeit – Zahl zwischen -2,0 und 2,0. Positive Werte wirken sich negativ auf neue Token aus, die auf ihrer bisherigen Häufigkeit im Text basieren, und verringern die Wahrscheinlichkeit, dass das Modell dieselbe Zeile wörtlich wiederholt. Der Standardwert ist 0.

Ausgabe

• Am häufigsten generierter Text – Die am häufigsten generierte Chat-Vervollständigungszeichenfolge. Wenn Sie nur eine einzelne Antwort zurückgeben möchten (d. h. N=1, was der Standardwert ist), ist dies die Ausgabe, die Sie wahrscheinlich verwenden möchten. Es handelt sich um einen Text -Datentyp, dem einfach eine Variable zugewiesen und direkt in anderen Aktivitäten/Texteingaben verwendet werden kann.
• Chatvervollständigung – Das vollständige ChatCompletion -Objekt, das enthält:
  • Auswahlmöglichkeiten – oder Antworten aus dem Modell. Sie können die Gesamtanzahl der Antworten, die Sie aus dem Modell zurückgeben möchten, mithilfe des Felds „N“ in den zusätzlichen Optionen der Aktivität festlegen, die standardmäßig 1 ist. Dies wird als Array mit dem ersten Objekt zurückgegeben, das bei 0 beginnt. Bsp. Verweisen auf ein einzelnes Objekt in einem Array innerhalb eines Steuerelements „For Each“: Response.Choices(0).Text. Weitere Informationen finden Sie in der Dokumentation zum Chatvervollständigungsobjekt.