Get Text Completion using Llama2

Beschreibung

Generiert mithilfe von Meta-Lama-2-Modellen eine Textvervollständigungsantwort basierend auf einer bestimmten Eingabeaufforderung.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindungs-ID – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.

• Modell – Das Modell, das für die Generierung einer Textvervollständigung verwendet werden soll. Wählen Sie eine der verfügbaren Optionen aus der Dropdownliste aus: LLama2 13B, LLama2 70B.
• Eingabeaufforderung – Die Eingabeaufforderung, die für die Generierung einer Textvervollständigung verwendet werden soll. Dieses Feld unterstützt die Eingabe vom Typ String .

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten, um Standard- oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Optionen anzeigen (in Studio Web) verfügbar.

Zusätzliche Optionen

• Max. Tokenanzahl – Die maximale Anzahl von Token, die für die Eingabeaufforderung und die generierte Antwort zulässig sind. Weniger Token sind weniger teuer. Der Standardwert ist 256. Dieses Feld unterstützt die Eingabe vom Typ Int32 .
• Temperatur – Eine Zahl zwischen 0 und 2. Höhere Werte machen die Ausgabe zufälliger, während niedrigere Werte sie gezielter und deterministischer machen. Standardmäßig ist dieses Feld auf 0.2 festgelegt. Dieses Feld unterstützt die Eingabe vom Typ Double .
• Oben p – Eine Zahl zwischen 0 und 1. Je niedriger die Zahl, desto weniger Token werden berücksichtigt. Dieses Feld unterstützt die Eingabe vom Typ Int32 .

Ausgabe

• Vervollständigung – Am häufigsten generierte Textvervollständigung. Automatisch generierte Ausgabevariable.
• Antwortobjekt für Textvervollständigung – Das vollständige Antwortobjekt für die Textvervollständigung. Automatisch generierte Ausgabevariable.