アクティビティ

Llama2 を使用してテキスト補完を取得

説明

Meta Llama 2 モデルを使用して、指定されたプロンプトに基づいてテキスト補完応答を生成します。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

コネクション ID - Integration Service で確立されたコネクションです。ドロップダウンメニューからコネクションを選択、追加、または管理します。
モデル - テキスト補完の生成に使用するモデルです。ドロップダウンリストから、使用可能なオプション (Llama2 13B、Llama2 70B) のいずれかを選択します。
プロンプト - テキスト補完の生成に使用するプロンプトです。このフィールドでは String 型の入力がサポートされています。

プロパティを管理

[プロパティを管理] ウィザードを使用して、オブジェクトの標準フィールドまたはカスタムフィールドを設定または使用します。フィールドを選択して、アクティビティキャンバスに追加できます。追加した標準フィールドまたはカスタムフィールドは、[ プロパティ] パネル (デスクトップ版の Studio) または [その他のオプションを表示] (Studio Web の場合) で利用できます。

その他のオプション

最大トークン数 - プロンプトおよび生成された回答に使用できるトークンの最大数です。トークンが少ないほど安価です。デフォルト値は 256 です。このフィールドでは Int32 型の入力がサポートされています。
温度 - 0 から 2 までの数値。値が大きいほど出力がよりランダムになり、値が小さいほど焦点が絞られ、決定論的になります。既定では、このフィールドは 0.2 に設定されています。このフィールドでは Double 型の入力がサポートされています。
上位 P - 0 から 1 までの数値です。この数が少ないほど、考慮されるトークンが少なくなります。このフィールドでは Int32 型の入力がサポートされています。