テキスト補完を生成

説明

プロンプトやモデル ID などのその他の入力を指定すると、テキスト完了応答が生成されます。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

• 接続 - Integration Service で確立された接続です。 ドロップダウン メニューにアクセスして、コネクションを選択、追加、または管理します。

• モデル - テキスト補完に使用するラージ言語モデル (LLM) です。
  メモ： このアクティビティでは、Azure インスタンスにデプロイされている GPT-3 モデルを選択できます。 ドロップダウンにモデルが表示されない場合は、Azure 管理者にお問い合わせのうえ、モデルを運用環境にデプロイしたことを確認してください。
• プロンプト - テキスト補完の生成に使用するプロンプトです。 このフィールドでは String 型の入力がサポートされています。

プロパティを管理

[プロパティを管理] ウィザードを使用して、オブジェクトの標準フィールドまたはカスタム フィールドを設定または使用します。フィールドを選択して、アクティビティ キャンバスに追加できます。 追加した標準フィールドまたはカスタム フィールドは、[ プロパティ] パネル (デスクトップ版の Studio) または [ その他のプロパティを表示] (Studio Web の場合) で使用できます。

その他のプロパティ

• API バージョン - この操作に使用する API バージョンです。 これは、YYYY-MM-DD 形式に従います。 このフィールドでは String 型の入力がサポートされています。
• 最大トークン数 - 完了時に生成するトークンの最大数です。 プロンプトとmax_tokensのトークン数は、モデルのコンテキストの長さを超えることはできません。 ほとんどのモデルのコンテキスト長は 2048 トークンです (4096 をサポートする最新モデルを除く)。 トークンの詳細については、こちらをご覧ください。
• N - AI が返す完了選択肢の数。 このフィールドの最小値は 1 です。 既定値は 1 です。
• 温度 - 使用するサンプリング温度の値です。 値が大きいほど、モデルのリスクが高くなります。 より創造的な応答または完了については 0.9 を試し、明確に定義された、またはより正確な回答を持つものについては 0 (argmaxサンプリングとも呼ばれます)を試してください。 一般的な推奨事項は、デフォルト値から、この値または Nucleus サンプル値を変更することですが、両方の値は変更しないでください。 デフォルトは 1 です。
• 上位 P - 0 から 1 までの数値です。 この値が小さいほど、考慮されるトークンの数が少なくなります。既定値は 1 です。
• ストリーム - 部分的な進行状況をストリーミング バックするかどうかを指定します。 設定すると、トークンは使用可能になるとデータのみのサーバー送信イベントとして送信され、ストリームは data:[DONE] メッセージで終了します。 既定値は false です。
• 対数確率 - logprobの最も可能性の高いトークンと選択したトークンの対数確率を含めます。 たとえば、 logprobs が 5 の場合、API は最も可能性の高い 5 つのトークンのリストを返します。 API は常にサンプリングされたトークンの logprob を返すため、応答には最大 logprobs+1 個の要素が含まれる場合があります。 logprobs の最大値は 5 です。既定値は null です。
• Echo - 完了に加えて、このフィールドが trueに設定されている場合、プロンプトをエコーします。 既定値は falseです。
• Stop - API がそれ以上トークンの生成を停止するシーケンスを最大 4 つ指定します。 返されるテキストには、停止シーケンスが含まれていません。 既定値は null です。
• プレゼンス ペナルティ - -2.0 から 2.0 までの数値。 正の値は、新しいトークンがこれまでにテキストに出現したかどうかに基づいてペナルティを課し、モデルが新しいトピックについて話す可能性を高めます。 デフォルトは 0 です。
• 周波数ペナルティ - -2.0 から 2.0 までの数値。 正の値は、これまでのテキスト内の既存の頻度に基づいて新しいトークンにペナルティを課し、モデルが同じ行を逐語的に繰り返す可能性を減らします。 デフォルトは 0 です。
• Best Of - サーバー側で best_of 入力候補を生成し、 best (トークンあたりのログ確率が最も高いもの) を返します。 結果をストリーミングすることはできません。 N と一緒に使用する場合、 best_of は候補の完了数を制御し、N は返す数を指定します ( best_of は N より大きくなければなりません。既定値は 1 です。

出力

• 上生成テキスト - 生成 された最上位のテキスト完了文字列です。 あなたは単一の応答(つまり、1つの応答のみを返す)に興味がある場合は. N=1 が既定です)。これが、最も使用される可能性が高い出力になります。 これは「Text」データ型であり、変数を割り当てて他のアクティビティ/テキスト入力で直接使用するのは簡単です。
• テキスト補完を生成 - 以下を含む完全な TextCompletion オブジェクトです。
  • モデルからの選択または応答。 アクティビティの追加オプションの N フィールドを使用して、モデルから返される回答の合計数を設定できます。既定値は 1 です。 これは、最初のオブジェクトが0から始まる配列として返されます。旧。 [繰り返し (コレクションの各要素)] コントロール内の配列内の 1 つのオブジェクトを参照する: Response.Choices(0).Text. テキスト補完応答オブジェクトについて詳しくは、こちらをご覧ください。