テキスト補完を生成

説明

プロンプトやモデル ID などのその他の入力を指定すると、テキスト完了応答が生成されます。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

• コネクション - Integration Service で確立されたコネクションです。ドロップダウン メニューからコネクションを選択、追加、または管理します。
• モデル - テキスト補完に使用する大規模言語モデル (LLM) です。
  注:

  このアクティビティでは、Azure インスタンスにデプロイされている任意の GPT-3 モデルを選択できます。ドロップダウンにモデルが表示されない場合は、Azure の管理者に問い合わせて、モデルが運用環境にデプロイされていることを確認します。

• プロンプト - テキスト補完の生成に使用するプロンプトです。このフィールドでは String 型の入力がサポートされています。

プロパティを管理

[プロパティを管理] ウィザードを使用して、オブジェクトの標準フィールドまたはカスタム フィールドを設定または使用します。フィールドを選択してアクティビティ キャンバスに追加できます。追加した標準フィールドまたはカスタム フィールドは、[プロパティ] パネル (デスクトップ版の Studio) または [その他のプロパティを表示] (Studio Web) で利用できます。

その他のプロパティ

• API バージョン - この操作に使用する API バージョンです。これは YYYY-MM-DD 形式に従います。このフィールドでは String 型の入力がサポートされています。
• 最大トークン 数 - 補完時に生成するトークンの最大数です。プロンプトと max_tokens のトークン数は、モデルのコンテキストの長さを超えることはできません。ほとんどのモデルのコンテキスト長は 2048 トークンです (ただし最新モデルは 4096 トークンをサポートします)。トークンについて詳しくは、こちらをご覧ください。
• N - AI が返す補完の選択肢の数です。このフィールドの最小値は
  1. 既定値は 1 です。
• 温度 - 使用するサンプリング温度の値です。値が大きいほど、モデルの出力は不確定になります。より創造的な応答または補完を得る場合は 0.9 を試し、明確に定義されたまたはより正確な答えを含む補完を得る場合は 0 (最大確率サンプリングともいう) してみてください。一般的には、この値または核サンプル値を既定値から変更することが推奨されており、両方の値を変更することは推奨されていません。既定値は 1 です。
• 上位 P - 0 から 1 までの数値です。 この値が小さいほど、考慮されるトークンの数が少なくなります。既定値は 1 です。
• ストリーム - 進行状況の一部をストリームバックするかどうかを指定します。設定すると、トークンは利用可能になるとデータのみのサーバー送信イベントとして送信され、ストリームは data:[DONE] メッセージによって終了します。既定値は false です。
• ログ確率 - logprobの最も可能性の高いトークンと、選択したトークンのログ確率を含めます。たとえば、 logprobs が 5 の場合、API は最も可能性の高い 5 つのトークンのリストを返します。API は常にサンプリングされたトークンの logprob を返すため、応答には最大 logprobs+1 つの要素が含まれる場合があります。logprobsの最大値は 5 です。既定値は null です。
• エコー - 完了に加えて、このフィールドが [ true] に設定されている場合、プロンプトをエコー バックします。既定値は falseです。
• 停止 - API が追加のトークンの生成を停止する最大 4 つのシーケンスです。返されたテキストには停止シーケンスは含まれません。既定値は null です。
• プレゼンス ペナルティ - -2.0 から 2.0 の数値です。正の値は、これまでのテキストに表示されているかどうかに基づいて新しいトークンにペナルティを与え、モデルが新しいトピックについて話す可能性を高めます。既定値は 0 です。
• 頻度ペナルティ - -2.0 から 2.0 の数値です。正の値は、これまでのテキストにおける既存の頻度に基づいて新しいトークンにペナルティを与え、モデルが同じ行をそのまま繰り返す可能性を減少させます。既定値は 0 です。
• Best Of - サーバー側で best_of 補完を生成し、 best (トークンあたりのログ確率が最も高いもの) を返します。結果をストリーミングすることはできません。N と一緒に使用する場合、 best_of は候補となる補完の数を制御し、N は返す数を指定します。 best_of N より大きくする必要があります。既定値は 1 です。

出力

• 上位の生成テキスト - 上位の生成テキスト補完文字列です。1 つの応答 (つまりN=1 (既定値) の場合、これは最も使用したい出力になります。これは「テキスト」データ型であり、変数を簡単に割り当てて、他のアクティビティ/テキスト入力で直接使用できます。
• テキスト補完を生成 - 以下を含む完全な TextCompletion オブジェクトです。
  • モデルからの選択または応答。モデルから返す応答の合計数を設定するには、アクティビティの追加オプションの N フィールドを使用します。既定値は 1 です。これは、最初のオブジェクトが 0 から始まる配列として返されます。元。[繰り返し (コレクションの各要素)] コントロール内の配列内の単一のオブジェクトを参照するResponse.Choices(0).Textテキスト補完応答オブジェクトの詳細については、こちらをご覧ください。