テキスト補完を生成

UiPath.OpenAI.IntegrationService.Activities.GenerateTextCompletion

説明

プロンプトと他の入力 (モデル ID など) を与えると、このアクティビティはテキスト補完応答を生成します。 この機能は、キュリー、エイダ、バベッジなどのレガシーGPT-3テキスト生成モデルを利用します。 詳しくは、「モデルとテキスト補完の違い」をご覧ください。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

• コネクション ID - Integration Service で確立されたコネクションです。 ドロップダウン メニューからコネクションを選択、追加、または管理します。

• プロンプト - テキスト補完の生成に使用するプロンプトです。 プロンプトについて詳しくは、こちらをご覧ください。

プロパティを管理

[プロパティを管理] ウィザードを使用して、オブジェクトの標準フィールドまたはカスタム フィールドを設定または使用します。 フィールドを選択して、アクティビティ キャンバスに追加できます。 追加した標準フィールドまたはカスタム フィールドは、[ プロパティ] パネル (デスクトップ版の Studio) または [その他のオプションを表示] (Studio Web の場合) で利用できます。

その他のオプション

• • モデル名 - テキスト補完に使用するラージ言語モデル (LLM) です。 これらのモデルの違いについて詳しくは、 OpenAI のドキュメントをご覧ください。
  • トークンの最大数 - プロンプトおよび生成される回答に使用できるトークンの最大数です。 トークンが少ないほど安価です。 ほとんどのモデルは最大 4096 トークンをサポートしますが、一部のモデルは 2048 のみをサポートします。 既定値は 1920です。 トークンの詳細については、こちらをご覧ください。
  • N - AI に返される完了選択肢の数です。 このフィールドの最小値は、 1です。 既定値は 1です。
  • 温度 - 0 から 2 の間の数値。 0.8 のような値が大きいほど出力がよりランダムになりますが、 0.2 のような値は値がよりフォーカスされ、確定的になります。 既定値は 1です。
  • 上位 P - 0 から 1 の数値です。この数が少ないほど、考慮されるトークンが少なくなります。既定値は 1 です。
  • サフィックス - 挿入したテキストの完了後に入力するサフィックスです。 既定では、 nullされます。
  • Stream - 部分的な進行状況をストリーム バックするかどうかを指定します。 設定した場合、トークンは使用可能になった時点でデータ専用のサーバー送信イベントとして送信され、ストリームは data:[DONE] メッセージで終了します。 既定では、 falseされます。
  • ログの Probs - logprobの最も可能性が高いトークンと、選択したトークンのログの計算値を含めます。 たとえば、 logprobs が 5 の場合、API は最も可能性の高い 5 つのトークンのリストを返します。 API は常に、サンプルしたトークンの logprob を返すため、応答には最大で logprobs+1 要素がある可能性があります。 logprobs の最大値は 5 です。既定では、 nullされます。
  • Echo - 完了に加えて、このフィールドが trueに設定されている場合、プロンプトをエコーします。 既定値は falseです。
  • Stop - API がさらなるトークンの生成を停止する最大 4 つのシーケンス。 返されたテキストに停止シーケンスが含まれていません。 既定では、 nullされます。
  • プレゼンス ペナルティー - -2.0 から 2.0 の間の数値です。 正の値は、これまでにテキストに含まれているかどうかに基づいて新しいトークンにペナルティを与え、モデルが新しいトピックについて話す可能性を高めます。 既定では、 0されます。
  • 頻度の違約金 - -2.0 から 2.0 の間の数値です。 正の値は、これまでのテキスト内の既存の頻度に基づいて新しいトークンにペナルティを適用し、モデルが同じ行を冗長に繰り返す可能性を減らします。 既定では、 0されます。
  • ベスト オブ - best_of 完了をサーバー側に生成し、 best を返します (トークンごとのログ確率が最も高いトークン)。 結果はストリーミングできません。 N と一緒に使用する場合、 best_of は候補の完了回数を制御し、N は返す数を指定します。 best_of 、N より大きくする必要があります。既定では、 1。

    • このパラメーターにより多くの完了が生成されるため、トークン クォータをすばやく使用できます。 注意深く使用し、[最大トークン] と [停止] に関する合理的な設定を行っていることを確認してください。

  • ユーザー - エンド ユーザーを表す一意の識別子です。OpenAI が違反を監視および検出するのに役立ちます。 既定では、 nullされます。

出力

• 上位生成テキスト - 上位生成テキスト補完文字列です。 単一の応答のみを返すことに関心がある場合(つまり、 N = 1、これがデフォルトです)、これはあなたが使用したいと思う可能性が最も高い出力になります。 これは、他のアクティビティ/テキスト入力に変数を代入して直接使用できる Text データ型です。
• テキスト補完を生成 - 自動的に生成される出力変数です。 以下を含む完全な GenerateTextCompletion オブジェクトです。
  • 選択肢 - またはモデルからの応答。 アクティビティの追加オプションの [N] フィールドを使用して、モデルから返される回答の合計数を設定できます。既定値は 1 です。 これは、最初のオブジェクトが0から始まる配列として返されます。元。 「For Each」コントロール内の配列内の 1 つのオブジェクトを参照する: Response.Choices(0).Text. テキスト補完応答オブジェクトの他の部分の詳細については、「 完了の作成 」のドキュメントを参照してください。