テキスト補完を生成

UiPath.OpenAI.IntegrationService.Activities.GenerateTextCompletion

説明

プロンプトとその他の入力 (モデル ID など) を指定すると、このアクティビティはテキスト補完応答を生成します。この機能は、複数のテキスト生成モデルをサポートします。詳しくは、「モデルとテキスト補完の違い」をご覧ください。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

• コネクション - Integration Service で確立されたコネクションです。ドロップダウン メニューからコネクションを選択、追加、または管理します。
• プロンプト - テキスト補完の生成に使用するプロンプトです。 プロンプトについて詳しくは、こちらをご覧ください。

プロパティを管理

[プロパティを管理] ウィザードを使用して、オブジェクトの標準フィールドまたはカスタム フィールドを設定または使用します。フィールドを選択してアクティビティ キャンバスに追加できます。追加した標準フィールドまたはカスタム フィールドは、[プロパティ] パネル (デスクトップ版の Studio) または [その他のプロパティを表示] (Studio Web) で利用できます。

その他のプロパティ

• モデル名 - テキスト補完に使用する大規模言語モデル (LLM) です。ドロップダウン リストから、利用可能なオプションのいずれかを選択します。テキスト補完は、すべてのモデルでサポートされているわけではありません。選択したモデルがこの操作に対応していることを確認してください。これらのモデルの違いについて詳しくは、 OpenAI のドキュメントをご覧ください。
• 最大トークン数 - プロンプトと生成された回答に対して許可されるトークンの最大数です。トークンが少ない方が安価です。ほとんどのモデルでは最大 4096 個のトークンがサポートされていますが、一部のモデルでサポートされているのは 2048 個のみです。既定値は 1920です。トークンについての詳細は、こちらをご覧ください。
• N - AI が返す補完の選択肢の数です。このフィールドの最小値は 1です。既定値は 1です。
• 温度 - 0 から 2 までの数値です。 0.8 のような高い値であるほどよりランダムな出力が生成されます。一方、 0.2 のような低い値の場合は、より焦点のあった確定的な出力が生成されます。既定値は 1です。
• 上位 P - 0 から 1 までの数値です。 この値が小さいほど、考慮されるトークンの数が少なくなります。既定値は 1 です。
• サフィックス - 挿入されたテキストの完了後に付けられるサフィックスです。既定値は [ nullです。
• ストリーム - 進行状況の一部をストリームバックするかどうかを指定します。設定すると、トークンは利用可能になるとデータのみのサーバー送信イベントとして送信され、ストリームは data:[DONE] メッセージによって終了します。既定値は [ falseです。
• ログ確率 - logprobの最も可能性の高いトークンと、選択したトークンのログ確率を含めます。たとえば、 logprobs が 5 の場合、API は最も可能性の高い 5 つのトークンのリストを返します。API は常にサンプリングされたトークンの logprob を返すため、応答には最大 logprobs+1 つの要素が含まれる場合があります。logprobsの最大値は 5 です。既定値は [nullです。
• エコー - 完了に加えて、このフィールドが [ true] に設定されている場合、プロンプトをエコー バックします。既定値は falseです。
• 停止 - API が追加のトークンの生成を停止する最大 4 つのシーケンスです。返されたテキストには停止シーケンスは含まれません。既定値は [ nullです。
• プレゼンス ペナルティ - -2.0 から 2.0 の数値です。正の値は、これまでのテキストに表示されているかどうかに基づいて新しいトークンにペナルティを与え、モデルが新しいトピックについて話す可能性を高めます。既定値は [ 0です。
• 頻度ペナルティ - -2.0 から 2.0 の数値です。正の値は、これまでのテキストにおける既存の頻度に基づいて新しいトークンにペナルティを与え、モデルが同じ行をそのまま繰り返す可能性を減少させます。既定値は [ 0です。
• Best Of - サーバー側で best_of 補完を生成し、 best (トークンあたりのログ確率が最も高いもの) を返します。結果をストリーミングすることはできません。N と一緒に使用する場合、 best_of は候補となる補完の数を制御し、N は返す数を指定します。 best_of N より大きい必要があります。既定値は 1です。
  • このパラメーターにより多くの完了が生成されるため、トークン クォータをすばやく使用できます。 注意深く使用し、[最大トークン] と [停止] に関する合理的な設定を行っていることを確認してください。
• ユーザー - エンド ユーザーを表す一意の識別子です。OpenAI が違反を監視および検出するのに役立ちます。既定値は [ nullです。

出力

• 上位の生成テキスト - 上位の生成テキスト補完文字列です。1 つの応答 (つまりN=1 (既定値) の場合、これは最も使用したい出力になります。これは Text データ型であり、変数を簡単に割り当てて他のアクティビティ/テキスト入力で直接使用できます。
• テキスト補完を生成 - 自動的に生成される出力変数です。以下を含む完全な GenerateTextCompletion オブジェクトです。
  • 選択肢 - またはモデルからの応答。モデルから返す応答の合計数を設定するには、アクティビティの追加オプションの [N] フィールドを使用します。既定値は 1 です。これは、最初のオブジェクトが 0 から始まる配列として返されます。元。[繰り返し (コレクションの各要素)] コントロール内の配列内の 1 つのオブジェクトを参照する: Response.Choices(0).Textテキスト補完応答オブジェクトの他の部分について詳しくは、「 補完を作成する 」をご覧ください。