チャット補完を生成

UiPath.MicrosoftAzureOpenAI.IntegrationService.Activities.GenerateChatCompletion

説明

ユーザー プロンプト、任意の指示、およびその他の任意の入力 (モデル ID など) を指定すると、チャットの完了応答が生成されます。 この機能は、一般的な ChatGPT の機能を模倣します。 このアクティビティでは、GPT-3.5 や GPT-4 のモデルと対話し、コンテキスト ロールとユーザー ロールを介してモデルとの対話エクスペリエンスをシミュレートできます。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

• コネクション - Integration Service で確立されたコネクションです。ドロップダウンからコネクションを選択、追加、管理します。このフィールドでは、文字列または String 型の変数のみがサポートされています。
• プロンプト - チャット補完の生成に使用するプロンプトです。 プロンプトについて詳しくは、こちらをご覧ください。

Advanced (カスタム)

オプション

• 指示 - AI がチャット補完応答を生成する方法に関する指示です。 これは、OpenAI ドキュメントで説明されている「システム ロール」に相当します。 現在、このアクティビティでは「アシスタント」ロールは利用できません。 詳細については、こちらのページをご覧ください。
• モデル名 - チャット補完に使用する大規模言語モデル (LLM) です。 gpt-35-turbo と gpt-4 から選択できます。これらのモデルの違いについて詳しくは、こちらをご覧ください。 既定では、gpt-4 が選択されています。
  メモ： このアクティビティでは、お使いの Azure インスタンスにデプロイされている GPT-3.5 または GPT-4 モデルを選択できます。 ドロップダウンにモデルが表示されない場合は、Azure 管理者にお問い合わせのうえ、モデルを運用環境にデプロイしたことを確認してください。
• 最大トークン数 - プロンプトと生成された回答に対して許可されるトークンの最大数です。トークンが少ない方が安価です。ほとんどのモデルでは最大 4096 個のトークンがサポートされていますが、一部のモデルでサポートされているのは 2048 個のみです。既定値は 1920 です。トークンについて詳しくは、こちらをご覧ください。
• N - AI に返される完了選択肢の数です。 このフィールドの最小値は、 1です。 既定値は 1です。
• 温度 - 0 から 2 の間の数値。 0.8 のような値が大きいほど出力がよりランダムになりますが、 0.2 のような値は値がよりフォーカスされ、確定的になります。 既定値は 1です。
• 上位 P - 0 から 1 の数値です。この数が少ないほど、考慮されるトークンが少なくなります。既定値は 1 です。
• Stream - 部分的な進行状況をストリーム バックするかどうかを指定します。 設定した場合、トークンは使用可能になった時点でデータ専用のサーバー送信イベントとして送信され、ストリームは data:[DONE] メッセージで終了します。 既定では、 falseされます。
• プレゼンス ペナルティー - -2.0 から 2.0 の間の数値です。 正の値は、これまでにテキストに含まれているかどうかに基づいて新しいトークンにペナルティを与え、モデルが新しいトピックについて話す可能性を高めます。 既定では、 0されます。
• 頻度の違約金 - -2.0 から 2.0 の間の数値です。 正の値は、これまでのテキスト内の既存の頻度に基づいて新しいトークンにペナルティを適用し、モデルが同じ行を冗長に繰り返す可能性を減らします。 既定では、 0されます。

出力

• 応答 - 以下を含む完全な GenerateChatCompletion オブジェクトです。
  • チョイス - モデルからの応答です。 既定で 1 に設定されるアクティビティの追加オプションで、['N] フィールドを使用して、モデルから返される応答の総数を設定できます。 これは 0 から始まる最初のオブジェクトを持つ配列として返されます。元。 「繰り返し」コントロール内の配列内の単一のオブジェクトを参照する: Response.Choices(0).Text

    チャット補完応答オブジェクトの他の部分については、このページを参照してください。

• 上限生成テキスト - 最上位に生成されたチャット完了文字列です。 あなたは単一の応答(つまり、1つの応答のみを返す)に興味がある場合は. N=1 が既定です)。これが、最も使用される可能性が高い出力になります。 これは「Text」データ型であり、変数を割り当てて他のアクティビティ/テキスト入力で直接使用するのは簡単です。