チャット補完を生成

説明

ユーザー プロンプト、任意の指示、およびその他の任意の入力 (モデル ID など) を指定すると、チャットの完了応答が生成されます。 この機能は、一般的な ChatGPT の機能を模倣します。 このアクティビティでは、GPT-3.5 や GPT-4 のモデルと対話し、コンテキスト ロールとユーザー ロールを介してモデルとの対話エクスペリエンスをシミュレートできます。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

• コネクション - Integration Service で確立されたコネクションです。ドロップダウン メニューからコネクションを選択、追加、または管理します。
• モデル - チャット補完に使用する大規模言語モデル (LLM) です。[ gpt-35-turbo ] と [ gpt-4] から選択できます。これらのモデルの違いについて詳しくは、Microsoft のドキュメントをご覧ください。
  注:

  このアクティビティでは、Azure インスタンスにデプロイされている任意の GPT-3.5 または GPT-4 モデルを選択できます。ドロップダウンにモデルが表示されない場合は、Azure の管理者に問い合わせて、モデルが運用環境にデプロイされていることを確認します。

• プロンプト - チャット補完要求に使用する入力です。プロンプト エンジニアリングについて詳しくは、こちらをご覧ください。このフィールドでは String 型の入力がサポートされています。
• ナレッジ ベース - ベクトル データベースに格納された一意のコンテキストを使用してチャット補完を実行するかどうかを指定します。選択した場合、他のフィールドが必要になります。Boolean 値です。既定値は [False] です。
• ベクトル DB - 内部ナレッジ ベースとして活用するベクトル DB です。ドロップダウン メニューからオプションを選択します。現在、Pineconeのみが利用可能です。このフィールドは、[ナレッジ ベース] を [True] に設定した場合に表示されます。
• Pinecone API キー - Pinecone ベクトル データベースの独自インスタンスを使用して検索拡張生成でチャット補完を取得する場合は、API キーを指定する必要があります。これは、セキュリティが懸念される場合にアセットとして保存できます。このフィールドでは String 型の入力がサポートされています。このフィールドは、[Vector DB] フィールドで [Pinecone] を選択した場合に表示されます。
• Pinecone 環境 - Pinecone データベースがホストされる環境です。インスタンスにご相談ください。これは、検索拡張生成が必要な場合に必須フィールドです。用意されているドロップダウン リストからオプションを選択します。
• Pinecone インデックス - 関連するコンテンツを取り込むために検索する Pinecone インデックスです。用意されているドロップダウン リストからオプションを選択します。このフィールドへの入力は任意です。
• Pinecone 名前空間 - 関連するコンテキストでプルを検索する特定の Pinecone 名前空間です。用意されているドロップダウン リストからオプションを選択します。このフィールドへの入力は任意です。

プロパティを管理

[プロパティを管理] ウィザードを使用して、オブジェクトの標準フィールドまたはカスタム フィールドを設定または使用します。フィールドを選択してアクティビティ キャンバスに追加できます。追加した標準フィールドまたはカスタム フィールドは、[プロパティ] パネル (デスクトップ版の Studio) または [その他のプロパティを表示] (Studio Web) で利用できます。

その他のプロパティ

• API バージョン - この操作に使用する API バージョンです。これは YYYY-MM-DD 形式に従います。このフィールドでは String 型の入力がサポートされています。
• 指示 - 意図に沿った方法で回答するよう AI を誘導する指示です。既定値は null です。このフィールドでは String 型の入力がサポートされています。
• 最大トークン数 - プロンプトと生成された回答に対して許可されるトークンの最大数です。トークンが少ない方が安価です。ほとんどのモデルでは最大 4096 個のトークンがサポートされていますが、一部のモデルでサポートされているのは 2048 個のみです。既定値は 3840 です。トークンについて詳しくは、こちらをご覧ください。
• 温度 - 0 から 2 までの数値です。 0.8 のような高い値であるほどよりランダムな出力が生成されます。一方、0.2 のような低い値の場合は、より焦点のあった確定的な出力が生成されます。既定値は 1です。
• N - AI が返す補完の選択肢の数です。このフィールドの最小値は 1 です。既定値は 1です。
• 上位 P - 0 から 1 までの数値です。 この値が小さいほど、考慮されるトークンの数が少なくなります。既定値は 1 です。
• ストリーム - 進行状況の一部をストリームバックするかどうかを指定します。設定すると、トークンは利用可能になるとデータのみのサーバー送信イベントとして送信され、ストリームは data:[DONE] メッセージによって終了します。既定値は false です。
• プレゼンス ペナルティ - -2.0 から 2.0 の数値です。正の値は、これまでのテキストに表示されているかどうかに基づいて新しいトークンにペナルティを与え、モデルが新しいトピックについて話す可能性を高めます。既定値は 0 です。
• 頻度ペナルティ - -2.0 から 2.0 の数値です。正の値は、これまでのテキストにおける既存の頻度に基づいて新しいトークンにペナルティを与え、モデルが同じ行をそのまま繰り返す可能性を減少させます。既定値は 0 です。

出力

• 上位の生成テキスト - 上位のチャット補完文字列です。1つの応答のみを返すことに興味がある場合(つまり、デフォルトであるN = 1)、これはおそらく使用したい出力になります。これは Text データ型であり、変数を簡単に割り当てて他のアクティビティ/テキスト入力で直接使用できます。
• チャット補完 - 以下を含む完全な ChatCompletion オブジェクトです。
  • 選択肢 - またはモデルからの応答。モデルから返す応答の合計数を設定するには、アクティビティの追加オプションの [N] フィールドを使用します。既定値は 1 です。これは、最初のオブジェクトが 0 から始まる配列として返されます。元。[繰り返し (コレクションの各要素)] コントロール内の配列内の 1 つのオブジェクトを参照する: Response.Choices(0).Text詳細については、 チャット補完オブジェクトのドキュメントを参照してください。