チャット補完を生成

説明

ユーザー プロンプト、任意の指示、およびその他の任意の入力 (モデル ID など) を指定すると、チャットの完了応答が生成されます。 この機能は、一般的な ChatGPT の機能を模倣します。 このアクティビティでは、GPT-3.5 や GPT-4 のモデルと対話し、コンテキスト ロールとユーザー ロールを介してモデルとの対話エクスペリエンスをシミュレートできます。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

• コネクション ID - Integration Service で確立されたコネクションです。ドロップダウン メニューからコネクションを選択、追加、または管理します。

• モデル - チャットの完了に使用する大規模言語モデル (LLM)。 [ gpt-35-turbo ] と [ gpt-4] から選択できます。 これらのモデルの違いの詳細については、Microsoft の ドキュメントをご覧ください。
  メモ： このアクティビティでは、お使いの Azure インスタンスにデプロイされている GPT-3.5 または GPT-4 モデルを選択できます。 ドロップダウンにモデルが表示されない場合は、Azure 管理者にお問い合わせのうえ、モデルを運用環境にデプロイしたことを確認してください。
• Prompt - チャット完了要求に使用する入力です。 詳しくは、プロンプト エンジニアリングをご覧ください。このフィールドでは String 型の入力がサポートされています。
• ナレッジベース - チャット完了がベクターデータベースに格納された一意のコンテキストで実行されるかどうかを示します。 選択すると、他のフィールドが必要になります。 Boolean 値です。 既定値は [False] です。
• ベクター DB - 内部ナレッジ ベースとして使用するベクター DB です。 ドロップダウン メニューからオプションを選択します。 現在、利用可能なのは Pinecone のみです。 このフィールドは、[ナレッジ ベース] を [True] に設定した場合に表示されます。
• Pinecone API キー - Pinecone ベクターデータベースの独自のインスタンスを使用して、検索拡張生成でチャット完了を取得する場合は、API キーを指定する必要があります。 これは、セキュリティが懸念される場合に資産として保存できます。 このフィールドでは String 型の入力がサポートされています。 このフィールドは、[ベクトル DB] フィールドで [ Pinecone ] を選択した場合に表示されます。
• Pinecone環境 - Pinecone データベースがホストされている環境です。インスタンスにご相談ください。 これは、検索拡張生成が必要な場合に必須フィールドです。 使用可能なドロップダウン リストからオプションを選択します。
• Pinecone インデックス - 関連コンテンツを取得するために検索するPineconeインデックスです。使用可能なドロップダウン リストからオプションを選択します。 このフィールドは任意です。
• Pinecone 名前空間 - 関連するコンテキストでプルを検索する特定の Pinecone 名前空間。 使用可能なドロップダウン リストからオプションを選択します。 このフィールドは任意です。

プロパティを管理

[プロパティを管理] ウィザードを使用して、オブジェクトの標準フィールドまたはカスタム フィールドを設定または使用します。フィールドを選択して、アクティビティ キャンバスに追加できます。 追加した標準フィールドまたはカスタム フィールドは、[ プロパティ] パネル (デスクトップ版の Studio) または [ その他のプロパティを表示] (Studio Web の場合) で使用できます。

その他のプロパティ

• API バージョン - この操作に使用する API バージョンです。 これは、YYYY-MM-DD 形式に従います。 このフィールドでは String 型の入力がサポートされています。
• 命令 - ユーザーの意図に一致する方法で AI が応答するようにガイドする指示です。 既定値は null です。 このフィールドでは String 型の入力がサポートされています。
• トークンの最大数 - プロンプトおよび生成される回答に使用できるトークンの最大数です。 トークンが少ないほど安価です。 ほとんどのモデルは最大 4096 トークンをサポートしますが、一部のモデルは 2048 のみをサポートします。 デフォルト値は 3840 です。 トークンの詳細については、こちらをご覧ください。
• 温度 - 0 から 2 までの数値。 0.8 のような値が大きいほど出力がよりランダムになり、0.2のような低い値ほど出力がより焦点を絞って決定論的になります。 既定値は 1です。
• N - AI が返す完了選択肢の数。 このフィールドの最小値は 1 です。 既定値は 1です。
• 上位 P - 0 から 1 までの数値です。 この値が小さいほど、考慮されるトークンの数が少なくなります。既定値は 1 です。
• ストリーム - 部分的な進行状況をストリーミング バックするかどうかを指定します。 設定すると、トークンは使用可能になるとデータのみのサーバー送信イベントとして送信され、ストリームは data:[DONE] メッセージで終了します。 既定値は False です。
• プレゼンス ペナルティ - -2.0 から 2.0 までの数値。 正の値は、新しいトークンがこれまでにテキストに出現したかどうかに基づいてペナルティを課し、モデルが新しいトピックについて話す可能性を高めます。 デフォルトは 0 です。
• 周波数ペナルティ - -2.0 から 2.0 までの数値。 正の値は、これまでのテキスト内の既存の頻度に基づいて新しいトークンにペナルティを課し、モデルが同じ行を逐語的に繰り返す可能性を減らします。 デフォルトは 0 です。

出力

• 上位生成テキスト - 上位生成チャット完了文字列です。 単一の応答(つまり、デフォルトのN = 1)のみを返すことに関心がある場合は、これが使用したいと思う可能性が最も高い出力になります。 これは、他のアクティビティ/テキスト入力に変数を代入して直接使用できる Text データ型です。
• チャット完了 - 以下を含む完全な ChatCompletion オブジェクトです。
  • 選択肢 - またはモデルからの応答。 アクティビティの追加オプションの [N] フィールドを使用して、モデルから返される回答の合計数を設定できます。既定値は 1 です。 これは、最初のオブジェクトが0から始まる配列として返されます。旧。 「For Each」コントロール内の配列内の 1 つのオブジェクトを参照する: Response.Choices(0).Text. 詳細については、 チャット完了オブジェクトのドキュメントを参照してください。