チャット補完を生成

Google Vertex コネクタの [チャット補完を生成] アクティビティ。

説明

プロンプトとその他の入力が与えられると、チャット完了応答を生成します。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

• コネクション - Integration Service で確立されたコネクションです。ドロップダウン メニューからコネクションを選択、追加、または管理します。
• メッセージ - チャット補完の生成に使用するメッセージです。モデルに対話または「チャット」コンテキストを提供するには、文字列を入力してから戻ります。アクティビティが機能するには、奇数の文字列を入力する必要があります。最初の入力は「User」、2 番目の入力は「Model」のようになります。このフィールドでは String 型の入力がサポートされています。
• モデル ID - 完了要求に活用する大規模言語モデル (LLM) です。利用可能なオプション (Bison-002、Bison-001) のいずれかを選択します。

プロパティを管理

[プロパティを管理] ウィザードを使用して、オブジェクトの標準フィールドまたはカスタム フィールドを設定または使用します。フィールドを選択してアクティビティ キャンバスに追加できます。追加した標準フィールドまたはカスタム フィールドは、[プロパティ] パネル (デスクトップ版の Studio) または [その他のプロパティを表示] (Studio Web) で利用できます。

その他のプロパティ

• コンテキスト - プロンプトのコンテキスト情報は、モデルの回答をガイドし、指定されたコンテキストに基づいて回答の範囲を制限するのに役立ちます。このフィールドでは String 型の入力がサポートされています。
• 最大出力トークン数 - プロンプトと生成された回答に対して許可されるトークンの最大数です。トークンが少ない方が経費は少なくなります。ほとんどのモデルでサポートされているトークンの最大数は 1024 個です。既定値は 1024 です。
• 温度 - 0 から 1 までの数値です。0.8 のような高い値であるほどよりランダムな出力が生成されます。一方、0.2 のような低い値の場合は、より焦点のあった確定的な出力が生成されます。既定値は 0.8です。
• 上位 P - 0 から 1 までの数値です。数値が小さいほど、結果の不規則性が下がります。既定値は 0.8 です。
• 上位 k - 1 から 40 までの数値です。数値が大きいほど、多様な文章が生成されます。既定値は [ 40です。
• 例 - 構造化されたメッセージのペアは、「誰のために働いていますか?」のような入力メッセージと、それに対応する「私はネッドの下で働いています」という理想的な応答で構成されます。は、多様な会話で効果的に回答できるようにモデルをトレーニングするために不可欠な例です。このフィールドでは String 型の入力がサポートされています。

出力

• 上位の生成テキスト - 上位の生成チャットです。これは自動生成される出力変数です。
• チャット補完 - これは自動生成される出力変数です。