アクティビティ

チャット補完を生成

説明

プロンプトとその他の入力が与えられると、チャット完了応答を生成します。

プロジェクトの対応 OS

Windows | クロスプラットフォーム

構成

コネクション ID - Integration Service で確立されたコネクションです。ドロップダウンメニューからコネクションを選択、追加、または管理します。
メッセージ - チャット完了の生成に使用するメッセージです。文字列を入力してから戻ることで、モデルに対話または「チャット」コンテキストを提供します。アクティビティが機能するには、奇数の文字列を入力する必要があります。最初の入力は「ユーザー」、2番目の入力は「モデル」というようになります。このフィールドでは String 型の入力がサポートされています。
モデル ID - 完了要求に使用する大規模言語モデル (LLM)。利用可能なオプションのいずれかを選択します:バイソン-002、バイソン-001。

プロパティを管理

[プロパティを管理] ウィザードを使用して、オブジェクトの標準フィールドまたはカスタムフィールドを設定または使用します。フィールドを選択して、アクティビティキャンバスに追加できます。追加した標準フィールドまたはカスタムフィールドは、[ プロパティ] パネル (デスクトップ版の Studio) または [その他のオプションを表示] (Studio Web の場合) で利用できます。

その他のオプション

コンテキスト - プロンプト内のコンテキスト情報は、モデルの応答をガイドし、指定されたコンテキストに基づいて回答の範囲を制限するのに役立ちます。このフィールドでは String 型の入力がサポートされています。
最大出力トークン数 - プロンプトと生成された回答に対して許可されるトークンの最大数です。トークンが少ない方が安価です。ほとんどのモデルでサポートされているトークンの最大数は 1024 個です。既定値は 1024 です。
温度 - 0 から 1 までの数値です。0.8 のような高い値であるほどよりランダムな出力が生成されます。一方、0.2 のような低い値の場合は、より焦点のあった確定的な出力が生成されます。既定値は 0.8 です。
上位 P - 0 から 1 までの数値です。数値が小さいほど、結果の不規則性が下がります。既定値は 0.8 です。
上位 k - 1 から 40 の数値です。数値が大きいほど、多様な文章が生成されます。既定値は 40 です。
例 - "誰のために働いていますか?" などの入力メッセージと、それに対応する "私は Ned のために働いています" という理想的な応答で構成される構造化メッセージペアは、多様な会話で効果的に応答するようにモデルをトレーニングするための重要な例です。このフィールドでは String 型の入力がサポートされています。