チャット補完を生成

UiPath コネクタを使用してチャット補完を生成します。

説明

ユーザー プロンプトを指定すると、このアクティビティはチャット補完の応答を生成します。プロンプトには、システム指示とユーザー指示の両方を含めることができるほか、NVIDIA NIM API でのモデルの設定に応じてタスク固有のパラメーターも含めることができます。

エージェンティック プロセスでのアクティビティの使用方法

このアクティビティを Maestro のエージェンティック プロセスで使用するには、以下の手順に従います。

1. 新規または既存のエージェンティック プロセスを開きます。
2. キャンバスにサービス タスク要素を追加し、タスクの [プロパティ] パネルを開きます。
3. このサービス タスクの名前を Nvidia NIM Hello Worldとします。
4. [実装] セクションの [アクション] ドロップダウン リストから、[コネクタのアクティビティを実行] を選択します。
5. [NVIDIA NIM] コネクタを選択します。
6. 既存のコネクションを選択するか、新しいコネクションを作成します。詳細については、「NVIDIA NIM 認証」を参照してください。
7. アクティビティから [チャット補完を生成] を選択します。
8. [モデルのバージョン] で、コネクタの作成時に [URL] で提供された API エンドポイントで利用可能なモデルのリストからモデルを選択します。モデルのバージョンは、構築およびデバッグ中に変更でき、オートメーションのパブリッシュ時にプロセスのバージョンに固定されます。
9. [プロンプト テキスト] で、[式エディター] を使用して、システム指示と、モデルのタスクに必要なプロセスからの変数の両方を含むプロンプトを作成します。簡単な接続チェックの場合は、「"What can you do"」などの簡単なプロンプトから始めるとよいでしょう。
10. 開始イベントをサービス タスクに接続し、サービス タスクをキャンバスの終了イベント ノードに接続します。
11. [デバッグ] を選択して、このプロセスを実行します。実行が成功したら、グローバル変数を確認し、ソースからの {:} 応答を探します: NVIDIA NIM hello world。返信の構造に注意してください。

エージェントの出力をプロセス変数に割り当てて、Maestro プロセスの進行状況に影響を与える必要があります。たとえば、Boolean 評価に基づいて決定を下す場合や、分類タスクの回答を使用する場合などです。

1. デザイン モードで、デザイン キャンバスからエージェントを選択します。
2. [プロパティ] を選択します。
3. [出力] で設定します。[+ 新規追加] を選択します
4. [出力] で [新規追加] を選択し、String 型の変数を追加し、agent_reponse という名前を付けます。
5. [値] で [変数] を選択し、NIM エージェントから使用可能な出力変数を確認します。これは、モデルの完全な応答を含む文字列変数である可能性があります。

出力を評価する

人間向けの出力 (エスカレーションの理由など) は、人間向けの自然なテキストとして簡単に渡すことができます。API/ロボット アクションに期待される出力は厳密に構成する必要があります。以下に、エージェントから特定の出力を生成するシステム/ユーザー プロンプトの例を示します。必要に応じて、Studio 内の [式エディター] を使用して変数を追加します。

"What is the quantity on inventory of Order ID " + vars.orderId_1 + "respond only with a JSON object with the quantity in the key Order_Quantity. No explanations, only JSON"

エージェントは次のように返信します。

{"Order_Quantity":"100"}

エージェントへの要求と実際の応答の種類には特に注意してください。応答が JSON型のように見えても、実際には string型である可能性があります。