サービング エンドポイントにクエリを実行する (手動)

説明

重要:

このアクティビティでは、モデルの入力スキーマと出力スキーマは取得されません。したがって、モデルのドキュメントを参照し、指示に従って使用してください。

このアクティビティを使用すると、完全な JSON ペイロードを手動で作成することで、Databricks サービス エンドポイントに要求を送信できます。選択したモデルに基づいて要求スキーマを自動生成する [サービング エンドポイントにクエリ を実行] アクティビティとは異なり、このアクティビティでは、要求構造全体を自分で把握して指定する必要があります。

このアクティビティは、次の場合に使用します。

• 自動生成されたスキーマのアプローチは、モデルの種類では利用できません。
• エンドポイントに送信される JSON ペイロードを完全に制御する必要があります。
• カスタムまたは非標準の Databricks サービス エンドポイントと統合しています。

アクティビティの使用方法

このアクティビティを Maestro のエージェンティック プロセスで使用するには、以下の手順に従います。

1. キャンバスにサービス タスク要素を追加し、タスクの [ プロパティ ] パネルを開きます。

2. [ 実装 ] セクションの [ アクション ] ドロップダウン リストから、[ 外部エージェントを起動し、待機] を選択します。

3. Databricks エージェント コネクタを選択します。

4. 既存のコネクションを選択するか、新しいコネクションを作成します。詳細については、「 Databricks エージェント認証」を参照してください。

5. [アクティビティ] から [サービング エンドポイントにクエリを実行 (手動)] を選択します。

6. [サービング エンドポイント] から、呼び出すサービング エンドポイントを選択します。

7. [入力] フィールドに、エンドポイントに送信する完全な JSON ペイロードを入力します。期待されるペイロード構造はモデルによって異なります。モデルをご覧ください。

   たとえば、チャットベースのモデルの場合、ペイロードは次のようになります。

   {
     "messages": [
       {
         "role": "user",
         "content": "What is the capital of France?"
       }
     ]
   }
   

8. 開始イベントをサービス タスクに接続し、サービス タスクをキャンバス上の終了イベント ノードに接続します。

9. [ デバッグ] を選択してプロセスを実行します。実行が成功したら、グローバル変数を確認し、サービス タスクからの応答を探します。

トラブルシューティングとチューニング

このアクティビティはモデルの入力スキーマと出力スキーマを取得しないため、要求の構造と応答の形状は、呼び出すサービング エンドポイントに完全に依存します。理解するには、Databricks ワークスペースのモデルのドキュメントを参照してください。

• 必要な JSON フィールドとその型。
• エンドポイントによって返される応答オブジェクトの構造です。

ペイロードを Maestro プロセスに統合する前に、まず Databricks ワークスペースで直接テストして、期待される入力と出力を確認することをお勧めします。