查询服务端点

描述

重要提示：

This activity requires the USE CATALOG permission for Catalog <catalog_name> on the connection.

Databricks 智能体可将您的数据与任意 AI 模型安全连接，以创建准确的特定领域的应用程序。通过 Mosaic AI 网关，可以部署使用多种不同框架的智能体，并将其分配至服务端点（Msaic AI 模型服务）。

此活动支持使用 Databricks 智能体作为 Maestro 编排的自动化流程的参与者。

创建 Databricks 代理

Databricks 中基于 LLM 的通用智能体、信息提取以及其他类型的智能体就可以与 Databricks 智能体连接器一起使用，前提是它们是通过服务端点分配和公开的。在大多数情况下，与 Maestro 集成要求智能体以结构化 JSON 模式呈现其输出。Databricks 中的信息提取智能体就是一个很好的例子。但是，可以使用示例提示任何智能体在定义明确的简单模式中做出响应。

如何使用活动

要在 Maestro 智能体流程中使用此活动，请按照以下步骤操作：

1. 在画布中添加服务任务元素，然后打开任务的“属性”面板。
2. 将服务任务命名为Databricks Hello World 。
3. 在实施部分的操作下拉列表中，选择启动并等待外部智能体。
4. 选择“Databricks 代理连接器”。
5. 选择现有连接或新建连接。有关详细信息，请参阅Databricks 代理身份验证。
6. 从“活动”中，选择“查询服务端点” 。
7. 从“服务端点”中，选择先前在 Databricks 中创建的智能体。
8. “消息”字段是一个复杂的输入，因此需要将其作为数组提供，并将其元素作为具有嵌套属性的对象提供。

   1. 选择“消息”字段。

   2. 选择右侧的选取器，然后选择“JSON 编辑器” 。

   3. 选择{}并更改为数组，它将显示为[] 。

   4. 选择{x} ，然后选择“对象”。

   5. 以字符串形式添加 (+) 嵌套元素*role* ，并使用"user"作为值。

   6. 添加 (+) 嵌套元素*content*作为字符串，这是您使用"What is the capital of France"向智能体发送的提示。

      

9. 将开始事件连接到服务任务，然后将服务任务连接到画布上的结束事件节点。
10. 选择“调试”以运行此流程。成功运行后，查看全局变量并查找来自来源的{:} 响应： Databricks Hello World 。记下回复的结构。例如，以下是智能体对“你可以做什么？”提示的响应：

    {
      "id": "bf185700-c100-41be-9d4b-6a8aee2d8444",
      "databricks_output": {
        "databricks_request_id": "bf185700-c100-41be-9d4b-6a8aee2d8444"
      },
      "messages": [
        {
          "role": "assistant",
          "id": "run--38ced1fa-f810-49c2-87fc-e831e5ffb1d0-0",
          "content": "I can provide information and answer questions to the best of my ability. I can also execute Python code in a stateless sandboxed environment using the provided function. If you have a specific question or task in mind, feel free to ask and I'll do my best to assist you."
        }
      ]
    }
    

智能体的输出必须分配给流程变量，以便影响 Maestro 流程的进度，例如，根据布尔值评估做出决策，或使用分类任务的答案。

1. 在设计模式下，从设计画布中选择智能体。
2. 在属性面板中，选择新增并命名变量agent_reponse 。
3. 对于“值” ，请选择“Databricks Hello World” > “响应” > “消息数组” > “消息内容（字符串）” 。

提示：

在实践中，指定您选择的智能体的结构化输出，然后使用表达式编辑器在 Maestro 中评估输出，以按照流程所需的类型提取所需的输出的特定部分。

在 Maestro 中使用表达式编辑器处理智能体输出的示例：

如果提示词为：

"What is the capital of France?" answer in a JSON only on the form of {"capital":"Normandy") only JSON output

响应为result.reponse.messages[0].内容（键入string ）：

{"capital":"Paris"}

如果要将其转换为 JSON，请创建一个新的 JSON 类型变量（例如answer_in_JSON ，然后使用表达式编辑器：

js:JSON.parse(result.response.messages[0].content)

该 js 表达式的结果为（键入JSON ）：

{
  "capital": "Paris"
}

故障排除和调整

除了建立连接外，您还应在Databricks工作区和 Maestro 中测试提示词。 这可确保您获得所需的输出，这些输出最适合 Maestro 使用，分配给变量，并传递给流程中的其他参与者。

我们建议将详细提示保留在 Databricks 中智能体的系统提示中。Maestro 在运行时向智能体提供的用户提示应该简明扼要。其作用主要是指示智能体执行特定任务并生成预期的一致输出所需的相关变量。

针对人类的输出（例如升级原因）可以轻松地作为自然文本传递给人类。API/机器人操作的预期输出必须经过严格撰写。以下是智能体生成特定输出的用户提示示例。使用 Studio 中的 C# 表达式编辑器根据需要添加变量。

"What is the quantity on inventory of Order ID " + vars.orderId_1 + "respond only with a JSON object with the quantity in the key Order_Quantity. No explanations, only JSON"

智能体将回复：

{"Order_Quantity":"100"}

请特别注意您向智能体发出的请求和实际响应中所包含的类型。即使响应看起来像JSON类型，它实际上可能是string类型。