智能体用户指南

上次更新日期 2025年10月30日

防护机制

护栏提供了一种机制，为工具调用中的意外行为提供了一种具有确定性的控制方法。该机制支持开发者为人工干预预设触发条件，并确保升级流程仅在满足预设条件时精准启动。

简而言之，护栏的作用是：

在运行时应对工具调用的不可预测输入与输出。
降低校正及验证任务中对人机回圈 (HITL) 干预的需求。
支持开发者在单个工具级创建自定义规则。

工作方式

您可以为每个智能体工具定义护栏，如下所示：

每个工具有一个或多个护栏。
每个护栏包含一个或多个规则和一个操作。规则会根据工具的输入和输出执行评估。
当所有规则均满足时，会触发操作。该操作有可能发生在工具执行前和/或执行后。

每种工具（自动化、活动或其他智能体）的“属性”面板中都显示护栏。护栏机制构建器用于定义触发护栏机制的规则清单，以及所有规则满足时应用的操作。

在运行时，护栏机制将按照其在清单中的排列次序从上至下进行检查。您可以根据需要使用左侧的菜单图标，通过拖放操作重新排列护栏。

也可以在评估运行期间，使用为评估启用护栏选项应用选定的护栏。

配置护栏

为工具配置护栏：

为您的智能体添加工具。
选择工具，然后打开属性面板。
选择打开护栏机制构建器。
设置护栏名称和描述，然后配置规则和操作类型。
选择保存。附带护栏功能的工具用盾牌图标进行标记。

图 1. 已应用护栏的活动工具

规则类型

提供以下规则类型：

始终强制执行护栏（默认）– 此护栏总会触发操作，与输入或输出无关。该规则适用于智能体输入（执行前）、输出（执行后），或两者兼而有之（执行前和执行后）。
字符串 – 此护栏适用于可用的输入和输出字段。该规则适用于字符串字段（含嵌套 JSON 字段），支持各种运算符（包含、以……开头、以……结尾、等于、为空，等等）。
数字 – 此护栏适用于可用的输入和输出字段。该规则适用于数字字段（含嵌套 JSON 字段），支持各种运算符（包含，以……开头、以……结尾、等于、空，等等）。
布尔值 – 此护栏适用于可用的输入和输出字段。此规则适用于布尔值字段（含嵌套 JSON 字段），支持等于运算符，值须为 True 或 False。

操作类型

对于每一条规则，当全部规则都被满足时，将强制触发对应的操作。

提供以下操作类型：

日志 – 设置日志记录的严重性级别。此操作适用于发送自定义事件进行仪表板监控
过滤 – 从工具的输入和/或输出中移除选定字段，如下所示：
- 输入：选定字段不会发送到工具 API 请求。
- 输出：选定字段不会返回至智能体。
  
  注意：如果过滤掉关键信息，智能体的质量可能会受影响。
阻止 – 在满足条件时阻止工具执行。使用此选项时，您必须提供阻止原因。阻止工具有可能导致智能体发生故障。
升级 – 通过兼容的升级应用将升级分配给用户。

执行护栏机制

运行智能体后，输出面板将显示：

成功执行的状态。
护栏在追踪中的存在。
已应用或已跳过的护栏详细信息。

在护栏机制中使用升级应用

The Escalate action requires a compatible action app. A template is available in the UiPath Marketplace under the following name: Agent Guardrail Escalation App.

要在护栏机制中使用该应用，请按照以下步骤操作：

从 Marketplace 下载该应用模板，然后将 .uip 文件导入一个新 Studio 项目。有关详细信息，请参阅《Studio Web 用户指南》中的导入应用项目。
您可以将新控件和事件添加到应用中，但请勿更改基础操作架构。更改架构会导致应用与护栏升级不兼容。
按照发布应用项目中的说明来发布应用。
转到 Orchestrator，然后在共享文件夹中部署应用，如部署应用项目中所述。
确保文件夹中包含可用的 Serverless 机器人，以避免运行升级时出错。
返回到您的智能体，然后选择最近部署的应用以便用于护栏。