防护机制

护栏是内置的安全和质量检查，有助于确保智能体行为可靠、安全且符合组织策略。它们可以监控和控制智能体可处理的数据类型以及智能体对用户输入的响应方式，从而降低泄露敏感信息或执行意外操作的风险。

在智能体中，护栏可以应用到不同的执行级别：

• 智能体级别：在执行之前评估智能体自身的提示或系统指令。
• LLM 级别：监控智能体和大语言模型之间交换的请求和响应。
• 工具级别：验证智能体在任务执行期间所使用工具的输入和输出。

通过组合这些作用域，您可以设计更安全的智能体，自动检测并阻止问题行为，确保合规性，并提高人们对自动化决策的整体信任度。

转到开箱即用护栏，以在智能体级别或 LLM 级别快速设置护栏。

前往自定义护栏，了解如何为您的智能体工具配置护栏。

请前往监控护栏，了解如何验证检测并查看护栏活动。

护栏最佳实践

请遵循以下建议，以充分利用护栏：

• 在生产环境中使用阻止操作。对于处理敏感或业务关键型数据的智能体，请将防护机制操作类型配置为“阻止”，以防止意外数据泄露或不安全执行。
• 在评估期间测试阈值。运行评估会话以微调检测阈值，并在准确性和误报之间实现适当的平衡。
• 定期查看日志。定期监控防护机制日志和追踪，以确认按预期触发检测，并在必要时调整配置。