防护机制

防护机制是内置的安全和质量检查手段，有助于确保智能体的运行可靠、安全且符合组织策略。它们监控和控制数据智能体处理的内容以及它们如何响应用户输入，从而降低暴露敏感信息或执行意外操作的风险。

在 智能体 中，防护机制可以应用于不同的执行级别：

• 智能体级别：在执行之前评估智能体自己的提示或系统指令。
• LLM 级别：监控智能体和大型语言模型之间交换的请求和响应。
• 工具级别：验证智能体在执行任务期间使用的工具的输入和输出。

通过组合这些作用域，您可以设计更安全的智能体，用于自动检测和阻止问题行为，保持合规性，并提高对自动化决定的总体信任度。

转到“开箱即用的防护机制”，以在智能体或 LLM 级别快速设置防护机制。

转到“自定义防护栏”，了解如何为您的智能体工具配置防护栏。

转到“监控防护栏”，了解如何验证检测和查看防护栏活动。

防护机制的最佳实践

请遵循以下建议，以充分利用您的防护机制：

• 在生产中使用“阻止操作” (Block Actions)。对于处理敏感或业务关键数据的智能体，请将防护机制操作类型配置为“阻止”，以防止意外数据暴露或不安全执行。
• 在评估期间测试阈值。运行评估会话以微调检测阈值，在准确性和误报之间实现适当的平衡。
• 定期查看日志。 定期监控防护日志和追踪记录，以确认检测是否按预期触发，并在必要时调整配置。