ガードレール

ガードレールは組み込みの安全性および品質チェック機能であり、エージェントが確実かつ安全に組織のポリシーに沿って動作するよう保証するのに役立ちます。ガードレールは、データ エージェントが何を処理し、ユーザー入力にどのように応答するかを監視および制御することによって、機密情報の漏洩や意図しない操作の実行のリスクを軽減します。

Agents では、ガードレールはツール レベルで適用され、タスクの実行中にエージェントによって使用されるツールの入力と出力を検証します。

ガードレールを使用することで、問題のある動作を自動的に検出してブロックし、コンプライアンスを維持し、自動化された意思決定に対する全体的な信頼性を向上させる、より安全なエージェントを設計できます。

エージェントのツールにガードレールを設定する方法について詳しくは、「カスタム ガードレール」をご覧ください。

検出結果を検証し、ガードレールのアクティビティを確認する方法については、「ガードレールを監視する」をご覧ください。

ガードレールのベスト プラクティス

ガードレールを最大限に活用するための推奨事項は、以下のとおりです。

• 本番環境ではブロック アクションを使用する。機密データやビジネス クリティカルなデータを扱うエージェントの場合は、ガードレールのアクションの種類を [ブロック] に設定して、意図しないデータ漏洩や安全でない実行を防止します。
• 評価時にしきい値をテストする。評価セッションを実行して検出しきい値を微調整し、精度と誤検知の適切なバランスを実現します。
• ログを定期的に確認する。ガードレールのログとトレースを定期的に監視して、検出が期待どおりにトリガーされていることを確認し、必要に応じて設定を調整します。