ガードレール

ガードレールは組み込みの安全性および品質チェック機能であり、エージェントが確実かつ安全に組織のポリシーに沿って動作するよう保証するのに役立ちます。ガードレールは、データ エージェントが何を処理し、ユーザー入力にどのように応答するかを監視および制御することによって、機密情報の漏洩や意図しない操作の実行のリスクを軽減します。

Agents では、以下の複数の実行レベルでガードレールを適用できます。

• エージェント レベル: 実行前に、エージェントの独自のプロンプトやシステムへの指示を評価します。
• LLM レベル: エージェントと大規模言語モデルとの間でやり取りされる要求と応答を監視します。
• ツール レベル: タスクの実行中にエージェントが使用するツールの入力と出力を検証します。

これらのスコープを組み合わせることで、より安全なエージェントを設計することができ、エージェントで問題のある動作を自動的に検出してブロックし、コンプライアンスを維持して、自動化された意思決定の信頼性を全体的に向上させることができます。

エージェント レベルまたは LLM レベルでガードレールを素早く設定するには、「すぐに使えるガードレール」をご覧ください。

エージェントのツールにガードレールを設定する方法について詳しくは、「カスタム ガードレール」をご覧ください。

検出結果を検証し、ガードレールのアクティビティを確認する方法については、「ガードレールを監視する」をご覧ください。

ガードレールのベスト プラクティス

ガードレールを最大限に活用するための推奨事項は、以下のとおりです。

• 本番環境ではブロック アクションを使用する。機密データやビジネス クリティカルなデータを扱うエージェントの場合は、ガードレールのアクションの種類を [ブロック] に設定して、意図しないデータ漏洩や安全でない実行を防止します。
• 評価時にしきい値をテストする。評価セッションを実行して検出しきい値を微調整し、精度と誤検知の適切なバランスを実現します。
• ログを定期的に確認する。ガードレールのログとトレースを定期的に監視して、検出が期待どおりにトリガーされていることを確認し、必要に応じて設定を調整します。