Managing guardrails

Guardrail activity across deployed agents on the Agents page, showing which agents use guardrails, the actions enforced, and recent guardrail events.

[ガードレール] タブでは、デプロイ済みのエージェント全体にわたってガードレールのアクティビティを一元的に確認することができます。このため、エージェントが確実かつ安全に組織のポリシーに沿って動作することをオペレーターが確認するのに役立ちます。このタブには、設定のカバレッジから適用結果まで、実行時のガードレールのデータが 1 か所に表示されます。

このタブは、以下の 3 つのステージを中心に構成されています。

• ガードレールの設定 — エージェント レベル、LLM レベル、またはツール レベルのガードレールをエージェントに追加します。
• 監視 — 実行時のガードレールのアクティビティを確認し、ガードレールがトリガーされる頻度と、ガードレールによって適用されるアクションを追跡します。
• ガードレールの微調整 — 評価データを使用してガードレールの動作を経時的にテスト、改良、最適化します。

エージェント ガードレールの使用状況

この円グラフには、ガードレールが設定されているテナント内のエージェントと設定されていないエージェントの割合が、実行データに基づいて表示されます。このグラフには、少なくとも 1 回実行されたエージェントのみが反映されます。このビューを使用して、デプロイ済みのエージェントのエコシステム全体にわたるガバナンスのカバレッジを評価し、ガードレールの設定が必要と思われるエージェントを特定します。

上位の呼び出されたアクション

この積み上げ棒グラフには、エージェント全体に適用されたガードレールのアクションの量と内訳が表示されます。それぞれの棒は 1 つのデプロイ済みのエージェントを表し、アクションの種類 (ブロック、エスカレーション、フィルター) 別に分割されています。フィルターを使用して、ガードレールの合計呼び出し回数のトップ 5 またはトップ 10 のエージェントを表示できます。これは、Agents のページの他の監視グラフと一貫性があります。

ガードレールの詳細

この表には、デプロイ済みのすべてのエージェントとそのガードレールのアクティビティのリストが表示されます。表をフィルター処理して、ガードレールがあるエージェント、ガードレールがないエージェント、またはすべてのエージェントを表示できます。時間範囲フィルターを使用すると、選択した期間にデータの範囲を絞り込むことができます。

列	説明
ガードレールの数	エージェントに設定されているガードレールの数です。
最も新しいガードレール	エージェントの実行中に最後にトリガーされたガードレールの名前です。
ガードレールの種類	ガードレールの種類の分類です。
スコープ	ガードレールが適用されるレベルです (エージェント、LLM、またはツール)。
実行ステージ	ガードレールがエージェント、ツール、または LLM の実行の前または後のどちらに実行されるかを示します (実行前または実行後)。
最も新しいアクション	最後にトリガーされたガードレールによって適用されたアクションです (エスカレーション、ログ、フィルター、またはブロック)。
アクションの結果	最後に適用されたアクションの結果です (続行、却下、ログ、フィルター、またはブロック)。