ガードレール

データエージェントが処理するデータエージェントとその応答方法を制御する組み込みの安全性および品質チェックは、組織全体またはエージェントごとに構成できます。

ガードレールは組み込みの安全性および品質チェック機能であり、エージェントが確実かつ安全に組織のポリシーに沿って動作するよう保証するのに役立ちます。ガードレールは、データ エージェントが何を処理し、ユーザー入力にどのように応答するかを監視および制御することによって、機密情報の漏洩や意図しない操作の実行のリスクを軽減します。

ガードレールは、誰がガードレールを管理するのかと、ガードレールをどの程度広範に適用すべきかに応じて、次の 2 つのレベルで有効化できます。

• 組織全体 — 管理者が Automation Ops の AI Trust Layer ポリシーでガードレールを一度設定します。特定の製品 (自律型エージェントなど) に対してガードレールを有効化すると、そのガードレールは、テナント内のその種類のすべてのエージェントに自動的に適用されます。詳しくは、「一元化されたガードレール」をご覧ください。
• エージェントごと — エージェントの開発者が Studio Web で直接ガードレールを設定します。ガードレールは、その特定のエージェントにのみ適用されます。詳しくは、「すぐに使えるガードレール」をご覧ください。

UiPath が提供するガードレールは、UiPath が管理する安全サービス上で実行されます。組織がサポートされている Safety ベンダーのいずれかの独自のサブスクリプションを所有している場合、管理者はその検証ツールを AI Trust Layer から追加のガードレールとして公開できます。

これらのガードレールは、UiPath で管理されるガードレールとともに両方のレベルで提供され、それぞれにガードレールを評価するプロバイダーのラベルが付けられており、ユーザーは同じ方法で設定および適用します。サポートされているベンダーなどの詳細については、『Automation Cloud 管理ガイド』の「 ガードレールを設定する 」をご覧ください。

Agents では、以下の複数の実行レベルでガードレールを適用できます。

• エージェント レベル: 実行前に、エージェントの独自のプロンプトやシステムへの指示を評価します。
• LLM レベル: エージェントと大規模言語モデルとの間でやり取りされる要求と応答を監視します。
• ツール レベル: タスクの実行中にエージェントが使用するツールの入力と出力を検証します。

これらのスコープを組み合わせることで、より安全なエージェントを設計することができ、エージェントで問題のある動作を自動的に検出してブロックし、コンプライアンスを維持して、自動化された意思決定の信頼性を全体的に向上させることができます。

エージェントのツールにガードレールを設定する方法について詳しくは、「カスタム ガードレール」をご覧ください。

検出結果を検証し、ガードレールのアクティビティを確認する方法については、「ガードレールを監視する」をご覧ください。

ガードレールのベスト プラクティス

ガードレールを最大限に活用するための推奨事項は、以下のとおりです。

• 本番環境ではブロック アクションを使用する。機密データやビジネス クリティカルなデータを扱うエージェントの場合は、ガードレールのアクションの種類を [ブロック] に設定して、意図しないデータ漏洩や安全でない実行を防止します。
• 評価時にしきい値をテストする。評価セッションを実行して検出しきい値を微調整し、精度と誤検知の適切なバランスを実現します。
• ログを定期的に確認する。ガードレールのログとトレースを定期的に監視して、検出が期待どおりにトリガーされていることを確認し、必要に応じて設定を調整します。