すぐに使えるガードレール

すぐに使えるガードレールは、事前定義済みですぐに使用できる安全対策であり、エージェントに対してカスタムの設定やコーディングなしに有効化できます。これらのガードレールは、機密データの漏洩やプロンプト インジェクション攻撃などの一般的なリスクから即座に保護し、安全で信頼できるエージェントを素早く構築するのに役立ちます。

注:

すぐに使えるガードレールは、以下のライセンス プランで利用できます。

• フレックス プライシング プラン: Enterprise – Standard および Advanced のティア。
• ユニファイド プライシング プラン: Standard、Enterprise、App Test Platform Standard、App Test Platform Enterprise。

必要な権利が組織で有効化されていない場合、対応するガードレール オプションは UI に表示されません。ガードレールがすでに設定済みである場合に、必要な権利を後から無効化すると、エージェントは実行中にそれらのガードレールを単にスキップします。エージェントの実行が失敗することはありません。

すぐに使えるガードレールは、エージェントの設定から直接設定および構成できます。この設定は、選択したスコープとアクションの種類に基づいて、実行時に自動的に適用されます。

1. [エージェントの設定] を開きます。
   1. Studio Web でエージェントを開きます。
   2. [エージェントの設定] パネルを開きます。
   3. [ガードレール] タブに移動し、[ガードレールを追加] を選択します。
2. 利用可能な定義済みのガードレールからガードレールの種類を選択します。
   • 個人を識別できる情報 (PII) の検出 – メール アドレスや物理アドレスなどの機密情報を識別してブロックします。このガードレールでは Azure Cognitive Services が使用されます。
   • プロンプト インジェクション – LLM との対話中に、悪意のあるプロンプトや不正な操作を行うプロンプトを検出してブロックします。このガードレールでは Noma Security が使用されます。注: Noma のサービスは米国でホストされているため、[プロンプト インジェクション] ガードレールによって処理されるデータは、テナントのリージョンの外部で処理される場合があります。

[個人を識別できる情報 (PII) の検出] ガードレールを設定する

1. [個人を識別できる情報 (PII) の検出] ガードレールをエージェントに追加します。
2. ガードレールの詳細を定義します。次のフィールドに入力します。
   • ガードレール名 – このガードレールのわかりやすい名前を入力します。
   • ガードレールの説明 – ガードレールで検出する情報や、ガードレールをどこに適用するかについての説明を入力します。
3. 検出するエンティティを選択します。[検出するエンティティ] ドロップダウンから、監視する情報の種類 (メール アドレス、電話番号、住所など) を選択します。
4. 検出しきい値を設定します。選択したエンティティごとに、[検出しきい値] を 0 から 1 の範囲で定義します。しきい値を高くすると検出が厳密になり (誤検知が減り)、しきい値を低くすると感度が高くなります。
5. スコープを選択します。ガードレールを適用する場所を選択します。
   1. エージェント – エージェントの入力プロンプトと出力プロンプトを確認します。
   2. LLM の呼び出し – モデルとやり取りする要求と応答を確認します。
   3. ツール – ツールの入力データと出力データを確認します。スコープを 1 つ以上選択して、同じ検出ロジックを実行の複数のステージに適用できます。
      • [ツール] スコープを選択した場合は、[ツールを選択] リストからツールを 1 つ以上選択します。これにより、同じガードレールを同じエージェント内の複数のツールで再利用できます。
6. [アクションの種類] を定義します。PII が検出された場合にシステムがどのように応答するかを設定します。
   1. ログ – エージェントの実行を中断することなくイベントを記録します。[重大度レベル] で、ログ エントリの重要度レベルを設定します。
      • Info – 一般的な情報や影響の少ない結果として扱います。
      • Warning – 実行をブロックしない潜在的なリスクとして扱います。
      • Error – レビューが必要な重大な検出結果として扱います。
   2. ブロック – ガードレールがトリガーされた場合、エージェントやツールの実行を停止します。
      • ブロックする理由 – アクションをブロックする簡単な説明を入力します (例: 「ツールの出力で個人情報 (PII) データが検出されました」)。
   3. エスカレーション – 違反が発生した場合、エスカレーションを送信します。
      • アプリの割り当て先 – エスカレーション ターゲットの種類を選択します。特定のユーザー、定義済みのユーザー グループ、または外部アドレスから選択できます。
      • 受信者 – 受信者 (名前またはメール アドレス) を検索して選択します。
      • アクション アプリ – エスカレーションを処理するアプリケーションを選択します。
7. 評価用に有効化します。エージェントのテストまたは評価時にこのガードレールを実行するために、[評価用にガードレールを有効化] を切り替えます。
8. ガードレールを保存します。設定が完了すると、ガードレールは自動的に LLM のすべての要求と応答を監視し、プロンプト インジェクション試行が検出されると実行をブロックします。

[プロンプト インジェクション] ガードレールを設定する

1. [プロンプト インジェクション] ガードレールをエージェントに追加します。
2. ガードレールの詳細を定義します。次のフィールドに入力します。
   1. ガードレール名 – このガードレールのわかりやすい名前を入力します。
   2. ガードレールの説明 – 任意で、ガードレールで検出する情報や、ガードレールをどこに適用するかについての説明を入力します。
3. 検出しきい値を設定します。感度レベルを指定します (例: 0.8)。値を大きくするほど検出が厳密になり、誤検知が減ります。
4. [アクションの種類] を定義します。システムが検出イベントをどのように処理するかを設定します。
   1. ログ – エージェントの実行を中断することなくイベントを記録します。[重大度レベル] で、ログ エントリの重要度レベルを設定します。
      • Info – 一般的な情報や影響の少ない結果として扱います。
      • Warning – 実行をブロックしない潜在的なリスクとして扱います。
      • Error – レビューが必要な重大な検出結果として扱います。
   2. ブロック – ガードレールがトリガーされた場合、エージェントやツールの実行を停止します。
      • ブロックする理由 – アクションをブロックする理由の簡単な説明を入力します。
   3. エスカレーション – 違反が発生した場合、エスカレーションを送信します。
      • アプリの割り当て先 – エスカレーション ターゲットの種類を選択します。特定のユーザー、定義済みのユーザー グループ、または外部アドレスから選択できます。
      • 受信者 – 受信者 (名前またはメール アドレス) を検索して選択します。
      • アクション アプリ – エスカレーションを処理するアプリケーションを選択します。
5. 評価用に有効化します。エージェントのテストまたは評価時にこのガードレールを実行するために、[評価用にガードレールを有効化] を切り替えます。
6. ガードレールを保存します。設定が完了すると、ガードレールは自動的に LLM のすべての要求と応答を監視し、プロンプト インジェクション試行が検出されると実行をブロックします。