Vorkonfigurierte Leitplanken

Vordefinierte, sofort einsatzbereite Schutzmaßnahmen sind standardmäßige Leitplanken, die Sie für Ihre Agents ohne benutzerdefinierte Konfiguration oder Codierung aktivieren können.Sie bieten sofortigen Schutz vor häufigen Risiken wie der Gefährdung vertraulicher Daten und Angriffen durch Eingabeaufforderungs-Injection und helfen Ihnen, sichere und vertrauenswürdige Agents schneller zu erstellen.

Hinweis:

Out-of-the-Box Leitplanken sind für folgende Lizenzierungspläne verfügbar:

• Flex-Pricing-Plan: Enterprise – Standard- und Advanced-Stufen.
• Unified Pricing-Tarif: Standard, Enterprise, App Test Platform Standard, App Test Platform Enterprise.

Wenn die erforderlichen Berechtigungen für Ihre Organisation nicht aktiviert sind, werden die entsprechenden Leitplankenoptionen nicht in der Benutzeroberfläche angezeigt.Wenn Sie bereits Leitplanken konfiguriert haben und die erforderlichen Berechtigungen später deaktiviert werden, überspringen Ihre Agents diese Leitplanken während der Ausführung einfach, ohne dass dadurch Agent-Durchläufe fehlschlagen.

Sie können sofort einsatzbereite Schutzmaßnahmen direkt in den Einstellungen Ihres Agents einrichten und konfigurieren.Die Konfiguration wird automatisch zur Laufzeit angewendet, basierend auf dem ausgewählten Bereich und dem Aktionstyp.

1. Öffnen Sie die Agent-Einstellungen.
   1. Öffnen Sie in Studio Web Ihren Agent.
   2. Öffnen Sie das Panel „Agent-Einstellungen“.
   3. Gehen Sie zur Registerkarte Leitplanken und wählen Sie Leitplanken hinzufügen aus.
2. Wählen Sie einen Leitplankentyp aus den verfügbaren vordefinierten Leitplanken aus:
   • PII-Erkennung – Identifiziert und blockiert vertrauliche Informationen wie E-Mail-Adressen oder physische Adressen. Diese Leitplanke verwendet Azure kognitive Dienste.
   • Prompt Injection – Erkennt und blockiert böswillige oder manipulative Prompts während LLM-Interaktionen. Diese Leitplanke verwendet Noma Security. Hinweis: Die Noma-Dienste werden in den USA gehostet, sodass die von der Prompt-Injektions-Leitplanke verarbeiteten Daten außerhalb der Region Ihres Mandanten verarbeitet werden können.

Konfigurieren einer Leitplanke zur PII-Erkennung

1. Fügen Sie Ihrem Agenten die Leitplanke zur PII-Erkennung hinzu.
2. Definieren Sie die Details der Leitplanke. Füllen Sie folgende Felder aus:
   • Leitplankenname – Geben Sie einen beschreibenden Namen für diese Leitplanke ein.
   • Leitplankenbeschreibung – Erläutern, was es erkennt oder wo es angewendet wird.
3. Wählen Sie Entitäten zum Erkennen aus. Wählen Sie im Dropdown-Menü Entities die Informationstypen aus, die Sie überwachen möchten (z. B. E-Mail, Telefon oder Adresse).
4. Legen Sie einen Erkennungsschwellenwert fest. Definieren Sie für jede ausgewählte Entität einen Erkennungsschwellenwert zwischen 0 und 1. Ein höherer Schwellenwert macht die Erkennung strenger (weniger falsch-positive Ergebnisse), während ein niedrigerer Schwellenwert sie empfindlicher macht.
5. Wählen Sie die Geltungsbereiche aus.Wählen Sie aus, wo die Leitplanke angewendet werden soll:
   1. Agent – Überprüft die Eingabe- und Ausgabeaufforderungen des Agent.
   2. LLM-Aufrufe – Überprüft die Anforderungen und Antworten, die mit dem Modell ausgetauscht werden.
   3. Tools – Überprüft Eingabe- und Ausgabedaten. Sie können einen oder mehrere Bereiche auswählen, um dieselbe Erkennungslogik über mehrere Ausführungsphasen hinweg anzuwenden.
      • Wenn Sie den Bereich Tools auswählen, wählen Sie ein oder mehrere Tools in der Liste Tools aus.Dadurch können Sie dieselbe Leitplanke über mehrere Tools im selben Agent hinweg wiederverwenden.
6. Definieren Sie den Aktionstyp. konfigurieren Sie, wie das System reagieren soll, wenn PII erkannt wird.
   1. Protokoll – Zeichnet das Ereignis auf, ohne die Ausführung des Agents zu unterbrechen. Der Schweregrad legt die Wichtigkeitsstufe für den Protokolleintrag fest:
      • Info – Für allgemeine Informationen oder Ergebnisse mit geringer Wirkung.
      • Warnung – Für potenzielle Risiken, die die Ausführung nicht blockieren.
      • Fehler – Für kritische Erkennungen, die überprüft werden müssen.
   2. Block – Stoppt die Ausführung des Agents oder Tools, wenn die Leitplanke ausgelöst wird.
      • Grund für das Blockieren – Geben Sie eine kurze Erklärung für das Blockieren der Aktion an (z. B. „PII-Daten in der Tool-Ausgabe erkannt“).
   3. Eskalieren – Sendet eine Eskalation beim Auftreten eines Verstoßes.
      • App zuweisen – Wählen Sie den Typ des Eskalationsziels aus: einen bestimmten Benutzer, eine definierte Benutzergruppe oder eine externe Adresse.
      • Empfänger – Suchen Sie den Empfänger (Name oder E-Mail-Adresse) und wählen Sie ihn aus.
      • Aktion-App – Wählen Sie die Anwendung aus, die die Eskalation verarbeitet.
7. Für Auswertungen aktivieren. Schalten Sie die Option Leitplanke für Auswertungen um, um diese Leitplanke während des Testens oder der Bewertung des Agents auszuführen.
8. Speichern Sie die Leitplanke.Nach der Konfiguration überwacht die Leitplanke automatisch alle LLM-Anforderungen und -Antworten und blockiert die Ausführung, wenn Prompt-Injectionsversuche erkannt werden.

Konfigurieren einer Leitplanke für die Prompt-Injektion

1. Fügen Sie Ihrem Agent die Leitplanke für die Eingabeaufforderung hinzu.
2. Definieren Sie die Details der Leitplanke. Füllen Sie folgende Felder aus:
   1. Leitplankenname – Geben Sie einen beschreibenden Namen für diese Leitplanke ein.
   2. Leitplankenbeschreibung – Optional erläutern, was es erkennt oder wo es angewendet wird.
3. Legen Sie den Erkennungsschwellenwert fest. Geben Sie die Empfindlichkeitsstufe an (z. B. 0,8). Höhere Werte machen die Erkennung strenger und reduzieren falsch-positive Meldungen.
4. Definieren Sie den Aktionstyp. Konfigurieren, wie das System Erkennungsereignisse behandeln soll:
   1. Protokoll – Zeichnet das Ereignis auf, ohne die Ausführung des Agents zu unterbrechen. Der Schweregrad legt die Wichtigkeitsstufe für den Protokolleintrag fest:
      • Info – Für allgemeine Informationen oder Ergebnisse mit geringer Wirkung.
      • Warnung – Für potenzielle Risiken, die die Ausführung nicht blockieren.
      • Fehler – Für kritische Erkennungen, die überprüft werden müssen.
   2. Block – Stoppt die Ausführung des Agents oder Tools, wenn die Leitplanke ausgelöst wird.
      • Grund für die Blockierung – Geben Sie eine kurze Erklärung für das Blockieren der Aktion an.
   3. Eskalieren – Sendet eine Eskalation beim Auftreten eines Verstoßes.
      • App zuweisen – Wählen Sie den Typ des Eskalationsziels aus: einen bestimmten Benutzer, eine definierte Benutzergruppe oder eine externe Adresse.
      • Empfänger – Suchen Sie den Empfänger (Name oder E-Mail-Adresse) und wählen Sie ihn aus.
      • Aktion-App – Wählen Sie die Anwendung aus, die die Eskalation verarbeitet.
5. Für Auswertungen aktivieren. Schalten Sie die Option Leitplanke für Auswertungen um, um diese Leitplanke während des Testens oder der Bewertung des Agents auszuführen.
6. Speichern Sie die Leitplanke.Nach der Konfiguration überwacht die Leitplanke automatisch alle LLM-Anforderungen und -Antworten und blockiert die Ausführung, wenn Prompt-Injectionsversuche erkannt werden.