Custom guardrails

Custom guardrails provide a mechanism to control unexpected behaviors within tool calls deterministically. They allow developers to configure conditions for human intervention and ensure that escalations occur precisely when defined conditions are met.

Kurz gesagt besteht die Rolle von Guardrails darin,:

• Eingaben und Ausgaben unvorhersehbarer Toolaufrufe während der Runtime zu adressieren.
• Den Bedarf an menschlichen Eingriffen (HITL) für Korrektur- und Validierungsaufgaben zu reduzieren.
• Entwickler können benutzerdefinierte Regeln auf Ebene einzelner Tools erstellen.

Wie es funktioniert

You define custom guardrails for each agent tool, as follows:

• Pro Tool können eine oder mehrere Guardrails angelegt werden.

• Jede Guardrail enthält eine oder mehrere Regeln und eine Aktion. Regeln werden anhand der Eingaben und Ausgaben des Tools evaluiert.

• Eine Aktion wird ausgelöst, wenn alle Regeln erfüllt sind. Die Aktion kann vor und/oder nach der Ausführung des Tools erfolgen.

Guardrails are displayed in the Properties panel for every type of tool. The Custom guardrail builder is where you define the list of rules that trigger the guardrail and the action to be applied when all the rules are met.

Zur Runtime werden Guardrails von oben nach unten in der Reihenfolge überprüft, in der sie in der Liste erscheinen. Sie können die Guardrails nach Bedarf mithilfe einer Drag-and-drop-Aktion über das Menüsymbol auf der linken Seite neu anordnen.

Mithilfe der Option Guardrail für Evaluierungen aktivieren aktivieren können Sie die ausgewählte Guardrail auch während Evaluierungsläufen anwenden.

Konfigurieren von Guardrails

To configure guardrails for any agent tool:

1. Fügen Sie Ihrem Agent ein beliebiges Tool hinzu.
2. In the tool's Properties panel, select Add guardrails.
3. In the Custom guardrail builder, set the guardrail name and description.
4. Next, configure the rule and action types.
5. Wählen Sie Speichern. Tools mit Guardrails sind mit einem Schildsymbol gekennzeichnet.

Abbildung 1. Ein Aktivitätstool mit dazugehörigen Guardrails

Regeltypen

Folgende Regeltypen sind verfügbar:

• Immer die Guardrail durchsetzen (Standard) – Diese Guardrail löst die Aktion immer unabhängig von Eingabe oder Ausgabe aus. Das gilt für die Eingabe (vor der Ausführung), die Ausgabe (nach der Ausführung) oder beides (vor und nach der Ausführung) des Agents.
• Zeichenfolge – Diese Guardrail gilt für verfügbare Eingabe- und Ausgabefelder. Die Regel gilt für Zeichenfolgefelder, einschließlich verschachtelter JSON-Felder, und unterstützt verschiedene Operatoren (enthält, beginnt mit, endet mit, ist gleich usw.)
• Zahl – Diese Guardrail gilt für verfügbare Eingabe- und Ausgabefelder. Die Regel gilt für Zahlenfelder, einschließlich verschachtelter JSON-Felder, und unterstützt verschiedene Operatoren (enthält, beginnt mit, endet mit, ist gleich usw.).
• Boolesch – Diese Guardrail gilt für verfügbare Eingabe- und Ausgabefelder. Die Regel gilt für boolesche Felder, einschließlich verschachtelter JSON-Felder, und unterstützt den Operator „Gleich“ mit den Werten Wahr oder Falsch.

Aktionstypen

Für jede Regel erzwingen Sie die Aktion, damit sie ausgeführt wird, wenn alle Regeln erfüllt sind.

Folgende Aktionstypen sind verfügbar:

• Protokoll – Legt einen Schweregrad für die Protokollierung fest. Diese Aktion ist nützlich zum Senden benutzerdefinierter Ereignisse zwecks Dashboardüberwachung
• Filter – Entfernt wie folgt ausgewählte Felder aus der Eingabe und/oder Ausgabe eines Tools:
  • Eingaben: Ausgewählte Felder werden nicht an das Tool zur API-Anforderung gesendet.
  • Ausgaben: Ausgewählte Felder werden nicht an den Agent zurückgegeben.
    Hinweis: Die Qualität des Agents kann beeinträchtigt werden, wenn kritische Informationen herausgefiltert werden.
• Blockieren – Verhindert die Ausführung des Tools, wenn bestimmte Bedingungen erfüllt sind. Wenn Sie diese Option verwenden, müssen Sie einen Grund für die Blockierung angeben. Die Blockierung eines Tools kann zum Fehlschlagen des Agents führen.
• Eskalieren – Weist einem Benutzer über eine kompatible Eskalations-App eine Eskalation zu.

Ausführung von Guardrails

Nach Ausführung des Agents zeigt der Bereich „Ausgabe“ Folgendes an:

• Den Status der erfolgreichen Ausführung.
• Das Vorhandensein von Guardrails in der Ablaufverfolgung.
• Einzelheiten zu angewendeten oder übersprungenen Guardrails.

Verwendung einer Eskalations-App für Guardrails

Für die Aktion Eskalieren ist eine kompatible Aktions-App erforderlich. Eine Vorlage ist im UiPath Marketplace unter folgendem Namen verfügbar: Agent Tool Guardrail Escalation App.

Um die App für Guardrails verfügbar zu machen, führen Sie folgende Schritte aus:

1. Laden Sie die App-Vorlage vom Marketplace herunter und importieren Sie die Datei .uip in ein neues Studio-Projekt. Weitere Informationen dazu finden Sie unter Importieren von App-Projekten im Benutzerhandbuch zu Studio Web.
2. Sie können der App neue Steuerelemente und Ereignisse hinzufügen, das zugrunde liegende Handlungsschema ist jedoch nicht änderbar. Nach Änderung des Schemas ist die App nicht mehr mit Eskalationen von Guardrail kompatibel.
3. Veröffentlichen Sie die App, wie es unter Veröffentlichung von App-Projekten beschrieben ist.
4. Gehen Sie zu Orchestrator und stellen Sie die App in einem freigegebenen Ordner bereit, wie es unter Bereitstellung von App-Projekten beschrieben.

   Stellen Sie sicher, dass im Ordner serverfreie Roboter verfügbar sind, um Fehler bei der Ausführung der Eskalation zu vermeiden.

5. Kehren Sie zu Ihrem Agent zurück und wählen Sie die kürzlich bereitgestellte App für Ihre Guardrails.