Garde-fous personnalisés

Custom guardrails provide a mechanism to control unexpected behaviors within tool calls deterministically. They allow developers to configure conditions for human intervention and ensure that escalations occur precisely when defined conditions are met.

En bref, les rôles des garde-fous sont les suivants :

• Gérez les entrées et les sorties imprévisibles des appels d'outils au moment de l'exécution.
• Réduire la nécessité des interventions humaines (human-in-the-loop, HITL) dans les tâches de correction et de validation.
• Permettre aux développeurs de créer des règles personnalisées au niveau de chaque outil.

Mode de fonctionnement

You define custom guardrails for each agent tool, as follows:

• Chaque outil peut posséder un ou plusieurs garde-fous.

• Chaque garde-fou contient une ou plusieurs règles et une action. Les règles sont évaluées par rapport aux entrées et aux sorties de l'outil.

• Une action est déclenchée lorsque toutes les règles sont respectées. L'action peut se produire avant et/ou après l'exécution de l'outil.

Guardrails are displayed in the Properties panel for every type of tool. The Custom guardrail builder is where you define the list of rules that trigger the guardrail and the action to be applied when all the rules are met.

Au moment de l'exécution, les garde-fous sont vérifiés de haut en bas dans l'ordre dans lequel ils apparaissent dans la liste. Vous pouvez réorganiser les garde-fous selon les besoins en effectuant une action de glisser-déposer à l'aide de l'icône de menu située à gauche.

Utilisez l'option Enable guardrail for evaluations (Activer le garde-fou dans les évaluations) pour appliquer également le garde-fou sélectionné pendant les évaluations.

Configurer des garde-fous

To configure guardrails for any agent tool:

1. Ajoutez un outil à votre agent.
2. In the tool's Properties panel, select Add guardrails.
3. In the Custom guardrail builder, set the guardrail name and description.
4. Next, configure the rule and action types.
5. Sélectionnez Save (Enregistrer). Les outils dotés de garde-fous sont accompagnés d'une icône de bouclier.

Figure 1. Un outil d'activité avec des garde-fous appliqués

Types de règles

Les types de règles disponibles sont les suivants :

• Always enforce the guardrail (Toujours appliquer le garde-fou) (par défaut) : ce garde-fou déclenche toujours l'action, quelles que soient les entrées ou les sorties. Il s'applique aux entrées de l'agent (avant l'exécution), à ses sorties (après l'exécution), ou aux deux (avant et après l'exécution).
• String (Chaîne de caractères) : ce garde-fou s'applique aux champs d'entrée et de sortie disponibles. La règle s'applique aux champs de chaînes de caractères, y compris aux champs JSON imbriqués, et prend en charge différents opérateurs (contains [contient], starts with [commence par], ends with [se termine par], equals [égal], is empty [est vide], etc.).
• Number (Nombre) : ce garde-fou s'applique aux champs d'entrée et de sortie disponibles. La règle s'applique aux champs numériques, y compris aux champs JSON imbriqués, et prend en charge différents opérateurs (contains [contient], starts with [commence par], ends with [se termine par], equals [égal], is empty [est vide], etc.).
• Boolean (Booléen) : ce garde-fou s'applique aux champs d'entrée et de sortie disponibles. La règle s'applique aux champs booléens, y compris aux champs JSON imbriqués, et prend en charge l'opérateur Equals (Égale), avec les valeurs True (Vrai) ou False (Faux).

Types d'action

Pour chaque règle, vous appliquez l'action à effectuer lorsque toutes les règles sont respectées.

Les types d'actions disponibles sont les suivants :

• Log (Journal) : définit un niveau de gravité pour la journalisation. Cette action est utile pour envoyer des événements personnalisés à la surveillance du tableau de bord
• Filter (Filtrer) : supprime les champs sélectionnés de l'entrée et/ou de la sortie d'un outil, comme suit :
  • Entrées : les champs sélectionnés ne sont pas envoyés à la demande d'outil de l'API.
  • Sorties : les champs sélectionnés ne sont pas renvoyés à l'agent.
    Remarque : la qualité de l'agent peut être affectée si des informations critiques sont éliminées par le filtre.
• Block (Bloquer) : empêche l'exécution de l'outil lorsque des conditions sont remplies. Lorsque vous utilisez cette option, vous devez fournir la raison du blocage. Le blocage d'un outil peut entraîner l'échec de l'agent.
• Escalate (Escalader) : affecte une escalade à un utilisateur à l'aide d'une application d'escalade compatible.

Exécuter des garde-fous

Après avoir exécuté l'agent, le panneau de sortie s'affiche :

• Le statut d'une exécution réussie.
• La présence de garde-fous dans le traçage.
• Les détails des garde-fous appliqués ou ignorés.

Utiliser une application d'escalade pour les garde-fous

L'action Escalate (Escalader) nécessite une application compatible. Un modèle est disponible sur UiPath Marketplace sous le nom suivant : Agent Tool Guardrail Escalation App.

Pour rendre l'application disponible pour les garde-fous, procédez comme suit :

1. Téléchargez le modèle d'application depuis Marketplace et importez le fichier .uip dans un nouveau projet Studio. Pour de plus amples informations, consultez la section Importer des projets d'applications dans le guide de l'utilisateur de Studio Web.
2. Vous pouvez ajouter de nouveaux contrôles et de nouveaux événements à l'application, mais ne modifiez pas le schéma d'action sous-jacent. La modification du schéma rend l'application incompatible avec l'escalade des garde-fous.
3. Publiez l'application, comme décrit dans la section Publier des projets d'applications.
4. Accédez à Orchestrator et déployez l'application dans un dossier partagé, comme décrit dans la section Déployer des projets d'applications.

   Vérifiez que des robots sans serveur sont disponibles dans le dossier afin d'éviter les erreurs lors de l'exécution de l'escalade.

5. Retournez à votre agent et sélectionnez l'application récemment déployée pour vos garde-fous.