Barreras de seguridad personalizadas

Custom guardrails provide a mechanism to control unexpected behaviors within tool calls deterministically. They allow developers to configure conditions for human intervention and ensure that escalations occur precisely when defined conditions are met.

En resumen, el rol de las barreras es:

• Abordar las entradas y salidas de llamadas de herramientas impredecibles en runtime.
• Reducir la necesidad de intervenciones humanas (HITL) para tareas de corrección y validación.
• Habilita a los desarrolladores para crear reglas personalizadas a nivel de herramienta individual.

Cómo funciona

You define custom guardrails for each agent tool, as follows:

• Puede haber una o más barreras por herramienta.

• Cada barrera contiene una o más reglas y una acción. Las reglas se evalúan en función de las entradas y salidas de la herramienta.

• Una acción se desencadena cuando se cumplen todas las reglas. La acción puede ocurrir antes y/o después de la ejecución de la herramienta.

Guardrails are displayed in the Properties panel for every type of tool. The Custom guardrail builder is where you define the list of rules that trigger the guardrail and the action to be applied when all the rules are met.

En runtime, las barreras se comprueban desde arriba hacia abajo en el orden en que aparecen en la lista. Puedes reordenar las barreras según sea necesario mediante una acción de arrastrar y soltar utilizando el icono del menú de la izquierda.

Utiliza la opción Habilitar barrera para evaluaciones para aplicar también la barrera seleccionada durante las ejecuciones de evaluación.

Configurar barreras

To configure guardrails for any agent tool:

1. Añade cualquier herramienta a tu agente.
2. In the tool's Properties panel, select Add guardrails.
3. In the Custom guardrail builder, set the guardrail name and description.
4. Next, configure the rule and action types.
5. Selecciona Guardar. Las herramientas con barreras están marcadas con un icono de escudo.

Figura 1. Una herramienta de actividad con barreras aplicadas

Tipos de reglas

Los siguientes tipos de reglas están disponibles:

• Aplicar siempre la barrera (predeterminada): esta barrera siempre desencadena la acción independientemente de la entrada o salida. Es aplicable a la entrada del agente (previa a la ejecución), a la salida (posterior a la ejecución) o a ambas (antes y después de la ejecución).
• Cadena: esta barrera se aplica a los campos de entrada y salida disponibles. La regla es aplicable a campos de cadena, incluidos los campos JSON anidados, y admite varios operadores (contiene, comienza con, termina con, es igual, está vacío, etc.)
• Número: esta barrera se aplica a los campos de entrada y salida disponibles.La regla es aplicable a campos numéricos, incluidos los campos JSON anidados, y admite varios operadores (contiene, comienza con, termina con, es igual, está vacío, etc.).
• Booleano: esta barrera se aplica a los campos de entrada y salida disponibles.La regla es aplicable a campos booleanos, incluidos los campos JSON anidados, y admite el operador Igual a, con valores Verdadero o Falso.

Tipos de acción

Para cada regla, obligas a que la acción se produzca cuando se cumplen todas las reglas.

Los siguientes tipos de acción están disponibles:

• Registro: establece un nivel de gravedad para el registro. Esta acción es útil para enviar eventos personalizados para la supervisión en el panel
• Filtro: elimina los campos seleccionados de la entrada y/o salida de una herramienta, de la siguiente manera:
  • Entradas: los campos seleccionados no se envían a la solicitud API de la herramienta.
  • Salidas: los campos seleccionados no se devuelven al agente.
    Nota: la calidad del agente puede verse afectada si se filtra la información crítica.
• Bloquear: evita la ejecución de herramientas cuando se cumplen las condiciones. Al utilizar esta opción, debes proporcionar una razón para el bloqueo. Bloquear una herramienta puede resultar en un fallo del agente.
• Escalar: asigna una escalada a un usuario a través de una aplicación de escalada compatible.

Ejecución de barreras

Después de ejecutar el agente, el panel de salida muestra:

• El estado de ejecución correcta.
• La presencia de barreras en el seguimiento.
• Los detalles de las barreras aplicadas u omitidas.

Uso de una aplicación de escalada para barreras

La acción Escalar requiere una aplicación de acción compatible. Hay una plantilla disponible en UiPath Marketplace con el siguiente nombre: Agent Tool Guardrail Escalation App.

Para que la aplicación esté disponible para barreras de seguridad, sigue estos pasos:

1. Descarga la plantilla de aplicación desde Marketplace e importa el archivo .uip a un nuevo proyecto de Studio. Para obtener más información, consulta Importar proyectos de aplicaciones en la guía del usuario de Studio Web.
2. Puedes añadir nuevos controles y eventos a la aplicación, pero no cambies el esquema de acción subyacente. Alterar el esquema hace que la aplicación sea incompatible con las escaladas de barreras.
3. Publica la aplicación, como se describe en Publicación de proyectos de aplicaciones.
4. Ve a Orchestrator e implementa la aplicación en una carpeta compartida, como se describe en Implementación de proyectos de aplicaciones.

   Asegúrate de que la carpeta tenga robots sin servidor disponibles, para evitar errores al ejecutar la escalada.

5. Vuelve a tu agente y selecciona la aplicación recientemente implementada para tus barreras.