UiPath Documentation
agents
latest
false
Guía del usuario de Agents
Importante :
La localización de contenidos recién publicados puede tardar entre una y dos semanas en estar disponible.

Barreras de seguridad listas para usar

Habilite barreras de seguridad predefinidas para PII, inyección de solicitud, contenido dañino y fuga de IP, o configure LLM como Juez para evaluar políticas personalizadas en lenguaje natural y luego establezca acciones para registrar, bloquear o escalar.

Las barreras de seguridad listas para usar son salvaguardas predefinidas y listas para usar que puedes habilitar para tus agentes sin ninguna configuración personalizada o codificación. Ofrecen protección inmediata contra riesgos comunes, como la exposición de datos confidenciales y los ataques de inyección de solicitud, lo que te ayuda a crear agentes seguros y fiables más rápido.

Nota:

Las barreras de seguridad de esta página se ejecutan en servicios de seguridad gestionados por UiPath. Si un administrador ha configurado la suscripción de su organización a un proveedor de seguridad compatible en AI Trust Layer, sus barreras de seguridad aparecen como opciones adicionales en el panel Elegir barrera de seguridad , agrupadas en la carpeta en la que se crearon y marcadas BYO, con el conector enumerado como su proveedor . Se configuran de la misma manera que las barreras de seguridad en esta página.

Para obtener más información, incluido qué proveedores son compatibles, consulta Configurar barreras de seguridad en la guía de administración de Automation Cloud.

Requisitos previos​

Las barreras de seguridad listas para usar están disponibles en los siguientes planes de licencias:

  • Plan de precios Flex : Enterprise: niveles Estándar y Avanzado.
  • Plan Unified Pricing : Estándar, Enterprise, Plataforma de prueba de aplicaciones estándar, Plataforma de prueba de aplicaciones Enterprise.

Si los derechos necesarios no están habilitados para tu organización, las opciones de barrera de seguridad correspondientes no aparecerán en la IU. Si ya has configurado barreras de seguridad y los derechos necesarios se deshabilitan posteriormente, tus agentes simplemente omitirán esas barreras de seguridad durante la ejecución, no provocarán que las ejecuciones de agentes fallen.

Nota:

El acceso a barreras listas para su uso también depende de la plataforma en la nube que utilices. Para más información, consulta Disponibilidad de la característica Agents.

Puedes configurar barreras de seguridad listas para usar directamente desde la configuración de tu agente. La configuración se aplica automáticamente en runtime, en función del ámbito y tipo de acción seleccionados.

  1. Abre la configuración del agente.
    1. En Studio Web, abre tu agente.
    2. Abre el panel de configuración del agente.
    3. Ve a la pestaña Barreras de seguridad y selecciona Añadir barreras de seguridad.
  2. Elige un tipo de guardarraíl de las opciones predefinidas disponibles:
    • Detección de PII: identifica y bloquea información confidencial, como direcciones de correo electrónico o direcciones físicas. Esta barrera de seguridad utiliza Azure Cognitive Services.
    • Inyección de solicitud: detecta y bloquea solicitudes maliciosas o manipuladoras durante las interacciones del LLM. Esta barrera de seguridad utiliza Noma Security. Los servicios de Noma están alojados en los Estados Unidos, por lo que los datos procesados por estas dos barreras de seguridad pueden tratarse fuera de la región de tu tenant.
    • Contenido dañino: detecta discursos de odio, autolesiones, contenido sexual y violencia en las interacciones del LLM. Esta barrera de seguridad utiliza Azure AI Content Safety.
    • Protección de la propiedad intelectual: detecta exposiciones de propiedad intelectual en el texto y el código generados por el modelo. Esta barrera de seguridad utiliza Azure AI Content Safety.
    • Ataques a través de solicitud del usuario: detecta y bloquea los ataques a través de solicitud del usuario, como jailbreaks o inyecciones de solicitudes. Esta barrera de seguridad utiliza Azure AI Content Safety.
    • LLM como juez : evalúa solicitudes, respuestas o llamadas de LLM en función de las instrucciones personalizadas que escribes en lenguaje natural sencillo, utilizando el LLM que seleccionas como modelo de juez.

Configurar una barrera de seguridad de detección de PII​

La detección de PII identifica y marca la información personal confidencial, como direcciones de correo electrónico, números de teléfono y direcciones físicas, en las interacciones del agente. Puedes aplicarlo a las solicitudes del agente, llamadas a LLM o datos de herramientas. Esta barrera de seguridad utiliza Azure Cognitive Services.

  1. Añade la barrera de seguridad de detección de PII a tu agente.
  2. Rellena los siguientes campos:
    • Nombre de barrera de seguridad: introduce un nombre descriptivo para esta barrera de seguridad.
    • Descripción de la barrera de seguridad: explica lo que detecta o dónde se aplica.
  3. Selecciona las entidades a detectar. Desde el menú desplegable Entidades que detectar, elige los tipos de información que quieres supervisar (por ejemplo, correo electrónico, teléfono o dirección).
  4. Establece un umbral de detección. Para cada entidad seleccionada, define un umbral de detección entre 0 y 1. Un umbral más alto hace que la detección sea más estricta (menos falsos positivos), mientras que un umbral más bajo la hace más sensible.
  5. Elige los Ámbitos.Seleccionar dónde quieres que se aplique la barrera de seguridad:
    • Agente: comprueba la solicitud del usuario y la salida del agente.
    • Llamadas a LLM: comprueba las solicitudes y respuestas del LLM.
    • Herramientas: comprueba los datos de entrada y salida de la herramienta. Puedes seleccionar uno o más ámbitos para aplicar la misma lógica de detección en varias etapas de la ejecución.
      • Si seleccionas el ámbito Herramientas, elige una o más herramientas en la lista Seleccionar herramientas. Esto te permite reutilizar la misma barrera de seguridad en varias herramientas en el mismo agente.
  6. Define el Tipo de acción. Configura cómo debe responder el sistema cuando se detecta PII:
    • Registro: registra el evento sin interrumpir la ejecución del agente. El nivel de gravedad establece el nivel de importancia de la entrada de registro:
      • Info: para información general o hallazgos de bajo impacto.
      • Warning: para riesgos potenciales que no bloquean la ejecución.
      • Error: para detecciones críticas que requieren revisión.
    • Bloquear: detiene la ejecución del agente o de la herramienta cuando se activa la barrera de seguridad.
      • Razón de bloqueo: proporciona una breve explicación para bloquear la acción (por ejemplo, "Datos de PII detectados en la salida de la herramienta").
    • Escalar: envía una escalada cuando se produce una infracción.
      • Asignar aplicación a: elige el tipo de destino de escalada: un usuario específico, un grupo de usuarios definido o una dirección externa.
      • Destinatario: busca y selecciona el destinatario (nombre o correo electrónico).
      • Aplicación de acción: selecciona la aplicación que manejará la escalada.
  7. Habilitar para evaluaciones. Activa o desactiva la alternancia Habilitar barrera de protección para evaluaciones para ejecutar esta barrera de protección durante las pruebas o la evaluación del agente.
  8. Guarda la barrera de seguridad. Una vez configurada, la barrera de seguridad supervisa automáticamente todas las solicitudes y respuestas del LLM y bloquea la ejecución cuando se detectan intentos de inyección de solicitud.

Configurar una barrera de seguridad de inyección de solicitud​

La detección de inyecciones de solicitudes supervisa las interacciones del LLM en busca de instrucciones maliciosas o manipuladoras que intentan evitar el comportamiento previsto del agente. Esta barrera de seguridad utiliza Noma Security.

  1. Añade la barrera de seguridad de inyección de solicitud a tu agente.
  2. Rellena los siguientes campos:
    • Nombre de barrera de seguridad: introduce un nombre descriptivo para esta barrera de seguridad.
    • Descripción de la barrera de seguridad: explica de forma opcional qué detecta o dónde se aplica.
  3. Establece el umbral de detección. Especifica el nivel de sensibilidad (por ejemplo, 0,8). Valores más altos hacen que la detección sea más estricta y reducen los falsos positivos.
  4. Define el Tipo de acción. Configurar cómo debe manejar el sistema los eventos de detección:
    • Registro: registra el evento sin interrumpir la ejecución del agente. El nivel de gravedad establece el nivel de importancia de la entrada de registro:
      • Info: para información general o hallazgos de bajo impacto.
      • Warning: para riesgos potenciales que no bloquean la ejecución.
      • Error: para detecciones críticas que requieren revisión.
    • Bloquear: detiene la ejecución del agente o de la herramienta cuando se activa la barrera de seguridad.
      • Razón de bloqueo: proporciona una breve explicación para bloquear la acción.
    • Escalar: envía una escalada cuando se produce una infracción.
      • Asignar aplicación a: elige el tipo de destino de escalada: un usuario específico, un grupo de usuarios definido o una dirección externa.
      • Destinatario: busca y selecciona el destinatario (nombre o correo electrónico).
      • Aplicación de acción: selecciona la aplicación que manejará la escalada.
  5. Habilitar para evaluaciones. Activa o desactiva la alternancia Habilitar barrera de protección para evaluaciones para ejecutar esta barrera de protección durante las pruebas o la evaluación del agente.
  6. Guarda la barrera de seguridad. Una vez configurada, la barrera de seguridad supervisa automáticamente todas las solicitudes y respuestas del LLM y bloquea la ejecución cuando se detectan intentos de inyección de solicitud.

Configurar una barrera de seguridad de contenido dañino​

La detección de contenido dañino identifica discursos de odio, autolesiones, contenido sexual y violencia en las interacciones del LLM. Puedes aplicarlo antes de la llamada al LLM, después o en ambas etapas. Esta barrera de seguridad utiliza Azure AI Content Safety.

  1. Añade la barrera de seguridad de contenido dañino a tu agente.
  2. Define los detalles de la barrera de seguridad. Rellena los siguientes campos:
    • Nombre de barrera de seguridad: introduce un nombre descriptivo para esta barrera de seguridad.
    • Descripción de la barrera de seguridad: explica lo que detecta o dónde se aplica.
  3. Selecciona las categorías a detectar. De la lista de Entidades a detectar, elige uno o más tipos de contenido para que identifique: discurso del odio, autolesión, contenido sexual o violencia.
  4. Establece un umbral de detección. Para cada entidad seleccionada, define un umbral de detección entre 0 y 6. Los valores más altos requieren contenido más grave antes de la activación.
  5. Elige los Ámbitos.Seleccionar dónde quieres que se aplique la barrera de seguridad:
    • Agente: comprueba la solicitud del usuario y la salida del agente.
    • Llamadas a LLM: comprueba las solicitudes y respuestas del LLM.
    • Herramientas: comprueba la entrada y la salida de la herramienta. Puedes seleccionar uno o más ámbitos para aplicar la misma lógica de detección en varias etapas de la ejecución.
      • Si seleccionas el ámbito Herramientas, elige una o más herramientas en la lista Seleccionar herramientas. Esto te permite reutilizar la misma barrera de seguridad en varias herramientas en el mismo agente.
  6. Define el Tipo de acción. Configura cómo debe responder el sistema cuando se detecta contenido dañino:
    • Registro: registra el evento sin interrumpir la ejecución del agente. El nivel de gravedad establece el nivel de importancia de la entrada de registro:
      • Info: para información general o hallazgos de bajo impacto.
      • Advertencia: para riesgos potenciales que no bloquean la ejecución.
      • Error: para detecciones críticas que requieren revisión.
    • Bloquear: detiene la ejecución del agente o de la herramienta cuando se activa la barrera de seguridad.
      • Razón de bloqueo: proporciona una breve explicación para bloquear la acción.
    • Escalar: envía una escalada cuando se produce una infracción.
      • Asignar aplicación a: elige el tipo de destino de escalada: un usuario específico, un grupo de usuarios definido o una dirección externa.
      • Destinatario: busca y selecciona el destinatario (nombre o correo electrónico).
      • Aplicación de acción: selecciona la aplicación que manejará la escalada.
  7. Habilitar para evaluaciones. Activa o desactiva la alternancia Habilitar barrera de protección para evaluaciones para ejecutar esta barrera de protección durante las pruebas o la evaluación del agente.
  8. Guarda la barrera de seguridad. Una vez configurada, la barrera de seguridad supervisa las interacciones del LLM y, cuando se detecta contenido dañino, responde de acuerdo con la acción configurada.

Configurar una barrera de seguridad de protección de la propiedad intelectual​

La protección de IP detecta las exposiciones de propiedad intelectual en el texto y el código generados por el modelo. Esta barrera de seguridad solo se aplica después de la ejecución, y comprueba la respuesta del modelo después de la llamada al LLM. Esta barrera de seguridad utiliza Azure AI Content Safety.

  1. Añade la barrera de seguridad de protección de IP a tu agente.
  2. Define los detalles de la barrera de seguridad. Rellena los siguientes campos:
    • Nombre de barrera de seguridad: introduce un nombre descriptivo para esta barrera de seguridad.
    • Descripción de la barrera de seguridad: explica de forma opcional qué detecta o dónde se aplica.
  3. Elige qué tipo de contenido supervisar de la lista de Entidades a detectar: Texto, Código o ambos.
  4. Elige los Ámbitos.Seleccionar dónde quieres que se aplique la barrera de seguridad:
    • Agente: comprueba las solicitudes de entrada y salida del agente.
    • Llamadas LLM: comprueba las solicitudes y respuestas intercambiadas con el modelo.
  5. Define el Tipo de acción. Configurar cómo debe manejar el sistema los eventos de detección:
    • Registro: registra el evento sin interrumpir la ejecución del agente. El nivel de gravedad establece el nivel de importancia de la entrada de registro:
      • Info: para información general o hallazgos de bajo impacto.
      • Advertencia: para riesgos potenciales que no bloquean la ejecución.
      • Error: para detecciones críticas que requieren revisión.
    • Bloquear: detiene la ejecución del agente o de la herramienta cuando se activa la barrera de seguridad.
      • Razón de bloqueo: proporciona una breve explicación para bloquear la acción.
    • Escalar: envía una escalada cuando se produce una infracción.
      • Asignar aplicación a: elige el tipo de destino de escalada: un usuario específico, un grupo de usuarios definido o una dirección externa.
      • Destinatario: busca y selecciona el destinatario (nombre o correo electrónico).
      • Aplicación de acción: selecciona la aplicación que manejará la escalada.
  6. Habilitar para evaluaciones. Activa o desactiva la alternancia Habilitar barrera de protección para evaluaciones para ejecutar esta barrera de protección durante las pruebas o la evaluación del agente.
  7. Guarda la barrera de seguridad. Una vez configurada, la barrera de seguridad supervisa las respuestas del LLM y, cuando se detecta exposición de propiedad intelectual, responde de acuerdo con la acción configurada.

Configurar una barrera de seguridad contra ataques a través de solicitud del usuario​

La protección contra ataques a través de solicitud del usuario detecta los intentos de inyección de solicitudes y de desbloqueo antes de que lleguen al LLM. Estas barreras de seguridad solo se aplican antes de la ejecución.

  1. Añade la barrera de seguridad de los ataques a través de solicitud del usuario a tu agente.
  2. Define los detalles de la barrera de seguridad. Rellena los siguientes campos:
    • Nombre de barrera de seguridad: introduce un nombre descriptivo para esta barrera de seguridad.
    • Descripción de la barrera de seguridad: explica lo que detecta o dónde se aplica.
  3. Define el Tipo de acción. Configura cómo debe responder el sistema cuando se detectan ataques:
    • Registro: registra el evento sin interrumpir la ejecución del agente. El nivel de gravedad establece el nivel de importancia de la entrada de registro:
      • Info: para información general o hallazgos de bajo impacto.
      • Advertencia: para riesgos potenciales que no bloquean la ejecución.
      • Error: para detecciones críticas que requieren revisión.
    • Bloquear: detiene la ejecución del agente o de la herramienta cuando se activa la barrera de seguridad.
      • Razón de bloqueo: proporciona una breve explicación para bloquear la acción.
    • Escalar: envía una escalada cuando se produce una infracción.
      • Asignar aplicación a: elige el tipo de destino de escalada: un usuario específico, un grupo de usuarios definido o una dirección externa.
      • Destinatario: busca y selecciona el destinatario (nombre o correo electrónico).
      • Aplicación de acción: selecciona la aplicación que manejará la escalada.
  4. Habilitar para evaluaciones. Activa o desactiva la alternancia Habilitar barrera de protección para evaluaciones para ejecutar esta barrera de protección durante las pruebas o la evaluación del agente.
  5. Guarda la barrera de seguridad. Una vez configurada, la barrera de seguridad supervisa automáticamente todas las solicitudes y respuestas del LLM y bloquea la ejecución cuando se detectan ataques a través de solicitud del usuario.

Configurar un LLM como barrera de seguridad de juez​

LLM como juez evalúa las solicitudes del agente, las respuestas o las llamadas de LLM en función de las instrucciones personalizadas que escribes en lenguaje natural simple, utilizando un LLM como juez. A diferencia de las otras barreras de seguridad listas para usar, que comprueban una categoría fija y predefinida a través de un servicio de clasificación gestionado, LLM como juez te permite aplicar políticas de forma libre que no se asignan a una categoría existente, como " nunca indicar precios" o "las entradas de herramientas no deben contener nombres de código interno".

Importante:

Cada comprobación que realiza esta barrera de seguridad realiza una llamada de LLM real, añadiendo el uso del token del modelo de juez además del propio uso del agente. Esto sucede cada vez que se ejecuta la barrera de seguridad, incluso durante las pruebas de agente y las ejecuciones de evaluación cuando se habilita para evaluaciones. Puedes elegir un modelo de juez más barato siempre que sea posible, porque un juez no necesita la capacidad del modelo de agente para seguir siendo preciso.

  1. Añada el LLM como barrera de seguridad de juez a su agente.
  2. Define los detalles de la barrera de seguridad. Rellena los siguientes campos:
    • Nombre de barrera de seguridad: introduce un nombre descriptivo para esta barrera de seguridad.
    • Descripción de la barrera de seguridad: explica lo que detecta o dónde se aplica.
  3. En el campo Solicitud de regla , describe la política que se aplicará en texto sin formato, hasta 4000 caracteres, por ejemplo, "No citar precios" o "Incluir siempre este descargo de responsabilidad".
  4. En el selector de modelo de juez dedicado, selecciona el LLM que se utilizará como modelo de juez, separado de la propia lista de modelos del agente. El selector incluye modelos gestionados por UiPath y tus propias configuraciones de LLM si tu organización utiliza traer tu propio modelo/suscripción en AI Trust Layer.
  5. Opcionalmente, proporcione hasta dos ejemplos positivos y dos negativos para mejorar la precisión de los jueces. Cada ejemplo está limitado a 1000 caracteres.
  6. Establece un Umbral de detección. Este umbral define el nivel de sensibilidad que el juez utiliza para decidir si el contenido infringe la solicitud de la regla.
  7. Elige dónde se aplica la barrera de seguridad:
    • Agente : comprueba la solicitud de usuario y la salida del agente.
    • Llamadas a LLM: comprueba las solicitudes y respuestas del LLM.
    • Herramientas : comprueba los datos de entrada y salida de la herramienta. La barrera de seguridad se aplica antes y después de la ejecución para el ámbito seleccionado.
  8. Elige el Tipo de acción : cómo responde la barrera de seguridad cuando el juez devuelve un veredicto fallido: Registrar, Bloquear u Omitir.
  9. Activa o desactiva Habilitar barrera de seguridad para evaluaciones para ejecutar esta barrera de seguridad durante las pruebas y la evaluación del agente.
  10. Guarda la barrera de seguridad.

En runtime, el modelo de juez devuelve un veredicto de aprobado o suspenso junto con una razón legible por humanos, ambos visibles en los detalles de seguimiento. Debido a que la propia solicitud y respuesta del juez son en sí mismas una llamada de LLM, las barreras de seguridad centralizadas habilitadas en tu política de AI Trust Layer para contenido dañino, inyección de solicitud, PII y protección de IP también se les aplican, al igual que se aplican a otras llamadas de LLM en el plataforma. Para obtener más información, consulta Supervisión de barreras de seguridad y Barreras de seguridad centralizadas.

¿Te ha resultado útil esta página?

Conectar

¿Necesita ayuda? Soporte(opens in new window)

¿Quiere aprender? UiPath Academy(opens in new window)

¿Tiene alguna pregunta? Foro de UiPath(opens in new window)

Manténgase actualizado