Barreras de seguridad listas para usar

Las barreras de seguridad listas para usar son salvaguardas predefinidas y listas para usar que puedes habilitar para tus agentes sin ninguna configuración o codificación personalizada. Proporcionan protección inmediata contra riesgos comunes, como la exposición de datos confidenciales y los ataques de inyección rápida, lo que te ayuda a crear agentes seguros y fiables más rápido.

Nota:

Las barreras de seguridad listas para usar están disponibles en los siguientes planes de licencia:

• Plan de precios Flex : Enterprise: niveles Estándar y Avanzado.
• Plan Unified Pricing : Estándar, Enterprise, Plataforma de prueba de aplicaciones estándar, Plataforma de prueba de aplicaciones Enterprise.

Si los derechos necesarios no están habilitados para su organización, las opciones de barrera correspondientes no aparecerán en la IU. Si ya has configurado las barreras y los derechos necesarios se deshabilitan más tarde, tus agentes simplemente omitirán esas barreras durante la ejecución, no harán que las ejecuciones del agente fallen.

Puedes establecer y configurar barreras de seguridad listas para usar directamente desde la configuración de tu agente. La configuración se aplica automáticamente en tiempo de ejecución, en función del ámbito y el tipo de acción seleccionados.

1. Abre la configuración del agente.
   1. En Studio Web, abre tu agente.
   2. Abre el panel de configuración del agente .
   3. Ve a la pestaña Barreras y selecciona Añadir barreras.
2. Elige un tipo de barrera de seguridad de las barreras predefinidas disponibles:
   • Detección de PII : identifica y bloquea información confidencial, como direcciones de correo electrónico o direcciones físicas. Esta barrera de seguridad utiliza Azure Cognitive Services.
   • Inyección de solicitud : detecta y bloquea solicitudes maliciosas o manipuladoras durante las interacciones de LLM. Esta barrera de seguridad utiliza Noma Security. Nota: los servicios de Noma se alojan en Estados Unidos, por lo que los datos procesados por la barrera de protección de inyección de solicitud pueden gestionarse fuera de la región de tu tenant.

Configurar una barrera de seguridad de detección de PII

1. Añade la barrera de seguridad de detección de PII a tu agente.
2. Define los detalles de la barrera de seguridad. Rellena los siguientes campos:
   • Nombre de la barrera de seguridad : introduce un nombre descriptivo para esta barrera de seguridad.
   • Descripción de la barrera : explica lo que detecta o dónde se aplica.
3. Seleccione las entidades que desea detectar. En el menú desplegable Entidades a detectar , elige los tipos de información que quieres supervisar (por ejemplo, correo electrónico, teléfono o dirección).
4. Establece un umbral de detección. Para cada entidad seleccionada, define un Umbral de detección entre 0 y 1. Un umbral más alto hace que la detección sea más estricta (menos falsos positivos), mientras que un umbral más bajo la hace más sensible.
5. Elige los ámbitos. Selecciona dónde quieres que se aplique la barrera de seguridad:
   1. Agente : comprueba las solicitudes de entrada y salida del agente.
   2. Llamadas de LLM : comprueba las solicitudes y respuestas intercambiadas con el modelo.
   3. Herramientas : comprueba los datos de entrada y salida de la herramienta. Puedes seleccionar uno o más ámbitos para aplicar la misma lógica de detección en varias etapas de ejecución.
      • Si seleccionas el ámbito de Herramientas , elige una o más herramientas de la lista Seleccionar herramientas . Esto te permite reutilizar la misma barrera de seguridad en varias herramientas en el mismo agente.
6. Define el tipo de acción. Configura cómo debe responder el sistema cuando se detecta PII:
   1. Registro : registra el evento sin interrumpir la ejecución del agente. El nivel de gravedad establece el nivel de importancia para la entrada de registro:
      • Información : para información general o hallazgos de bajo impacto.
      • Advertencia : para riesgos potenciales que no bloquean la ejecución.
      • Error : para detecciones críticas que requieren revisión.
   2. Bloquear : detiene la ejecución del agente o herramienta cuando se activa la barrera de seguridad.
      • Motivo del bloqueo : proporciona una breve explicación para bloquear la acción (por ejemplo, "Datos PII detectados en la salida de la herramienta").
   3. Escalar : envía una escalada cuando se produce una infracción.
      • Asignar aplicación a : elige el tipo de destino de la escalada: un usuario específico, un grupo de usuarios definido o una dirección externa.
      • Destinatario : busca y selecciona el destinatario (nombre o correo electrónico).
      • Aplicación de acción : selecciona la aplicación que gestionará la escalada.
7. Habilitar para evaluaciones. Alterna Habilitar barrera para evaluaciones para ejecutar esta barrera durante la prueba o evaluación del agente.
8. Guarda la barrera de seguridad. Una vez configurada, la barrera de seguridad supervisa automáticamente todas las solicitudes y respuestas de LLM y bloquea la ejecución cuando se detectan intentos de inyección de solicitud.

Configurar una barrera de seguridad de inyección de solicitud

1. Añade la barrera de seguridad de inyección de solicitud a tu agente.
2. Define los detalles de la barrera de seguridad. Rellena los siguientes campos:
   1. Nombre de la barrera de seguridad : introduce un nombre descriptivo para esta barrera de seguridad.
   2. Descripción de la barrera : explica de forma opcional lo que detecta o dónde se aplica.
3. Establece el umbral de detección. Especifica el nivel de sensibilidad (por ejemplo, 0,8). Los valores más altos hacen que la detección sea más estricta y reducen los falsos positivos.
4. Define el tipo de acción. Configura cómo el sistema debe manejar los eventos de detección:
   1. Registro : registra el evento sin interrumpir la ejecución del agente. El nivel de gravedad establece el nivel de importancia para la entrada de registro:
      • Información : para información general o hallazgos de bajo impacto.
      • Advertencia : para riesgos potenciales que no bloquean la ejecución.
      • Error : para detecciones críticas que requieren revisión.
   2. Bloquear : detiene la ejecución del agente o herramienta cuando se activa la barrera de seguridad.
      • Motivo del bloqueo : proporciona una breve explicación para bloquear la acción.
   3. Escalar : envía una escalada cuando se produce una infracción.
      • Asignar aplicación a : elige el tipo de destino de la escalada: un usuario específico, un grupo de usuarios definido o una dirección externa.
      • Destinatario : busca y selecciona el destinatario (nombre o correo electrónico).
      • Aplicación de acción : selecciona la aplicación que gestionará la escalada.
5. Habilitar para evaluaciones. Alterna Habilitar barrera para evaluaciones para ejecutar esta barrera durante la prueba o evaluación del agente.
6. Guarda la barrera de seguridad. Una vez configurada, la barrera de seguridad supervisa automáticamente todas las solicitudes y respuestas de LLM y bloquea la ejecución cuando se detectan intentos de inyección de solicitud.