Barandillas

Las barreras de seguridad son comprobaciones de seguridad y calidad integradas que ayudan a garantizar que los agentes se comporten de forma fiable, segura y en línea con las políticas organizativas. Supervisan y controlan qué datos procesan los agentes y cómo responden a las entradas del usuario, lo que reduce el riesgo de exponer información confidencial o ejecutar acciones no intencionadas.

Las barreras de seguridad pueden habilitarse en dos niveles, dependiendo de quién las gestione y de la amplitud con la que deban aplicarse:

• En toda la organización : los administradores configuran las barreras de seguridad una vez en la política de AI Trust Layer en Automation Ops. Cuando se habilita para un producto (por ejemplo, agentes autónomos), la barrera de seguridad se aplica automáticamente a cada agente de ese tipo en el tenant. Para obtener más información, consulta Barreras de seguridad centralizadas.
• Por agente : los desarrolladores de agentes configuran las barreras de seguridad directamente en Studio Web. La barrera de seguridad se aplica solo a ese agente específico. Para obtener más información, consulta Barreras de seguridad listas para usar.

En Agents, los lineamientos se pueden aplicar en diferentes niveles de ejecución:

• Nivel de agente: evalúa las propias solicitudes del agente o las instrucciones del sistema antes de la ejecución.
• Nivel de LLM: supervisa las solicitudes y respuestas intercambiadas entre el agente y el modelo de lenguaje extenso.
• Nivel de herramienta: valida las entradas y salidas de las herramientas utilizadas por el agente durante la ejecución de la tarea.

Al combinar estos ámbitos, puedes diseñar Agents más seguros que detecten y bloqueen automáticamente comportamientos problemáticos, mantengan el cumplimiento y mejoren la confianza general en la toma de decisiones automatizada.

Ve a Barreras de seguridad personalizadas para aprender a configurar barreras de seguridad para las herramientas de tu agente.

Ve a Supervisión de barreras de seguridad para aprender a verificar las detecciones y revisar la actividad de las barreras de seguridad.

Mejores prácticas para barreras de seguridad

Sigue estas recomendaciones para aprovechar al máximo tus directrices:

• Usa Bloquear Actions en producción.Para Agents que manejan datos confidenciales o críticos para el negocio, configura el tipo de acción de directriz para Bloquear para evitar la exposición no intencionada de datos o la ejecución no segura.
• Umbrales de prueba durante la evaluación. Ejecuta sesiones de evaluación para ajustar los umbrales de detección y lograr el equilibrio adecuado entre precisión y falsos positivos.
• Revisa los registros regularmente. Supervisa periódicamente los registros y los seguimientos para confirmar que las detecciones se desencadenan como se espera y ajusta las configuraciones si es necesario.