Barandillas

Las barreras de seguridad son comprobaciones de seguridad y calidad integradas que ayudan a garantizar que los agentes se comporten de forma fiable, segura y en línea con las políticas organizativas. Supervisan y controlan qué datos procesan los agentes y cómo responden a las entradas del usuario, lo que reduce el riesgo de exponer información confidencial o ejecutar acciones no intencionadas.

En Agents, los lineamientos se pueden aplicar en diferentes niveles de ejecución:

• Nivel de agente: evalúa las propias solicitudes del agente o las instrucciones del sistema antes de la ejecución.
• Nivel de LLM: supervisa las solicitudes y respuestas intercambiadas entre el agente y el modelo de lenguaje extenso.
• Nivel de herramienta: valida las entradas y salidas de las herramientas utilizadas por el agente durante la ejecución de la tarea.

Al combinar estos ámbitos, puedes diseñar Agents más seguros que detecten y bloqueen automáticamente comportamientos problemáticos, mantengan el cumplimiento y mejoren la confianza general en la toma de decisiones automatizada.

Ve a Barreras de seguridad listas para usar para configurar rápidamente barreras de seguridad a nivel de agente o LLM.

Ve a Guardrails personalizadas para aprender a configurar guardrails para las herramientas de tu agente.

Ve a los guardarraíles de monitoreo para aprender cómo verificar las detecciones y revisar la actividad.

Mejores prácticas para barreras de seguridad

Sigue estas recomendaciones para aprovechar al máximo tus directrices:

• Usa Bloquear Actions en producción.Para Agents que manejan datos confidenciales o críticos para el negocio, configura el tipo de acción de directriz para Bloquear para evitar la exposición no intencionada de datos o la ejecución no segura.
• Umbrales de prueba durante la evaluación. Ejecuta sesiones de evaluación para ajustar los umbrales de detección y lograr el equilibrio adecuado entre precisión y falsos positivos.
• Revisa los registros regularmente. Supervisa periódicamente los registros y los seguimientos para confirmar que las detecciones se desencadenan como se espera y ajusta las configuraciones si es necesario.