Barandillas

Las barreras son comprobaciones de seguridad y calidad integradas que ayudan a garantizar que los agentes se comporten de forma fiable, segura y en consonancia con las políticas de la organización. Supervisan y controlan qué agentes de datos procesan y cómo responden a las entradas de los usuarios, reduciendo el riesgo de exponer información confidencial o ejecutar acciones no deseadas.

En Agentes, las barreras pueden aplicarse en diferentes niveles de ejecución:

• Nivel de agente: evalúa las propias solicitudes del agente o las instrucciones del sistema antes de la ejecución.
• Nivel de LLM: supervisa las solicitudes y respuestas intercambiadas entre el agente y el modelo lingüístico de gran tamaño.
• Nivel de herramienta: valida las entradas y salidas de las herramientas utilizadas por el agente durante la ejecución de la tarea.

Al combinar estos ámbitos, puedes diseñar agentes más seguros que detecten y bloqueen automáticamente el comportamiento problemático, mantengan el cumplimiento y mejoren la confianza general en la toma de decisiones automatizada.

Ve a Barreras listas para usar para configurar rápidamente barreras en el nivel de agente o LLM.

Ve a Barreras de seguridad personalizadas para aprender a configurar barreras para las herramientas de tu agente.

Ve a Supervisión de barreras para aprender a verificar las detecciones y revisar la actividad de las barreras.

Mejores prácticas para barreras

Sigue estas recomendaciones para aprovechar al máximo tus barreras:

• Utiliza Bloquear acciones en producción. Para los agentes que manejan datos confidenciales o críticos para el negocio, configura el tipo de acción de barrera en bloquear para evitar la exposición de datos no intencionada o la ejecución no segura.
• Probar umbrales durante la evaluación. Ejecuta sesiones de evaluación para ajustar los umbrales de detección y lograr el equilibrio adecuado entre precisión y falsos positivos.
• Revise los registros con regularidad. Supervise los registros y seguimientos de las barreras de seguridad periódicamente para confirmar que las detecciones se desencadenan como se espera y ajuste las configuraciones si es necesario.