Seguimientos de agente

Acerca de los seguimientos

Los seguimientos son registros detallados de todo lo que un agente hace durante una ejecución, incluidos los pasos tomados, los datos procesados, las decisiones tomadas y los resultados generados. Cada seguimiento captura una línea de tiempo completa del comportamiento del agente, incluidas las marcas de tiempo, los errores, las entradas/salidas y los metadatos contextuales. Usa seguimientos para:

• Depuración y resolución de problemas: identifica exactamente dónde falló o se comportó de forma inesperada un agente.
• Análisis de rendimiento: evalúa la latencia, los errores y el rendimiento en las ejecuciones de agentes para optimizar el comportamiento.
• Cumplimiento y auditoría: mantiene un registro verificable de lo que hizo el agente, cuándo y cómo. Es esencial para las auditorías o los flujos de trabajo regulados.
• Mejora continua: utiliza información de seguimiento para ajustar la lógica del agente, adaptar el comportamiento o entrenar nuevos modelos.

En la siguiente tabla se describen los casos de uso comunes en los que la visualización del seguimiento puede mejorar tu capacidad para depurar, analizar y optimizar el comportamiento del agente. Cada ejemplo resalta cómo los datos de seguimiento ayudan a descubrir información y a impulsar una mejor toma de decisiones durante el desarrollo y la supervisión del runtime.

Use case	Qué te ayudan a hacer los seguimientos
Fallos de agente durante la llamada a la herramienta	Busca e inspecciona el paso exacto, las entradas, las salidas y el error
Rendimiento bajo	Usa marcas de tiempo para localizar cuellos de botella
Investigar un pico de errores	Filtra ejecuciones por estado y sigue el patrón
Verificar una corrección de producción	Reproduce la ejecución original y confirma que la incidencia ya no se produce
Preparar un informe de auditoría	Exporta o revisa seguimientos que muestren las rutas de decisión y los datos gestionados

Tipos de seguimiento

Los seguimientos son de dos tipos diferentes, cada uno con un propósito específico para comprender y analizar el comportamiento del agente:

• Seguimientos de ejecución de agente: estos seguimientos capturan la ejecución paso a paso de un agente durante una ejecución en vivo o programada. Muestran cómo el agente procesa datos, invoca herramientas, gestiona condiciones y responde a diferentes estados en tiempo real.
• Seguimientos de ejecución de evaluación: los seguimientos de evaluación se generan cuando un agente se prueba con entradas predefinidas, normalmente durante evaluaciones de modelos, validaciones de escenarios o casos de prueba. Estos ayudan a evaluar la precisión del agente, la calidad de la decisión y el comportamiento en condiciones controladas.

Acceder a los seguimientos

Puedes acceder a ambos tipos de seguimientos desde dos ubicaciones clave:

• Agent Builder: mientras diseñas o pruebas tu agente, los seguimientos están disponibles directamente en el creador:
  • El panel inferior se abre automáticamente en la pestaña Seguimiento de ejecución cuando ejecutas tu agente, mostrando seguimientos en vivo para la ejecución actual. También puedes cambiar a la pestaña Historial para ver las ejecuciones anteriores y añadirlas directamente a los conjuntos de evaluación.
  • Las pestañas Evaluaciones y Salida proporcionan otra vista de las ejecuciones recientes, donde puedes inspeccionar el comportamiento y los resultados junto con la definición de tu agente.
• Página Instancias de agente: ve a la sección Agentes > Instancias.Desde aquí, selecciona un agente específico y selecciona cualquier ejecución para abrir su vista de seguimiento, que incluye el seguimiento visual completo y el panel de registro.

Al ver los seguimientos para las ejecuciones de agente o las ejecuciones de evaluación, obtienes visibilidad de la ejecución del agente. Puedes:

• Consulta los resultados de la ejecución, como se indica con los nodos codificados por colores: correcto, error o reintentar.
• Pasa el cursor sobre cualquier nodo para obtener una vista previa: marcas de tiempo de inicio y fin, estado de ejecución, fragmentos de entrada y salida.
• Selecciona un nodo para ver los detalles, incluyendo: cargas útiles JSON completas, registros y errores, métricas de runtime (uso de tokens, latencia).

Gestión del acceso a datos de seguimiento

Esta sección describe cómo los administradores pueden configurar el acceso a los datos de seguimiento utilizando el modelo de control de acceso basado en roles.

Para ver los registros de seguimiento necesitas los siguientes permisos:

• Logs.View
• Jobs.View

Para obtener más información sobre los permisos de los roles predeterminados, consulta Roles predeterminados.

La siguiente matriz explica los resultados de visibilidad en función de las combinaciones de permisos. Estas combinaciones definen qué detalles de seguimiento puedes ver dependiendo de tus permisos basados en rol.

Logs.View	Jobs.View	Acceder al resultado
Habilitar	Habilitar	Todos los atributos
Habilitar	Deshabilitar	Todos los atributos
Deshabilitar	Habilitar	Atributos parciales (por ejemplo, nombre, tipo).
Deshabilitar	Deshabilitar	Sin acceso

Cuando no tienes los permisos necesarios para ver los datos de seguimiento, verás un mensaje que explica si el acceso está total o parcialmente limitado y ofrece orientación para solicitar el permiso necesario.

Comentarios sobre ejecuciones de agentes (vista previa)

Los comentarios son un mecanismo crítico para interpretar y mejorar los runtimes de los agentes. Te permite revisar el comportamiento, diagnosticar incidencias y patrones significativos de documento en la forma en que un agente toma decisiones.

Más allá de la depuración, los comentarios actúan como entrada principal de la memoria episódica basada en comentarios, lo que permite al agente refinar su política de decisión gradualmente, sin requerir reescrituras completas de solicitudes para cada ajuste.

La relación entre comentarios y memoria

Aunque los comentarios actúan como una herramienta de anotación, su aplicación más potente es la que influye en la memoria episódica.

Proporcionar comentarios sobre un seguimiento resalta los comportamientos que el agente debe replicar o evitar en ejecuciones futuras.

• Evolución sobre la repetición: a diferencia de las resoluciones estáticas, la memoria basada en comentarios permite que el comportamiento del agente mejore con el tiempo. El agente aprende a reconocer patrones marcados como correctos o incorrectos.
• Mejora dirigida: este enfoque es más valioso en flujos en los que el agente realiza con frecuencia "casi lo correcto" o en los que la política de decisión aún se está desarrollando.
• Memoria selectiva: no todos los comentarios se convierten automáticamente en memoria. Debes determinar activamente qué anotaciones representan oportunidades de aprendizaje de alto valor, para evitar que comentarios de baja calidad o inconsistentes degraden el rendimiento.

Dónde aplicar los comentarios

Puedes proporcionar comentarios sobre cualquier periodo dentro de un seguimiento de un agente. Esta flexibilidad te permite anotar llamadas de herramientas, comprobaciones de barrera de seguridad o salidas del LLM específicas al revisar o diagnosticar el comportamiento.

Solo los comentarios aplicados al período de ejecución del agente son elegibles para la memoria episódica. Aunque puedes anotar cualquier parte del seguimiento para su análisis, solo los comentarios adjuntos directamente al intervalo de ejecución del agente se almacenarán y recuperarán como memoria en ejecuciones futuras.

Cuándo aplicar comentarios

Aunque proporcionar comentarios sobre todos los seguimientos maximizaría el aprendizaje iterativo, en la práctica debes concentrarte en los seguimientos que ofrecen el mayor valor para la optimización.

Céntrate en los siguientes escenarios:

• Escenarios críticos: seguimientos que implican decisiones de alto riesgo o errores de alto impacto.
• Patrones recurrentes: áreas en las que el agente tiene dificultades constantemente o exhibe fallos repetitivos.
• Decisiones difíciles: instancias en las que el agente se enfrentó a una elección compleja.
• Sentimiento negativo: ejecuciones que daban como resultado una experiencia de usuario deficiente.
• Comportamiento del modelo: ejemplos que ilustran claramente un comportamiento específico que quieres que el agente copie estrictamente o evite estrictamente.

Aplicar los comentarios es crucial para la mejora continua. Te permite codificar mejores comportamientos de forma incremental, lo que hace que las ejecuciones del agente sean más fiables y coherentes.

• Priorizar seguimientos: céntrate en seguimientos de escenarios críticos, errores de alto impacto o patrones recurrentes en los que el agente tiene dificultades.
• Escenarios de alto valor: prioriza ejecuciones que representan decisiones difíciles para el agente, muestran un sentimiento negativo del usuario o ilustran claramente un comportamiento que quieres que el agente copie o evite.
• Áreas de enfoque: identifica claramente aquello en lo que estás proporcionando comentarios:
  • Salida: ¿el resultado final cumplió las expectativas?
  • Ejecución del plan (trayectoria): ¿el agente realizó los pasos de la tarea en el orden esperado?
  • Comentarios: utiliza comentarios para enriquecer la retroalimentación e informar la recuperación de memoria.