Seguimientos de agente

Acerca de los seguimientos

Los seguimientos son registros detallados de todo lo que un agente hace durante una ejecución, incluidos los pasos tomados, los datos procesados, las decisiones tomadas y los resultados generados. Cada seguimiento captura una línea de tiempo completa del comportamiento del agente, incluidas las marcas de tiempo, los errores, las entradas/salidas y los metadatos contextuales. Usa seguimientos para:

• Depuración y resolución de problemas: identifica exactamente dónde falló o se comportó de forma inesperada un agente.
• Análisis de rendimiento: evalúa la latencia, los errores y el rendimiento en las ejecuciones de agentes para optimizar el comportamiento.
• Cumplimiento y auditoría: mantiene un registro verificable de lo que hizo el agente, cuándo y cómo. Es esencial para las auditorías o los flujos de trabajo regulados.
• Mejora continua: utiliza información de seguimiento para ajustar la lógica del agente, adaptar el comportamiento o entrenar nuevos modelos.

En la siguiente tabla se describen los casos de uso comunes en los que la visualización del seguimiento puede mejorar tu capacidad para depurar, analizar y optimizar el comportamiento del agente. Cada ejemplo resalta cómo los datos de seguimiento ayudan a descubrir información y a impulsar una mejor toma de decisiones durante el desarrollo y la supervisión del runtime.

Use case	Qué te ayudan a hacer los seguimientos
Fallos de agente durante la llamada a la herramienta	Busca e inspecciona el paso exacto, las entradas, las salidas y el error
Rendimiento bajo	Usa marcas de tiempo para localizar cuellos de botella
Investigar un pico de errores	Filtra ejecuciones por estado y sigue el patrón
Verificar una corrección de producción	Reproduce la ejecución original y confirma que la incidencia ya no se produce
Preparar un informe de auditoría	Exporta o revisa seguimientos que muestren las rutas de decisión y los datos gestionados

Tipos de seguimiento

Los seguimientos son de dos tipos diferentes, cada uno con un propósito específico para comprender y analizar el comportamiento del agente:

• Seguimientos de ejecución de agente: estos seguimientos capturan la ejecución paso a paso de un agente durante una ejecución en vivo o programada. Muestran cómo el agente procesa datos, invoca herramientas, gestiona condiciones y responde a diferentes estados en tiempo real.
• Seguimientos de ejecución de evaluación: los seguimientos de evaluación se generan cuando un agente se prueba con entradas predefinidas, normalmente durante evaluaciones de modelos, validaciones de escenarios o casos de prueba. Estos ayudan a evaluar la precisión del agente, la calidad de la decisión y el comportamiento en condiciones controladas.

Acceder a los seguimientos

Puedes acceder a ambos tipos de seguimientos desde dos ubicaciones clave:

• Agent Builder: mientras diseñas o pruebas tu agente, los seguimientos están disponibles directamente en el creador:
  • El panel inferior se abre automáticamente en la pestaña Seguimiento de ejecución cuando ejecutas tu agente, mostrando seguimientos en vivo para la ejecución actual. También puedes cambiar a la pestaña Historial para ver las ejecuciones anteriores y añadirlas directamente a los conjuntos de evaluación.
  • Las pestañas Evaluaciones y Salida proporcionan otra vista de las ejecuciones recientes, donde puedes inspeccionar el comportamiento y los resultados junto con la definición de tu agente.
• Página Instancias de agente: ve a la sección Agentes > Instancias.Desde aquí, selecciona un agente específico y selecciona cualquier ejecución para abrir su vista de seguimiento, que incluye el seguimiento visual completo y el panel de registro.

Al ver los seguimientos para las ejecuciones de agente o las ejecuciones de evaluación, obtienes visibilidad de la ejecución del agente. Puedes:

• Consulta los resultados de la ejecución, como se indica con los nodos codificados por colores: correcto, error o reintentar.
• Pasa el cursor sobre cualquier nodo para obtener una vista previa: marcas de tiempo de inicio y fin, estado de ejecución, fragmentos de entrada y salida.
• Selecciona un nodo para ver los detalles, incluyendo: cargas útiles JSON completas, registros y errores, métricas de runtime (uso de tokens, latencia).

Gestión del acceso a datos de seguimiento

Esta sección describe cómo los administradores pueden configurar el acceso a los datos de seguimiento utilizando el modelo de control de acceso basado en roles.

Para ver los registros de seguimiento necesitas los siguientes permisos:

• Logs.View
• Jobs.View

Para obtener más información sobre los permisos de los roles predeterminados, consulta Roles predeterminados.

La siguiente matriz explica los resultados de visibilidad en función de las combinaciones de permisos. Estas combinaciones definen qué detalles de seguimiento puedes ver dependiendo de tus permisos basados en rol.

Logs.View	Jobs.View	Acceder al resultado
Habilitar	Habilitar	Todos los atributos
Habilitar	Deshabilitar	Todos los atributos
Deshabilitar	Habilitar	Atributos parciales (por ejemplo, nombre, tipo).
Deshabilitar	Deshabilitar	Sin acceso

Cuando no tienes los permisos necesarios para ver los datos de seguimiento, verás un mensaje que explica si el acceso está total o parcialmente limitado y ofrece orientación para solicitar el permiso necesario.

Comentarios sobre las ejecuciones del agente (vista previa)

La retroalimentación es un mecanismo crítico para interpretar y mejorar los tiempos de ejecución del agente. Te permite revisar el comportamiento, diagnosticar problemas y documentar patrones significativos en la forma en que un agente toma decisiones.

Más allá de la depuración, los comentarios actúan como entrada central para la memoria episódica basada en comentarios, lo que permite al agente refinar su política de decisiones gradualmente, sin necesidad de reescribir solicitudes completas para cada ajuste.

La relación entre la retroalimentación y la memoria

Si bien los comentarios actúan como una herramienta de anotación, su aplicación más poderosa es influir en la memoria episódica.

Proporcionar comentarios sobre un seguimiento resalta los comportamientos que el agente debe replicar o evitar en ejecuciones futuras.

• Evolución sobre repetición: a diferencia de las resoluciones estáticas, la memoria basada en comentarios permite que el comportamiento del agente mejore con el tiempo. El agente aprende a reconocer patrones marcados como correctos o incorrectos.
• Mejora dirigida: este enfoque es más valioso en los flujos en los que el agente con frecuencia "casi tiene razón" o en los que la política de decisiones aún se está desarrollando.
• Memoria selectiva: no todos los comentarios se convierten automáticamente en memoria. Debes determinar activamente qué anotaciones representan oportunidades de aprendizaje de alto valor, para evitar que los comentarios de baja calidad o inconsistentes degraden el rendimiento.

Dónde aplicar los comentarios

Puedes proporcionar comentarios sobre cualquier intervalo dentro de un seguimiento de agente. Esta flexibilidad te permite anotar llamadas de herramientas específicas, comprobaciones de barreras o salidas de LLM al revisar o diagnosticar el comportamiento.

Solo los comentarios aplicados al período de ejecución del agente son elegibles para la memoria episódica. Aunque puedes anotar cualquier parte del seguimiento para su análisis, solo los comentarios adjuntos directamente al período de ejecución del agente se almacenarán y recuperarán como memoria en ejecuciones futuras.

Cuándo aplicar comentarios

Aunque proporcionar comentarios sobre todos los seguimientos maximizaría el aprendizaje iterativo, en la práctica debes concentrarte en los seguimientos que ofrecen el mayor valor para la optimización.

Céntrate en los siguientes escenarios:

• Escenarios críticos: seguimientos que implican decisiones de alto impacto o errores de alto impacto.
• Patrones recurrentes: áreas en las que el agente tiene problemas constantemente o muestra fallos repetitivos.
• Decisiones difíciles: instancias en las que el agente se enfrentó a una elección compleja.
• Opinión negativa: ejecuciones que dieron lugar a una mala experiencia de usuario.
• Comportamiento del modelo: ejemplos que ilustran claramente un comportamiento específico que deseas que el agente copie o evite estrictamente.

Aplicar comentarios es crucial para la mejora continua. Te permite codificar mejores comportamientos de forma incremental, haciendo que las ejecuciones de agentes sean más fiables y coherentes.

• Priorizar seguimientos: concéntrate en los seguimientos de escenarios críticos, errores de alto impacto o patrones recurrentes en los que el agente tiene problemas.
• Escenarios de alto valor: prioriza las ejecuciones que representan decisiones difíciles para el agente, muestran una opinión negativa del usuario o ilustran claramente un comportamiento que quieres que el agente copie o evite.
• Áreas de enfoque: identifique claramente sobre qué está proporcionando comentarios:
  • Salida: ¿el resultado final cumplió con las expectativas?
  • Ejecución del plan (trayectoria): ¿realizó el agente los pasos de la tarea en el orden esperado?
  • Comentarios: utiliza comentarios para enriquecer los comentarios e informar la recuperación de la memoria.