Procesos de evaluación

Un proceso de evaluación se utiliza para evaluar un modelo de aprendizaje automático entrenado. Para utilizar este proceso, el paquete debe contener código para evaluar un modelo (la función evaluate() en el archivo train.py). Este código, junto con un conjunto de datos o una subcarpeta dentro de un conjunto de datos, produce una puntuación (el resultado de la función evaluate()) y cualquier output arbitrario que al usuario le gustaría mantener además de la puntuación.

Crear procesos de evaluación

Crea un nuevo proceso de evaluación y asegúrate de proporcionar la siguiente información específica del proceso de evaluación:

• En el campo Tipo de proceso, selecciona Ejecución de evaluación.
• En el campo Elegir conjunto de datos de evaluación, selecciona un conjunto de datos o una carpeta desde la que quieres importar datos para la evaluación. Todos los archivos en este conjunto de datos/carpeta deben estar disponibles localmente durante el tiempo de ejecución del proceso, siendo transmitidos al argumento a tu función evaluate().
• En la sección Introducir parámetros, escribe las variables de entorno definidas y utilizadas por tu proceso, si las hubiera. Las variables de entorno son:
  • artifacts_directory, con artefactos de valor predeterminado: esto define la ruta a un directorio que se mantendrá como datos auxiliares relacionados con este proceso. La mayoría, si no todos los usuarios, nunca tendrán la necesidad de anular esto a través de la IU. Se puede guardar cualquier cosa durante la ejecución del proceso, incluidas imágenes, archivos PDF y subcarpetas. En concreto, cualquier dato que tu código escriba en el directorio especificado por la ruta os.environ['artifacts_directory'] se cargará al final de la ejecución del proceso y se podrá ver desde la página Detalles del proceso .
  • save_test_data, con el valor predeterminado false: si se establece en true, la carpeta data_directory se cargará al final de la ejecución del proceso como una salida del proceso en el directorio data_directory.
    Nota:

    Puede que la ejecución del proceso lleve algún tiempo. Échale un vistazo después de un tiempo para ver su estado.

Después de ejecutarse el proceso, en la página Procesos, el estado del proceso cambia a Con éxito. La página Detalles del proceso muestra los archivos y carpetas arbitrarios relacionados con la ejecución del proceso. En nuestro ejemplo, la ejecución creó un archivo llamado my-evaluate-artifact.txt.

Analogía conceptual para crear tus propios procesos de evaluación

Este ejemplo es una ejecución conceptualmente análoga de un proceso de evaluación en algún paquete, por ejemplo, la versión 1.1, la salida de un proceso de entrenamiento en la versión 1.0.

Nota:

Este es un ejemplo simplificado. Su propósito es ilustrar cómo los conjuntos de datos y los paquetes interactúan en un proceso de evaluación. Los pasos son meramente conceptuales y no representan cómo funciona la plataforma.

1. Copia la versión 1.1 del paquete en ~/mlpackage.

2. Copia el conjunto de datos de evaluación o la subcarpeta del conjunto de datos seleccionada desde la IU a ~/mlpackage/evaluation_data.

3. Ejecuta el siguiente código python:

   from train import Main 
   m = Main() 
   score = m.evaluate('./evaluation_data')
   

   La puntuación mostrada emerge en la cuadrícula que muestra los procesos y el archivo results.json.

4. Mantén los artefactos si se escriben, haz una instantánea de los datos si save_test_data está establecido en true.

Outputs de un proceso

El archivo _results.json contiene un resumen de la ejecución del proceso y expone todas los inputs/outputs y los tiempos de ejecución para un proceso de evaluación.

{
    "parameters": {
        "pipeline": "< Pipeline_name >",
        "inputs": {
            "package": "<Package_name>",
            "version": "<version_number>",
            "evaluation_data": "<storage_directory>",
            "gpu": "True/False"
        },
        "env": {
            "key": "value",
            ...
        }
    },
    "run_summary": {
     "execution_time": <time>, #in seconds 
     "start_at": <timestamp>, #in seconds 
     "end_at": <timestamp>, #in seconds 
     "outputs": {
        "score": <score>, #float
        "train_data": "<test_storage_directory>", 
        "evaluation_data": "<test_storage_directory>/None", 
        "artifacts_data": "<artifacts_storage_directory>",
         }
    }
}

La carpeta Artefactos, visible solo si no está vacía, es una carpeta que reagrupa todos los artefactos generados por el proceso y se guardan en la carpeta artifacts_directory.

La carpeta Conjunto de datos, existente solo si save_data se estableció en el valor true predeterminado, es una copia de la carpeta del conjunto de datos de la evaluación.

Control del modelo

Al igual que en los procesos de entrenamiento, un usuario puede establecer el parámetro save_test_data = true en los datos de la instantánea pasados para la evaluación.