Gestion des pipelines

Création de pipelines

1. Dans la page Pipelines, cliquez sur le bouton Créer nouveau (Create new). La page Créer une nouvelle exécution de pipeline (Create new pipeline run) s'affiche.

   Sinon, dans les Détails du paquet ML (ML Package Details) d'un package spécifique, sélectionnez Exécutions du pipeline (Pipeline Runs), puis cliquez sur le bouton Créer nouveau (Create new). La page Créer une nouvelle exécution de pipeline (Create new pipeline run) s'affiche.

2. Dans la page Créer une nouvelle exécution de pipeline (Create new pipeline run), sélectionnez le type d'exécution de pipeline. Les options disponibles sont Exécution d'apprentissage(Training run), Exécution d'évaluation (Evaluation run) et Exécution complète du pipeline (Full pipeline run).
3. Ajoutez un nom d'affichage pour l'exécution du pipeline.
4. Sélectionnez le package pour l'exécution du pipeline.
5. Sélectionnez les versions majeure et mineure du package.
6. Sélectionnez des ensembles de données. Selon le type de pipeline sélectionné, les ensembles de données suivants doivent être spécifiés :
   • Pour le pipeline d'entraînement, spécifiez l'ensemble de données d'entrée.
   • Pour le pipeline d'évaluation, spécifiez l'ensemble de données d'évaluation.
   • Pour une exécution complète de pipeline, spécifiez l'ensemble de données d'entrée et l'ensemble de données d'évaluation.
7. Facultatif : saisissez les paramètres des exécutions de pipeline. Cliquez sur Ajouter nouveau (Add new) pour afficher la section des paramètres, puis saisissez la variable d'environnement et sa valeur correspondante. Plusieurs paramètres sont acceptés.
8. Sélectionnez si le pipeline nécessite un GPU. Par défaut, il est défini sur Non ( No).
   Remarque : si vous utilisez le modèle de licence AI Units, le coût horaire des AI Units s'affiche sous le bouton bascule Activer le GPU (Enable GPU). Selon que vous choisissez d'utiliser le GPU ou non, le coût horaire change.
   Remarque : vous pouvez mettre en file d'attente des pipelines en fonction des ressources GPU. Pour plus d'informations, consultez Configuration de la file d'attente pour les ressources GPU.
9. Sélectionnez quand le pipeline doit s'exécuter. Les options possibles sont :
   • Exécuter maintenant (Run now) : le pipeline commence à s'exécuter immédiatement après sa création.
   • Basé sur l'heure (Time based) - le pipeline commence à s'exécuter à la date et à l'heure que vous spécifiez dans les champs Date et Heure (Time).
   • Récurrent (Recurring) - le pipeline commence à s'exécuter selon la planification récurrente que vous avez configurée dans la fenêtre Définir la planification récurrente (Set Recurring Schedule). Vous pouvez le configurer pour qu'il s'exécute certains jours de la semaine à une certaine heure, ou vous pouvez utiliser des expressions Cron.

   Lisez ici plus d’informations sur la planification des pipelines.

10. Cliquez sur Créer (Create) pour créer le pipeline ou sur Annuler (Cancel) pour abandonner le processus. La page Créer une nouvelle exécution de pipeline (Create new pipeline run) se ferme.
    
    

    

    
    

Le pipeline est créé et affiché avec ses détails dans la page Pipelines et dans l'onglet Exécutions du pipeline (Pipeline Runs) de la page Détails du paquet ML (ML Package Details) du package sélectionné. Le pipeline s'exécute selon la période que vous avez choisie lors de sa création.

Planification des pipelines

Lors de la création, tout type de pipeline peut être soit planifié à une date et une heure futures, soit avec une planification récurrente. Par exemple, une planification peut être définie pour qu'un pipeline s'exécute le dimanche soir à 1 heure du matin. Cela permet aux modèles d'être continuellement mis à jour au fur et à mesure que les données sont renvoyées à partir des tâches d'Intervention humaine et permet en outre une utilisation plus efficace des licences AI Robot.

⏲ Pour créer un pipeline à planifier à une date future unique, sélectionnez l'option Basé sur l'heure (Time based) dans la page Créer un nouveau pipeline d'exécution (Create new pipeline run).

📅 Pour créer un pipeline avec une planification récurrente, sélectionnez l'option Récurrent (Recurring) sur la page Créer une nouvelle exécution de pipeline (Create new pipeline run).

⚙ Un programme plus complexe, à la récurrence différente autre que tous les jours à un moment donné, peut être défini en sélectionnant l'onglet Avancé (Advanced) dans la fenêtre Définir un programme récurrent (Set Recurring Schedule) et en saisissant une expression cron. Il existe de nombreux outils en ligne gratuits pour générer facilement des expressions cron.

Configuration de la file d'attente pour les ressources GPU

Il existe des clusters limités en ressources, surtout compte tenu du nombre de GPU déployés.

Le mécanisme de mise en file d'attente gère les demandes d'utilisation du GPU, surveille le statut du GPU et exécute les demandes lorsqu'un GPU devient disponible. La gestion des ressources améliore l’efficacité du suivi et de la réinitialisation des demandes.

Pour configurer la mise en file d'attente des ressources GPU :

1. Accédez à Applications ArgoCD AICenter (ArgoCD AICenter Applications).
   
   

   

   
   
2. Cliquez sur le bouton Détails de l' application (App Details ) pour voir les détails de l'application.
   
   

   

   
   
3. Cliquez sur l'onglet Paramètres (Parameters) pour afficher les paramètres et leurs détails.
   
   

   

   
   

• global.waitQueue.gpuCount Défini sur le nombre de ressources GPU disponibles pour l'entraînement du modèle.
• global.waitQueue.queueLength Défini sur la longueur maximale de la file d'attente. Au-delà, les nouvelles demandes ne seront pas mises en file d'attente. La longueur de file d'attente recommandée est de 5*numGPU.

Activation de fonctionnalité

Définissez la propriété global.waitQueue.enabled sur true.

Configuration

Facultatif: modifiez global.waitQueue.gpuCount ou global.waitQueue.queueLength.

Fonctionnalité

La fonctionnalité est maintenant activée. Si vous déclenchez 2 pipelines GPU consécutifs, l'un attend la fin de l'autre.

Modification des pipelines programmés

Vous ne pouvez modifier que les pipelines qui n'ont pas encore été exécutés.

1. Accédez à la page Détails du pipeline (Pipeline Details).
   • Dans la page Pipelines, cliquez sur ⁝ à côté d'un pipeline et sélectionnez Détails (Details).
   • Dans les Détails du paquet ML (ML Package Details) d'un package spécifique, sélectionnez l'onglet Exécutions du pipeline (Pipeline Runs), cliquez sur ⁝ à côté d'un pipeline planifié et sélectionnez Détails (Details). La page Détails du pipeline (Pipeline Details) s'affiche.
2. Cliquez sur Modifier le pipeline (Edit pipeline). La page Modifier l'exécution du pipeline (Edit pipeline run) s'affiche.
3. Vous pouvez modifier le nom du pipeline, le répertoire de données du pipeline planifié, ainsi que la planification récurrente.
4. Cliquez sur Soumettre (Submit) pour enregistrer le nom modifié. Le pipeline planifié s'affiche dans la page Pipelines avec ses informations mises à jour.

Suppression de pipelines

1. Supprimer le pipeline
   • Dans la page Pipelines, cliquez sur ⁝ à côté d'un pipeline et sélectionnez Supprimer (Remove).
   • Dans les Détails du paquet ML (ML Package Details) d'un package spécifique, sélectionnez l'onglet Exécutions du pipeline (Pipeline Runs), cliquez sur ⁝ à côté d'un pipeline et sélectionnez Supprimer (Remove). Une boîte de dialogue de confirmation s'affiche.
2. Cliquez sur OK pour supprimer le pipeline.
   Remarque :

   La suppression d'un pipeline en empaquetage, en attente de ressources ou en cours d'exécution l'arrête d'abord, puis le supprime.

   Si vous souhaitez simplement arrêter un pipeline en cours d'empaquetage, en attente de ressources ou en cours d'exécution et consulter ses journaux, cliquez sur ⁝ à côté et sélectionnez l'option Détails pour parcourir la page Détails du pipeline (Pipeline Details) correspondante. Vous pouvez arrêter le pipeline à partir de là.

Afficher les détails du pipeline

Vous pouvez consulter plus d'informations sur un pipeline spécifique ou effectuer d'autres actions.

• Dans la page Pipelines, cliquez sur ⁝ à côté d'un pipeline et sélectionnez Détails (Details).

• Dans les Détails du paquet ML (ML Package Details) d'un package spécifique, sélectionnez l'onglet Exécutions du pipeline (Pipeline Runs), cliquez sur ⁝ à côté d'un pipeline planifié et sélectionnez Détails (Details). La page Détails du pipeline (Pipeline Details) s'affiche.
• Ou, si un paquet ML est généré par un pipeline, vous pouvez accéder à toutes les informations relatives au pipeline directement à partir de la fenêtre Paquet ML (ML Package) en cliquant sur le menu à trois points ⁝ et sur Détails du pipeline (Pipeline Details). Cette option n'est disponible que pour les nouveaux pipelines.

Les informations affichées et les actions que vous pouvez effectuer ici dépendent de l'état du pipeline.

Détails du pipeline planifié

La page Détails du pipeline (Pipeline Details) pour les pipelines planifiés affiche un onglet d'informations.

Vous pouvez effectuer les actions suivantes :

Supprimer (Delete) le pipeline.

Modifier (Edit) le pipeline. Dans la page Modifier l'exécution du pipeline (Edit pipeline run) affichée, tous les champs peuvent être mis à jour. Cliquer sur Exécuter maintenant (Run Now) ne crée pas de nouveau pipeline, mais exécute ce pipeline immédiatement, le supprimant ainsi de la liste des pipelines planifiés.

Détails du Pipeline en cours d'empaquetage

La page Détails du pipeline (Pipeline Details) pour les pipelines en cours d'empaquetage affiche un onglet d'informations.

Vous pouvez effectuer l'action suivante :

Forcez l'arrêt (Kill) du pipeline. Cela arrête l'exécution du pipeline, il ne s'exécutera donc pas et ne consommera pas de Robots IA. Son statut passe à Arrêté de force (Killed).

Détails du Pipeline en attente de ressources

La page Détails du pipeline (Pipeline Details) pour les pipelines en attente de ressources affiche un onglet d'informations.

Vous pouvez effectuer l'action suivante :

Forcez l'arrêt (Kill) du pipeline. Cela supprime le pipeline de la file d'attente, il ne s'exécutera donc pas et ne consommera pas de Robots IA. Son statut passe à Arrêté de force (Killed).

Détails du pipeline en cours d'exécution

La page Détails du pipeline pour les pipelines en cours d'exécution affiche un onglet d'informations et des journaux en temps réel.

Vous pouvez effectuer l'action suivante :

Forcez l'arrêt (Kill) du pipeline. Cela arrête immédiatement le pipeline et change son statut sur Arrêté de force (Killed). Les journaux affichent l'instantané au moment où l'action d'arrêt forcé a été exécutée.

Détails du pipeline échoué

La page Détails du pipeline (Pipeline Details) pour les pipelines échoués affiche un onglet d'informations et des journaux. Selon l'étape à laquelle ce pipeline a échoué, les sorties (partielles) du pipeline sont affichées.

Vous pouvez effectuer l'action suivante :

Redémarrer le pipeline. Cela ajoute un nouveau pipeline à la file d'attente, avec exactement les mêmes paramètres avec lesquels il a été créé. Si la file d'attente est vide, le pipeline commence immédiatement à s'exécuter.

Détails du pipeline en arrêt forcé

La page Détails du pipeline (Pipeline Details) pour les pipelines en arrêt forcé affiche un onglet d'informations. De plus, selon le point auquel ce pipeline a été arrêté, la page des détails du pipeline peut également inclure des journaux.

Vous pouvez effectuer les actions suivantes :

Redémarrer le pipeline.

Supprimer le pipeline

Détails du pipeline réussi

La page Détails du pipeline (Pipeline Details) pour les pipelines réussis affiche un onglet d'informations, des journaux et des sorties de pipeline.

Vous pouvez effectuer les actions suivantes :

Supprimer (Delete) le pipeline.

Supprimer le pipeline

Redémarrer le pipeline.

Journaux (Logs)

Vous pouvez télécharger un rapport d'exécution du pipeline à partir de la section Journaux. Pour ce faire, cliquez sur le bouton Télécharger le rapport de pipeline (Download Pipeline Report).

Pour un dépannage plus rapide, nous vous recommandons de joindre ce rapport lorsque vous soumettez un problème.

Ce rapport réunit toutes les informations nécessaires au débogage d'un problème, y compris l'ID de compte, l'ID de locataire, les AI Units, ainsi que les informations relatives au package et au pipeline concernés.

La capture d'écran ci-dessous vous présente un exemple de rapport sur l'exécution du pipeline.