Gerenciamento de pipelines

Criação de pipelines

1. Na página Pipelines, clique no botão Criar novo. A página Criar nova execução do pipeline é exibida.

   Como alternativa, nos Detalhes do pacote de ML de um pacote específico, selecione as Execuções do pipeline e, em seguida, clique no botão Criar novo. A página Criar nova execução do pipeline é exibida.

2. Na página Criar nova execução do pipeline, selecione o tipo da execução do pipeline. As opções disponíveis são Execução de treinamento, Execução de avaliação e Execução do pipeline completo.
3. Adicione um nome de exibição para a execução do pipeline.
4. Selecione o pacote para a execução do pipeline.
5. Selecione as versões principal e secundária do pacote.
6. Selecione os conjuntos de dados. De acordo com o tipo de pipeline selecionado, os seguintes conjuntos de dados devem ser especificados:
   • Para pipeline de treinamento, especifique o conjunto de dados de entrada.
   • Para pipeline de avaliação, especifique o conjunto de dados de avaliação.
   • Para a execução do pipeline completo, especifique o conjunto de dados de entrada e o conjunto de dados de avaliação.
7. (Opcional): insira os parâmetros para as execuções do pipeline. Clique em Adicionar novo para exibir a seção Parâmetros e, em seguida, insira a variável de ambiente e seu valor correspondente. Vários parâmetros são aceitos.
8. Selecione se o pipeline requer uma GPU. Por padrão, ele é definido como Não.
   Observação: se você estiver usando o modelo de licenciamento de AI Units, o custo por hora das AI Units é exibido abaixo do botão Habilitar GPU. Dependendo se você escolheu usar uma GPU ou não, o custo por hora muda.
   Observação: você pode enfileirar pipelines com base nos recursos da GPU. Para obter mais informações, consulte Configuração do enfileiramento para recursos da GPU.
9. Selecione quando o pipeline deve ser executado. As opções possíveis são:
   • Executar agora — o pipeline começa a ser executado imediatamente após sua criação.
   • Com base no tempo — o pipeline começa a ser executado na data e na hora que você especificar nos campos Data e Hora.
   • Recorrente - o pipeline começa a ser executado de acordo com o agendamento recorrente que você configurou na janela Definir agendamento recorrente. É possível configurá-lo para ser executado em dias úteis específicos em um determinado momento ou é possível usar expressões CRON.

   Leia aqui mais informações sobre o agendamento de pipelines.

10. Clique em Criar para criar o pipeline ou em Cancelar para anular o processo. A página Criar nova execução do pipeline é fechada.
    
    

    

    
    

O pipeline é criado e exibido juntamente com seus detalhes na página Pipelines e na guia Execuções do pipeline dos Detalhes do pecote de ML do pipeline selecionado. O pipeline é executado de acordo com o período de tempo que você escolheu ao criá-lo.

Agendamento de pipelines

Durante a criação, qualquer tipo de pipeline pode ser agendado em uma única data e hora futura ou com um agendamento recorrente. Por exemplo, um agendamento pode ser definido para que um pipeline seja executado aos domingos à 1h. Isso permite que os modelos sejam atualizados continuamente, pois os dados são enviados de volta às tarefas com participação de seres humanos e, adicionalmente, permite o uso mais eficiente das licenças AI Units.

⏲ Para criar um pipeline a ser agendado em uma única data futura, selecione a opção Baseado no tempo na página Criar nova execução do pipeline.

📅 Para criar um pipeline com um agendamento recorrente, selecione a opção Recorrente na página Criar nova execução do pipeline.

⚙ Um agendamento mais complexo do que o diário em algum momento pode ser definido selecionando a guia Avançado na janela Definir agendamento recorrente e inserindo uma expressão CRON. Há muitas ferramentas online gratuitas para gerar facilmente expressões CRON.

Configuração do enfileiramento para recursos da GPU

Existem clusters com recursos limitados, especialmente considerando o número de GPUs implantadas.

O mecanismo de fila gerencia as solicitações de uso da GPU, monitora o status da GPU e executa as solicitações quando uma GPU fica disponível. O gerenciamento de recursos melhora a eficiência nas solicitações de rastreamento e reinicialização.

Para configurar o Enfileiramento de recursos da GPU:

1. Vá para Aplicativos do ArgoCD AICenter .
   
   

   

   
   
2. Clique no botão Detalhes do aplicativo para ver os detalhes do aplicativo.
   
   

   

   
   
3. Clique na guia Parâmetros para ver os parâmetros e seus detalhes.
   
   

   

   
   

• global.waitQueue.gpuCount Defina como o número de recursos de GPU disponíveis para treinamento do modelo.
• global.waitQueue.queueLength Defina como o comprimento máximo da fila. Além disso, novas solicitações não serão enfileiradas. O comprimento recomendado da fila é de 5 *numGPUs.

Habilitação de recursos

Defina a propriedade global.waitQueue.enabled como verdadeira.

Configuração

Opcional: altere global.waitQueue.gpuCount ou global.waitQueue.queueLength.

Funcionalidade

A funcionalidade agora está habilitada. Se você disparar 2 pipelines de GPU consecutivos, um estará aguardando o outro ser concluído.

Edição dos pipelines agendados

É possível editar apenas pipelines que ainda não foram executados.

1. Acesse a página Detalhes do pipeline.
   • Na página Pipelines, clique em ⁝ ao lado de um pipeline agendado e selecione Detalhes.
   • Em Detalhes do pacote de ML de um pacote específico, selecione a guia Execuções do pipeline, clique em ⁝ ao lado de um pipeline agendado e selecione Detalhes. A página Detalhes do pipeline é exibida.
2. Clique em Editar pipeline. A página Editar execução do pipeline é exibida.
3. É possível alterar o nome do pipeline, o diretório de dados do pipeline agendado, bem como o agendamento recorrente.
4. Clique em Enviar para salvar as alterações. O pipeline agendado é exibido na página Pipelines com suas informações atualizadas.

Remoção de pipelines

1. Remover um pipeline.
   • Na página Pipelines, clique em ⁝ ao lado de um pipeline e selecione Remover.
   • Nos Detalhes do pacote de ML de um pacote específico, selecione a aba Execuções do pipeline, clique em ⁝ ao lado de um pipeline e selecione Remover. Uma caixa de diálogo de confirmação é exibida.
2. Clique em OK para excluir o pipeline.
   Observação:

   A remoção de um pipeline Empacotando, Aguardando recursos ou Executando, primeiro o interrompe e, em seguida, o remove.

   Se você apenas quiser interromper um pipeline Empacotando, Aguardando recursos ou Executando e olhar para os seus logs, clique em ⁝ ao lado dele e selecione a opção Detalhes para navegar até a página Detalhes do pipeline correspondente. É possível interromper o pipeline dali.

Visualização de detalhes do pipeline

É possível consultar mais informações sobre um pipeline específico ou executar outras ações.

• Na página Pipelines, clique em ⁝ ao lado de um pipeline agendado e selecione Detalhes.

• Em Detalhes do pacote de ML de um pacote específico, selecione a guia Execuções do pipeline, clique em ⁝ ao lado de um pipeline agendado e selecione Detalhes. A página Detalhes do pipeline é exibida.
• Ou, se um pacote de ML for gerado por um pipeline, você poderá acessar todas as informações relacionadas ao pipeline diretamente da janela Pacote de ML, clicando no menu de três pontos ⁝ e em Detalhes do pipeline. Isso está disponível apenas para novos pipelines.

As informações exibidas e as ações que você pode executar aqui dependem do status do pipeline.

Detalhes do pipeline agendado

A página Detalhes do pipeline para pipelines agendados mostra uma guia Informações.

É possível executar as seguintes ações:

Excluir o pipeline.

Editar o pipeline. Na página Editar execução do pipeline exibida, quaisquer campos podem ser atualizados. Selecionar Executar agora não cria um novo pipeline; em vez disso, ele executa esse pipeline imediatamente, removendo-o da lista de pipelines agendados.

Detalhes do pipeline Pacotes

A página Detalhes do pipeline para pipelines Pacotes mostra uma guia Informações.

É possível executar a seguinte ação:

Eliminar o pipeline. Isso interrompe a execução do pipeline; assim, ele não será executado e não consumirá AI Units. Seu status muda para Eliminado.

Detalhes do pipeline Aguardando recursos

A página Detalhes do pipeline para pipelines Aguardando recursos mostra uma guia Informações.

É possível executar a seguinte ação:

Eliminar o pipeline. Isso remove o pipeline da fila; portanto, ele não será executado e não consumirá AI Units. Seu status muda para Eliminado.

Detalhes do pipeline em execução

A página Detalhes do pipeline para pipelines em execução mostra uma guia Informações e logs em tempo real.

É possível executar a seguinte ação:

Eliminar o pipeline. Isso interrompe o pipeline e muda seu status para Eliminado. Os logs mostram o instantâneo no momento em que a ação de eliminação foi executada.

Detalhes do pipeline com falha

A página Detalhes do pipeline para pipelines com falha mostra uma guia Informações e logs. Dependendo do estágio no qual esse pipeline falhou, as saídas do pipeline (parciais) são exibidas.

É possível executar a seguinte ação:

Reinicie o pipeline. Isso adiciona um novo pipeline à fila, exatamente com os mesmos parâmetros com os quais ele foi criado. Se a fila estiver vazia, o pipeline começa imediatamente a ser executado.

Detalhes do pipeline eliminado

A página Detalhes do pipeline para pipelines Eliminados mostra uma guia Informações. Além disso, dependendo do ponto no qual esse pipeline foi eliminado, a página Detalhes do pipeline também pode incluir logs.

É possível executar as seguintes ações:

Reiniciar o pipeline.

Remover o pipeline.

Detalhes do pipeline bem-sucedido

A página Detalhes do pipeline para pipelines Bem-sucedidos mostra uma guia Informações, logs e saídas do pipeline.

É possível executar as seguintes ações:

Excluir o pipeline.

Remover o pipeline.

Reiniciar o pipeline.

Logs

Você pode baixar um relatório da execução do pipeline na seção Logs. Para isso, clique no botão Baixar relatório do Pipeline.

Recomendamos anexar esse relatório ao enviar um problema para uma solução de problemas mais rápida.

Esse relatório reúne todas as informações necessárias para depurar um problema, incluindo ID da conta, ID de tenant, AI Units e o respectivo pacote e informações do pipeline.

Verifique a captura de tela abaixo para o exemplo do relatório de execução do pipeline.