Adicionando um nó de agente dedicado com suporte a GPU

Observação:

Atualmente, o Automation Suite suporta apenas drivers de GPU Nvidia. Consulte a lista de sistemas operacionais compatíveis com GPU.

Para saber mais sobre os tipos de instância específicos da nuvem, consulte o seguinte:

• AWS
• Azure
• GCP

Antes de adicionar um nó agente dedicado com suporte a GPU, verifique os Requisitos de hardware.

Instalando um driver de GPU na máquina

Observação:

• As instruções a seguir aplicam-se a instalações online e offline do Automation Suite. No caso de instalações offline, você deve garantir acesso temporário à Internet para recuperar as dependências de drivers de GPU necessárias. Se encontrar problemas ao instalar o driver da GPU, entre em contato com o suporte da Nvidia.

• O driver de GPU é armazenado nas pastas /opt/nvidiae /usr. É altamente recomendável que essas pastas tenham pelo menos 5 GiB e 15 GiB, respectivamente, na máquina de agente GPU.

1. Para instalar o driver da GPU no nó do agente, execute o seguinte comando:

   sudo yum install kernel kernel-tools kernel-headers kernel-devel 
   sudo reboot
   sudo yum install https://dl.fedoraproject.org/pub/epel/epel-release-latest-8.noarch.rpm
   sudo sed 's/$releasever/8/g' -i /etc/yum.repos.d/epel.repo
   sudo sed 's/$releasever/8/g' -i /etc/yum.repos.d/epel-modular.repo
   sudo yum config-manager --add-repo http://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/cuda-rhel8.repo
   sudo yum install cuda

2. Para instalar os kits de ferramentas do contêiner, execute o seguinte comando:

   curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
           sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo
           sudo yum-config-manager --enable nvidia-container-toolkit-experimental
           sudo yum install -y nvidia-container-toolkit

Verifique se os drivers estão instalados corretamente

Correr sudo nvidia-smicomando no nó para verificar se os drivers foram instalados corretamente.

Observação: depois que o cluster for provisionado, serão necessárias etapas adicionais para configurar as GPUs.

Neste ponto, os drivers da GPU foram instalados e os nós da GPU foram adicionados ao cluster.

Adicionando um nó de GPU ao cluster

Etapa 1: Configurando a máquina

Siga as etapas para configurar a máquina para garantir que o disco seja particionado corretamente e que todos os requisitos de rede sejam atendidos.

• Configurando a máquina para uma configuração de avaliação de nó único
• Configurando a máquina para uma configuração de produção pronta para alta disponibilidade de vários nós

Step 2: Copying the interactive installer to the target machine

Para instalação online

1. SSH para qualquer máquina do servidor.
2. Execute o seguinte comando para copiar o conteúdo da pasta UiPathAutomationSuite para o nó de GPU (nome de usuário e DNS são específicos para o nó de GPU):

   sudo su -
   scp -r /opt/UiPathAutomationSuite <username>@<node dns>:/opt/
   scp -r ~/* <username>@<node dns>:/opt/UiPathAutomationSuite/

Para instalação offline

1. Faça SSH em qualquer nó de servidor.
2. Certifique-se de que o diretório /opt/UiPathAutomationSuite contém o arquivo sf-infra.tar.gz (isso faz parte da etapa de download do pacote de instalação)

   scp -r ~/opt/UiPathAutomationSuite <username>@<node dns>:/var/tmp

Etapa 3: Executar o assistente de instalação interativo para configurar o nó dedicado

Para instalação online

1. Faça SSH no nó de GPU.
2. Execute os seguintes comandos:

   sudo su -
   cd /opt/UiPathAutomationSuite
   chmod -R 755 /opt/UiPathAutomationSuite
   yum install unzip jq -y
   CONFIG_PATH=/opt/UiPathAutomationSuite/cluster_config.json 
   
   UNATTENDED_ACTION="accept_eula,download_bundle,extract_bundle,join_gpu" ./installUiPathAS.sh

Para instalação offline

1. Conecte-se via SSH ao nó dedicado de GPU.
2. Instale o pacote de plataforma no nó dedicado da GPU usando o seguinte script:

   sudo su 
   mv /var/tmp/UiPathAutomationSuite /opt
   cd /opt/UiPathAutomationSuite
   chmod -R 755 /opt/UiPathAutomationSuite
   
   ./install-uipath.sh -i ./cluster_config.json -o ./output.json -k -j gpu --offline-bundle ./sf-infra.tar.gz --offline-tmp-folder /opt/UiPathAutomationSuite/tmp --install-offline-prereqs --accept-license-agreement

Configurando o driver da GPU no cluster

Etapa 1: instalar o driver da GPU no cluster

1. Certifique-se de que você está fazendo SSH na máquina de GPU.
2. Atualize a contianerdconfiguração do nó do GPU executando os seguintes comandos:

   cat <<EOF > gpu_containerd.sh
   if ! nvidia-smi &>/dev/null;
   then
     echo "GPU Drivers are not installed on the VM. Please refer the documentation."
     exit 0
   fi
   if ! which nvidia-container-runtime &>/dev/null;
   then
     echo "Nvidia container runtime is not installed on the VM. Please refer the documentation."
     exit 0 
   fi
   grep "nvidia-container-runtime" /var/lib/rancher/rke2/agent/etc/containerd/config.toml &>/dev/null && info "GPU containerd changes already applied" && exit 0
   awk '1;/plugins.cri.containerd]/{print "  default_runtime_name = \"nvidia-container-runtime\""}' /var/lib/rancher/rke2/agent/etc/containerd/config.toml > /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   echo -e '\n[plugins.linux]\n  runtime = "nvidia-container-runtime"' >> /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   echo -e '\n[plugins.cri.containerd.runtimes.nvidia-container-runtime]\n  runtime_type = "io.containerd.runc.v2"\n  [plugins.cri.containerd.runtimes.nvidia-container-runtime.options]\n    BinaryName = "nvidia-container-runtime"' >> /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   EOF

   sudo bash gpu_containerd.sh

3. Reinicie rke2-agent executando os seguintes comandos:

   systemctl restart rke2-agent

Etapa 2: habilitar a GPU no cluster

1. Execute os comandos a seguir de qualquer um dos nós de servidor.
2. Navegue até a UiPathAutomationSuitepasta.

   cd /opt/UiPathAutomationSuite

Habilitando a GPU em uma instalação online

DOCKER_REGISTRY_URL=$(cat defaults.json | jq -er ".registries.docker.url")
sed -i "s/REGISTRY_PLACEHOLDER/${DOCKER_REGISTRY_URL}/g" ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl apply -f ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl -n kube-system rollout restart daemonset nvidia-device-plugin-daemonset

Habilitando a GPU em uma instalação offline

DOCKER_REGISTRY_URL=localhost:30071
sed -i "s/REGISTRY_PLACEHOLDER/${DOCKER_REGISTRY_URL}/g" ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl apply -f ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl -n kube-system rollout restart daemonset nvidia-device-plugin-daemonset