Inclusión de un nodo agente dedicado compatible con GPU

Nota:

En la actualidad, Automation Suite solo es compatible con los controladores de GPU Nvidia. Consulta la lista de sistemas operativos compatibles con la GPU.

Para obtener más información sobre los tipos de instancia específicos de la nube, consulte lo siguiente:

• AWS
• Azure
• GCP

Antes de añadir un nodo agente dedicado compatible con GPU, comprueba los Requisitos de hardware.

Instalar un controlador de GPU en la máquina

Nota:

• Las siguientes instrucciones se aplican tanto a las instalaciones de Automation Suite en línea como sin conexión. En el caso de las instalaciones sin conexión, debes garantizar el acceso temporal a Internet para recuperar las dependencias del controlador de GPU necesarias. Si tienes problemas al instalar el controlador de la GPU, ponte en contacto con el soporte de Nvidia.

• El controlador de la GPU se almacena en las carpetas /opt/nvidia y /usr. Se recomienda encarecidamente que estas carpetas tengan al menos 5 GiB y 15 GiB, respectivamente, en la máquina del agente de la GPU.

1. Para instalar el controlador de GPU en el nodo agente, ejecute el siguiente comando:

   sudo yum install kernel kernel-tools kernel-headers kernel-devel 
   sudo reboot
   sudo yum install https://dl.fedoraproject.org/pub/epel/epel-release-latest-8.noarch.rpm
   sudo sed 's/$releasever/8/g' -i /etc/yum.repos.d/epel.repo
   sudo sed 's/$releasever/8/g' -i /etc/yum.repos.d/epel-modular.repo
   sudo yum config-manager --add-repo http://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/cuda-rhel8.repo
   sudo yum install cuda

2. Para instalar los kits de herramientas para contenedores, ejecute el siguiente comando:

   curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
           sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo
           sudo yum-config-manager --enable nvidia-container-toolkit-experimental
           sudo yum install -y nvidia-container-toolkit

Compruebe si los controladores se han instalado correctamente.

Ejecute el comando sudo nvidia-smi en el nodo para comprobar si los controladores se instalaron correctamente.

Nota: una vez aprovisionado el clúster, se requieren pasos adicionales para configurar las GPU aprovisionadas.

Llegados a este punto, los controladores de GPU ya se han instalado y se han añadido los nodos de GPU al clúster.

Inclusión de un nodo de GPU al clúster

Paso 1: Configurar la máquina

Siga estos pasos para configurar la máquina de forma que el disco se particione correctamente y se cumplan todos los requisitos de red.

• Configurar la máquina para una configuración de evaluación de nodo único
• Configurar la máquina para una configuración de producción multinodo preparado para HA

Step 2: Copying the interactive installer to the target machine

Para la instalación en línea

1. SSH a cualquier máquina del servidor.
2. Ejecute el siguiente comando para copiar el contenido de la carpeta UiPathAutomationSuite en el nodo de GPU (el nombre de usuario y el DNS son específicos del nodo de GPU):

   sudo su -
   scp -r /opt/UiPathAutomationSuite <username>@<node dns>:/opt/
   scp -r ~/* <username>@<node dns>:/opt/UiPathAutomationSuite/

Para la instalación sin conexión

1. SSH a cualquier nodo de servidor.
2. Asegúrate de que el directorio /opt/UiPathAutomationSuite contenga el archivo sf-infra.tar.gz (forma parte del paso de descarga del paquete de instalación )

   scp -r ~/opt/UiPathAutomationSuite <username>@<node dns>:/var/tmp

Paso 3: Ejecutar el asistente de configuración interactivo para configurar el nodo dedicado

Para la instalación en línea

1. SSH al nodo de GPU.
2. Ejecuta los siguientes comandos:

   sudo su -
   cd /opt/UiPathAutomationSuite
   chmod -R 755 /opt/UiPathAutomationSuite
   yum install unzip jq -y
   CONFIG_PATH=/opt/UiPathAutomationSuite/cluster_config.json 
   
   UNATTENDED_ACTION="accept_eula,download_bundle,extract_bundle,join_gpu" ./installUiPathAS.sh

Para la instalación sin conexión

1. Conéctese mediante SSH al nodo dedicado de GPU.
2. Instale el paquete de la plataforma en el nodo dedicado de GPU utilizando el siguiente script:

   sudo su 
   mv /var/tmp/UiPathAutomationSuite /opt
   cd /opt/UiPathAutomationSuite
   chmod -R 755 /opt/UiPathAutomationSuite
   
   ./install-uipath.sh -i ./cluster_config.json -o ./output.json -k -j gpu --offline-bundle ./sf-infra.tar.gz --offline-tmp-folder /opt/UiPathAutomationSuite/tmp --install-offline-prereqs --accept-license-agreement

Configurar del controlador de GPU en el clúster

Paso 1: Instalar el controlador de GPU en el clúster

1. Confirme que se ha conectado a la máquina GPU mediante SSH.
2. Actualice la configuración contianerd del nodo de GPU ejecutando los siguientes comandos:

   cat <<EOF > gpu_containerd.sh
   if ! nvidia-smi &>/dev/null;
   then
     echo "GPU Drivers are not installed on the VM. Please refer the documentation."
     exit 0
   fi
   if ! which nvidia-container-runtime &>/dev/null;
   then
     echo "Nvidia container runtime is not installed on the VM. Please refer the documentation."
     exit 0 
   fi
   grep "nvidia-container-runtime" /var/lib/rancher/rke2/agent/etc/containerd/config.toml &>/dev/null && info "GPU containerd changes already applied" && exit 0
   awk '1;/plugins.cri.containerd]/{print "  default_runtime_name = \"nvidia-container-runtime\""}' /var/lib/rancher/rke2/agent/etc/containerd/config.toml > /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   echo -e '\n[plugins.linux]\n  runtime = "nvidia-container-runtime"' >> /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   echo -e '\n[plugins.cri.containerd.runtimes.nvidia-container-runtime]\n  runtime_type = "io.containerd.runc.v2"\n  [plugins.cri.containerd.runtimes.nvidia-container-runtime.options]\n    BinaryName = "nvidia-container-runtime"' >> /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   EOF

   sudo bash gpu_containerd.sh

3. Reinicia rke2-agent ejecutando los siguientes comandos:

   systemctl restart rke2-agent

Paso 2: Activar la GPU en el clúster

1. Ejecute los siguientes comandos desde cualquiera de los nodos de servidor.
2. Diríjase a la carpeta UiPathAutomationSuite.

   cd /opt/UiPathAutomationSuite

Activar la GPU en una instalación en línea

DOCKER_REGISTRY_URL=$(cat defaults.json | jq -er ".registries.docker.url")
sed -i "s/REGISTRY_PLACEHOLDER/${DOCKER_REGISTRY_URL}/g" ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl apply -f ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl -n kube-system rollout restart daemonset nvidia-device-plugin-daemonset

Activar la GPU en una instalación sin conexión

DOCKER_REGISTRY_URL=localhost:30071
sed -i "s/REGISTRY_PLACEHOLDER/${DOCKER_REGISTRY_URL}/g" ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl apply -f ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl -n kube-system rollout restart daemonset nvidia-device-plugin-daemonset