Ajout d'un nœud d'agent dédié avec prise en charge GPU

Remarque :

Automation Suite ne prend actuellement en charge que les pilotes GPU Nvidia. Consultez la liste des systèmes d'exploitation compatibles avec le GPU.

Pour plus d'informations sur les types d'instances spécifiques au cloud, consultez les pages suivantes :

• AWS
• Azure
• GCP

Avant d'ajouter un nœud d'agent dédié avec prise en charge GPU, assurez-vous de vérifier la configuration matérielle requise.

Installation d'un pilote GPU sur la machine

Remarque :

• Les instructions suivantes s’appliquent aux installations d’Automation Suite en ligne et hors ligne. Dans le cas des installations hors ligne, vous devez assurer un accès temporaire à Internet afin de récupérer les dépendances requises du pilote GPU. Si vous rencontrez des problèmes lors de l’installation du pilote GPU, contactez l’assistance Nvidia.

• Le pilote GPU est stocké dans les dossiers /opt/nvidia et /usr. Il est fortement recommandé que la taille de ces dossiers soit d’au moins 5 Gio et 15 Gio, respectivement, sur la machine de l’agent GPU.

1. Pour installer le pilote GPU sur le nœud de l'agent, exécutez la commande suivante :

   sudo yum install kernel kernel-tools kernel-headers kernel-devel 
   sudo reboot
   sudo yum install https://dl.fedoraproject.org/pub/epel/epel-release-latest-8.noarch.rpm
   sudo sed 's/$releasever/8/g' -i /etc/yum.repos.d/epel.repo
   sudo sed 's/$releasever/8/g' -i /etc/yum.repos.d/epel-modular.repo
   sudo yum config-manager --add-repo http://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/cuda-rhel8.repo
   sudo yum install cuda

2. Pour installer les boîtes à outils de conteneur, exécutez la commande suivante :

   curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
           sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo
           sudo yum-config-manager --enable nvidia-container-toolkit-experimental
           sudo yum install -y nvidia-container-toolkit

Vérifiez si les pilotes ont été correctement installés

Exécutez la commande sudo nvidia-smi sur le nœud pour vérifier si les pilotes ont été installés correctement.

Remarque : Une fois le cluster enregistré, des étapes supplémentaires sont nécessaires pour configurer les GPU enregistrés.

À ce stade, les pilotes GPU ont été installés et les nœuds GPU ont été ajoutés au cluster.

Ajouter un nœud GPU au cluster

Première étape : configurer la machine

Suivez les étapes de configuration de la machine pour vous assurer que le disque est correctement partitionné et que toutes les exigences de mise en réseau sont remplies.

• Configuration de la machine pour une configuration en mode d'évaluation à nœud unique
• Configuration de la machine pour une configuration en mode de production multi-nœuds compatible haute disponibilité

Étape 2 : copie du programme d'installation interactif sur la machine cible

Pour une installation en ligne

1. SSH vers n'importe quelle machine du serveur.
2. Exécutez la commande suivante pour copier le contenu du dossier UiPathAutomationSuite dans la tâche nœud GPU (GPU node) (le nom d'utilisateur et le DNS sont spécifiques au nœud GPU) :

   sudo su -
   scp -r /opt/UiPathAutomationSuite <username>@<node dns>:/opt/
   scp -r ~/* <username>@<node dns>:/opt/UiPathAutomationSuite/

Pour une installation hors ligne

1. SSH vers n'importe quel nœud du serveur.
2. Assurez-vous que le répertoire /opt/UiPathAutomationSuite contient le fichier sf-infra.tar.gz (fait partie de l'étape de téléchargement du package d'installation )

   scp -r ~/opt/UiPathAutomationSuite <username>@<node dns>:/var/tmp

Troisième étape : exécuter l'assistant d'installation interactif pour configurer le nœud dédié

Pour une installation en ligne

1. SSH vers le nœud GPU (GPU Node).
2. Exécutez les commandes suivantes :

   sudo su -
   cd /opt/UiPathAutomationSuite
   chmod -R 755 /opt/UiPathAutomationSuite
   yum install unzip jq -y
   CONFIG_PATH=/opt/UiPathAutomationSuite/cluster_config.json 
   
   UNATTENDED_ACTION="accept_eula,download_bundle,extract_bundle,join_gpu" ./installUiPathAS.sh

Pour une installation hors ligne

1. Connectez-vous via SSH au nœud dédié du GPU.
2. Installez le bundle de plate-forme sur le nœud dédié du GPU à l'aide du script suivant :

   sudo su 
   mv /var/tmp/UiPathAutomationSuite /opt
   cd /opt/UiPathAutomationSuite
   chmod -R 755 /opt/UiPathAutomationSuite
   
   ./install-uipath.sh -i ./cluster_config.json -o ./output.json -k -j gpu --offline-bundle ./sf-infra.tar.gz --offline-tmp-folder /opt/UiPathAutomationSuite/tmp --install-offline-prereqs --accept-license-agreement

Configuration du pilote GPU sur le cluster

Étape 1 : Installer le pilote GPU sur le cluster

1. Assurez-vous que vous disposez d'une connexion SSH vers la machine GPU.
2. Mettez à jour la configuration contianerd du nœud GPU en exécutant les commandes suivantes :

   cat <<EOF > gpu_containerd.sh
   if ! nvidia-smi &>/dev/null;
   then
     echo "GPU Drivers are not installed on the VM. Please refer the documentation."
     exit 0
   fi
   if ! which nvidia-container-runtime &>/dev/null;
   then
     echo "Nvidia container runtime is not installed on the VM. Please refer the documentation."
     exit 0 
   fi
   grep "nvidia-container-runtime" /var/lib/rancher/rke2/agent/etc/containerd/config.toml &>/dev/null && info "GPU containerd changes already applied" && exit 0
   awk '1;/plugins.cri.containerd]/{print "  default_runtime_name = \"nvidia-container-runtime\""}' /var/lib/rancher/rke2/agent/etc/containerd/config.toml > /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   echo -e '\n[plugins.linux]\n  runtime = "nvidia-container-runtime"' >> /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   echo -e '\n[plugins.cri.containerd.runtimes.nvidia-container-runtime]\n  runtime_type = "io.containerd.runc.v2"\n  [plugins.cri.containerd.runtimes.nvidia-container-runtime.options]\n    BinaryName = "nvidia-container-runtime"' >> /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   EOF

   sudo bash gpu_containerd.sh

3. Redémarrez rke2-agent en exécutant les commandes suivantes :

   systemctl restart rke2-agent

Étape 2 : Activer le GPU dans le cluster

1. Exécutez les commandes suivantes à partir de n'importe quel nœud de serveur.
2. Accédez au dossier UiPathAutomationSuite.

   cd /opt/UiPathAutomationSuite

Activation du GPU dans une installation en ligne

DOCKER_REGISTRY_URL=$(cat defaults.json | jq -er ".registries.docker.url")
sed -i "s/REGISTRY_PLACEHOLDER/${DOCKER_REGISTRY_URL}/g" ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl apply -f ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl -n kube-system rollout restart daemonset nvidia-device-plugin-daemonset

Activation du GPU dans une installation hors ligne

DOCKER_REGISTRY_URL=localhost:30071
sed -i "s/REGISTRY_PLACEHOLDER/${DOCKER_REGISTRY_URL}/g" ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl apply -f ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl -n kube-system rollout restart daemonset nvidia-device-plugin-daemonset