GPU がサポートされた専用のエージェント ノードを追加する

注:

Automation Suite currently supports only Nvidia GPU drivers. See the list of GPU-supported operating systems.

クラウド固有のインスタンスの種類について詳しくは、以下をご覧ください。

• AWS
• Azure
• GCP

Before adding a dedicated agent node with GPU support, make sure to check Hardware requirements.

マシンに GPU ドライバーをインストールする

注:

• 以下の手順は、Automation Suite のオンライン インストールとオフライン インストールの両方に適用されます。オフライン インストールの場合は、必要な GPU ドライバーの依存関係を取得するために、一時的なインターネット アクセスを確保する必要があります。GPU ドライバーのインストール中に問題が発生した場合は、NVIDIA のサポートにお問い合わせください。
• GPU ドライバーは、 /opt/nvidia フォルダーと /usr フォルダーに保存されています。GPU エージェント マシンでは、それぞれ 5 GB 以上と 15 GB 以上のフォルダーを使用することを強くお勧めします。

1. エージェント ノードに GPU ドライバーをインストールするには、次のコマンドを実行します。

   sudo yum install kernel kernel-tools kernel-headers kernel-devel
   sudo reboot
   sudo yum install https://dl.fedoraproject.org/pub/epel/epel-release-latest-8.noarch.rpm
   sudo sed 's/$releasever/8/g' -i /etc/yum.repos.d/epel.repo
   sudo sed 's/$releasever/8/g' -i /etc/yum.repos.d/epel-modular.repo
   sudo yum config-manager --add-repo http://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/cuda-rhel8.repo
   sudo yum install cuda
   

2. コンテナー ツールキットをインストールするには、次のコマンドを実行します。

   curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
           sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo
           sudo yum-config-manager --enable nvidia-container-toolkit-experimental
           sudo yum install -y nvidia-container-toolkit
   

ドライバーが正常にインストールされているかどうかを確認します。

ノード上で sudo nvidia-smi コマンドを実行し、ドライバーが適切にインストールされたかどうかを確認します。

注:

クラスターがプロビジョニングされた後、プロビジョニングされた GPU を構成するには追加の手順が必要です。

この時点で、GPU ドライバーがインストールされ、GPU ノードがクラスターに追加されています。

クラスターに新しいノードを追加する

手順 1: マシンを構成する

ディスクが正しくパーティション分割され、すべてのネットワーク要件が満たされるよう、マシンを構成する手順を実行します。

• シングルノードの評価設定用にマシンを構成する
• マルチノードの HA 対応の運用環境の設定用にマシンを構成する

手順 2: 対話型インストーラーを対象マシンにコピーする

オンライン インストールの場合

1. 任意のサーバー マシンに SSH 接続します。

2. 次のコマンドを実行して、UiPathAutomationSuite フォルダーの内容を GPU ノードにコピーします (ユーザー名と DNS は GPU ノードに固有です)。

   sudo su -
   scp -r /opt/UiPathAutomationSuite <username>@<node dns>:/opt/
   scp -r ~/* <username>@<node dns>:/opt/UiPathAutomationSuite/
   

For Offline Installation

1. 任意のサーバー ノードに SSH 接続します。

2. Ensure that the /opt/UiPathAutomationSuite directory contains sf-infra.tar.gz file (it is part of the installation package download step )

   scp -r ~/opt/UiPathAutomationSuite <username>@<node dns>:/var/tmp
   

Step 3: Running the Interactive Installation Wizard to Configure the Dedicated Node

オンライン インストールの場合

1. GPU ノードに SSH 接続します。

2. 次のコマンドを実行します:

   sudo su -
   cd /opt/UiPathAutomationSuite
   chmod -R 755 /opt/UiPathAutomationSuite
   yum install unzip jq -y
   CONFIG_PATH=/opt/UiPathAutomationSuite/cluster_config.json
   
   UNATTENDED_ACTION="accept_eula,download_bundle,extract_bundle,join_gpu" ./installUiPathAS.sh
   

For Offline Installation

1. SSH を介して GPU 専用ノードに接続します。

2. 次のスクリプトを使用して、GPU 専用のノードにプラットフォーム バンドルをインストールします。

   sudo su
   mv /var/tmp/UiPathAutomationSuite /opt
   cd /opt/UiPathAutomationSuite
   chmod -R 755 /opt/UiPathAutomationSuite
   
   ./install-uipath.sh -i ./cluster_config.json -o ./output.json -k -j gpu --offline-bundle ./sf-infra.tar.gz --offline-tmp-folder /opt/UiPathAutomationSuite/tmp --install-offline-prereqs --accept-license-agreement
   

Configuring the GPU Driver on the Cluster

手順 1: クラスター上に GPU ドライバーをインストールする

1. GPU マシンに SSH 接続していることを確認します。

2. 次のコマンドを実行して、GPU ノードの contianerd 構成を更新します。

   cat <<EOF > gpu_containerd.sh
   if ! nvidia-smi &>/dev/null;
   then
     echo "GPU Drivers are not installed on the VM. Please refer the documentation."
     exit 0
   fi
   if ! which nvidia-container-runtime &>/dev/null;
   then
     echo "Nvidia container runtime is not installed on the VM. Please refer the documentation."
     exit 0
   fi
   grep "nvidia-container-runtime" /var/lib/rancher/rke2/agent/etc/containerd/config.toml &>/dev/null && info "GPU containerd changes already applied" && exit 0
   awk '1;/plugins.cri.containerd]/{print "  default_runtime_name = \"nvidia-container-runtime\""}' /var/lib/rancher/rke2/agent/etc/containerd/config.toml > /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   echo -e '\n[plugins.linux]\n  runtime = "nvidia-container-runtime"' >> /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   echo -e '\n[plugins.cri.containerd.runtimes.nvidia-container-runtime]\n  runtime_type = "io.containerd.runc.v2"\n  [plugins.cri.containerd.runtimes.nvidia-container-runtime.options]\n    BinaryName = "nvidia-container-runtime"' >> /var/lib/rancher/rke2/agent/etc/containerd/config.toml.tmpl
   EOF
   

   sudo bash gpu_containerd.sh
   

3. 3次のコマンドを実行して rke2-agent を再起動します。

   systemctl restart rke2-agent
   

Step 2: Enabling the GPU in the Cluster

1. 任意のサーバー ノードから、次のコマンドを実行します。

2. UiPathAutomationSuite フォルダーに移動します。

   cd /opt/UiPathAutomationSuite
   

Enabling the GPU in an Online Installation

DOCKER_REGISTRY_URL=$(cat defaults.json | jq -er ".registries.docker.url")
sed -i "s/REGISTRY_PLACEHOLDER/${DOCKER_REGISTRY_URL}/g" ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl apply -f ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl -n kube-system rollout restart daemonset nvidia-device-plugin-daemonset

オフライン インストールで GPU を有効化する

DOCKER_REGISTRY_URL=localhost:30071
sed -i "s/REGISTRY_PLACEHOLDER/${DOCKER_REGISTRY_URL}/g" ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl apply -f ./Infra_Installer/gpu_plugin/nvidia-device-plugin.yaml
kubectl -n kube-system rollout restart daemonset nvidia-device-plugin-daemonset