Kubernetes-Cluster und -Knoten

Cluster und Berechtigungen

Sie können Ihren eigenen Kubernetes-Cluster mitbringen und Ihre Standardpraktiken befolgen, um ihn bereitzustellen und zu verwalten.

Ein Administratorbenutzer muss bestimmte erforderliche Komponenten separat installieren, bevor die Automation Suite-Plattform installiert wird. Nach der Installation der erforderlichen Komponenten können Sie das Installationsprogramm ausführen. Die Liste der erforderlichen Berechtigungen finden Sie unter Erteilen von Installationsberechtigungen.

Knotenkapazität

Um die Knotenkapazität basierend auf Ihren Produkt- und Skalierungsanforderungen zu schätzen, verwenden Sie den Rechner der UiPath Automation Suite zur Installationsskalierung.

Das Stammvolume für Agent-(Worker-)Knoten erfordert 256 GB.

Um mit den obligatorischen Plattformdiensten (Identität, Lizenzierung und Routing) und dem Orchestrator zu beginnen, müssen Sie mindestens 8 vCPU und 16 GB RAM pro Knoten bereitstellen.

Hinweis:

Wir empfehlen aufgrund von Stabilitäts- und Leistungsproblemen nicht, Punktinstanzen in der Automation Suite in Produktionsszenarien zu verwenden.

Automatische Skalierung

Wir empfehlen, die automatische Skalierung in Ihrem Cluster zu aktivieren, um eine hohe Zuverlässigkeit sicherzustellen und Betriebsunterbrechungen zu vermeiden.

Zusätzliche Anforderungen für Automation Suite-Roboter

Automation Suite Robot erfordern zusätzliche Worker-Knoten.

Die Hardwareanforderungen für den Automation Suite-Roboterknoten hängen davon ab, wie Sie Ihre Ressourcen verwenden möchten. Zusätzlich zu den zusätzlichen Agentknotenanforderungen benötigen Sie mindestens 10 GB Dateispeicher, um die Paketzwischenspeicherung zu aktivieren .

Weitere Informationen dazu finden Sie in der Dokumentation zum Speicher .

In den folgenden Abschnitten werden die Faktoren beschrieben, die sich auf die Hardwaremenge auswirken, die der Automation Suite-Roboterknoten benötigt.

Robotergröße

In der folgenden Tabelle werden die erforderliche CPU, der Arbeitsspeicher und der Speicher für alle Robotergrößen beschrieben.

Größe	CPU	Arbeitsspeicher	Speicher
Klein	0,5	1 GB	1 GB
Standard	1	2 GB	2 GB
Mittel	2	4 GB	4 GB
Groß	6	10 GB	10 GB

Größe des Agentknotens

Die Ressourcen des Automation Suite Roboter-Agentknotens wirken sich auf die Anzahl der Aufträge aus, die gleichzeitig ausgeführt werden können. Der Grund dafür ist, dass die Anzahl der CPU-Kerne und die Größe der RAM-Kapazität durch die CPU-/Speicheranforderungen des Auftrags geteilt werden.

Ein Knoten mit 16 CPUs und 32 GB RAM kann beispielsweise Folgendes ausführen:

• 32 kleine Aufträge
• 16 Standardaufträge
• 8 mittlere Aufträge
• Zwei große Aufträge

Auftragsgrößen können gemischt werden, sodass derselbe Knoten zu einem bestimmten Zeitpunkt eine Kombination von Aufträgen ausführen kann, z. B. Folgendes:

• 10 kleine Aufträge (verbrauchen 5 CPUs und 10 GB Arbeitsspeicher)
• 4 Standardaufträge (verbraucht 4 CPUs und 8 GB Arbeitsspeicher)
• 3 mittlere Aufträge (verbraucht 6 CPUs und 12 GB Arbeitsspeicher)

Kubernetes-Ressourcenverbrauch

Da der Knoten Teil eines Kubernetes-Clusters ist, verbraucht der auf dem Server vorhandene Kubernetes-Agent (kubelet) eine geringe Menge an Ressourcen. Basierend auf unseren Messungen verbraucht das Kubelet die folgenden Ressourcen:

• 0,6 CPU
• 0,4 GB RAM

Ein Knoten, der dem zuvor beschriebenen ähnelt, hätte tatsächlich ungefähr 15,4 CPUs und 31,6 GB RAM.

Automatische Auswahl der Maschinengröße

All your cross-platform processes have the Automation Suite Robots option set to Automatic by default. This setting selects the appropriate machine size for running the process using serverless robots.

Bei der automatischen Auswahl der Größe werden die in der folgenden Tabelle aufgeführten Kriterien der Reihe nach bewertet. Sobald ein Kriterium erfüllt ist, wird die entsprechende Maschinengröße gewählt und die übrigen Kriterien werden nicht bewertet.

Reihenfolge	Kriterium	Maschinengröße
1	Remote-Debugging-Auftrag	Mittel
2	Der Prozess hängt von der UI-Automatisierung ODER Der Prozess hängt von den UiPath Document Understanding-Aktivitätenab	Standard
3	Anderer Unattended-Prozess	Klein

Zusätzliche Document Understanding-Empfehlungen

Für eine höhere Leistung können Sie Document Understanding auf einem zusätzlichen Agentknoten mit GPU-Unterstützung installieren. Beachten Sie jedoch, dass AI Center-basierte Projekte in Document Understanding ohne den GPU-Knoten voll funktionsfähig sind. Tatsächlich verwendet Document Understanding CPU-VMs für alle Extraktions- und Klassifizierungsaufgaben, während wir bei der OCR dringend die Verwendung einer GPU-VM empfehlen.

Weitere Informationen zur CPU-/GPU-Auslastung im Document Understanding-Framework finden Sie unter CPU- und GPU-Auslastung.

Wenn Sie einen zusätzlichen Knoten mit GPU-Unterstützung verwenden möchten, müssen Sie die folgenden Anforderungen erfüllen:

Hardware	Mindestanforderungen
Prozessor	8 (v-)CPU/Kerne
RAM	52 GB
Betriebssystemdatenträger	256 GB SSD Min. IOPS: 1100
DataDisk	Keine Angabe
GPU-RAM	11 GB

Beim Hinzufügen des GPU-Knotenpools ist es wichtig, dass Sie --node-taints nvidia.com/gpu=present:NoSchedule anstatt --node-taints sku=gpu:NoSchedule verwenden.

Wichtig:

Um eine ordnungsgemäße Planung von GPU-Workloads sicherzustellen, stellen Sie sicher, dass Ihre YAML-Konfiguration von DaemonSet (NFD oder Nvidia GPU-Operator) einen übereinstimmenden tolerations -Block enthält.

Sie können das folgende Beispiel verwenden:

tolerations:
- key: "nvidia.com/gpu"
operator: "Equal"
value: "present"
effect: "NoSchedule"

Die Automation Suite unterstützt NVIDIA-GPUs. Weitere Informationen zum Konfigurieren von NVIDIA-GPUs (z. B. Treibern) finden Sie in der OpenShift-Dokumentation.

Zusätzliche Anforderungen für moderne Document Understanding-Projekte

Wenn die CPU-Inferenz aktiviert ist, sind mindestens 2 GPUs erforderlich.

Um die CPU-Inferenz zu aktivieren, legen Sie die Eigenschaft enable_cpu_inference auf true fest, wie im Abschnitt Aktivieren oder Deaktivieren von Document Understanding angegeben.

Achtung!

Hinweis:

• Die Inferenz kann bis zu 10-mal langsamer sein.
• Wir empfehlen die Verwendung für Dokumente mit maximal 125 Seiten. Es ist keine aktive Einschränkung vorhanden. Die Inferenz kann jedoch bei Dokumenten fehlschlagen, die größer als 125 Seiten sind.

Ohne CPU-Inferenz sind mindestens 5 GPUs für moderne Document Understanding-Projekte erforderlich. Das Beispielszenario in der folgenden Tabelle zeigt, wie fünf GPUs ausreichen, um 300 Seiten zu verarbeiten.

Hinweis:

Für moderne Document Understanding-Projekte ist die empfohlene Mindest-GPU NVIDIA T4.

Function	Nummer
Benutzerdefinierte Modellseiten, die pro Stunde verarbeitet werden	300
Vorgefertigte Modellseiten, die pro Stunde verarbeitet werden	0
Modelltraining parallel	1
Anzahl der Seiten in allen Projekten – Entwurfszeit	200
Anzahl der Dokumenttypen pro Projektversion	3

Die 5 GPUs sind auf verschiedene Funktionen verteilt, wie in der folgenden Tabelle beschrieben:

Dienst	Anzahl der GPUs
OCR-Replikate	1
Benutzerdefinierte Modelltrainingsreplikate	1
Benutzerdefinierte Modellreplikate	2
Vorgefertigte Modellreplikate	1
Gesamt	5

Zusätzlich zu den GPU-Anforderungen benötigen moderne Document Understanding-Projekte auch bestimmte CPU-Ressourcen für optimale Leistung. Für optimale Leistung sind mindestens 18 vCPUs erforderlich.

Beim modernen Document Understanding-Projekt sind weitere 4 TB der objectstore erforderlich, um die Aktivitäten aus den bereitgestellten Beispielen ein Jahr lang kontinuierlich auszuführen. Sie können mit einer kleineren Zahl beginnen, aber die Aktivität schlägt fehl, sobald die Speicherung abgeschlossen ist, es sei denn, Sie skalieren sie explizit.

Wenn Sie für ein Jahr der kontinuierlichen Verarbeitung bereitstellen, benötigen Sie 4 TB für moderne Document Understanding-Projekte und 512 GB für die anderen Produkte. Das ergibt insgesamt 4,5 TB Speicherplatz. Wenn Sie mit einer sechsmonatigen Verarbeitung beginnen, benötigen Sie ebenfalls 2 TB für moderne Document Understanding-Projekte und 512 GB für die anderen Produkte. In diesem Fall beträgt die Gesamtmenge 2,5 TB.

Hinweis:

Detailliertere Berechnungen und die für Ihre Anforderungen erforderliche Kapazität finden Sie im Rechner der UiPath Automation Suite zur Installationsskalierung.

Bereitstellen von MIG-fähigen GPUs

NVIDIA-Workloads für Document Understanding der Automation Suite unterstützen die Ausführung auf virtuellen GPUs (VPPUs), die mit MIG-Technologie (Multi-Instance GPU) erstellt wurden.

Um Document Understanding unter diesen Bedingungen auszuführen, beachten Sie die folgenden Anforderungen:

• GPU-Speicher (VRAM): mindestens 16 GB pro SVGPU
  Hinweis:

  UiPath unterstützt nur die einzelne Strategie, was bedeutet, dass alle VPPUs genau gleich sind.

• Speicher: mindestens 80 GB pro SVGPU

Aktivieren von MIG-fähigen GPUs in Kubernetes

Nach der Bereitstellung der MIG-fähigen GPUs in Ihrem Cluster mit Profilen, die den oben genannten Mindestanforderungen entsprechen oder diese übertreffen, stellen Sie sicher, dass die GPUs planbare Kubernetes sind. Der Knoten muss eine Anzahl von GPUs ungleich Null melden, bevor Workloads auf ihm geplant werden können.

Um die GPUs planbar zu machen, haben Sie zwei Optionen:

• Option A: Folgen Sie der offiziellen GPU-Setup-Dokumentation Ihres Cloud-Anbieters oder der auf der NVIDIA-Website:
  • NVIDIA-Dokumentation: MIG-Unterstützung in der OpenShift-Containerplattform
  • IBM-Entwicklerdokumentation: Implementieren von NVIDIA MIG in Red Hat OpenShift
• Option B (Alternativ): Stellen Sie das NVIDIA-Geräte-Plugin direkt bereit:
  1. Erstellen Sie einen neuen Namespace:

     kubectl create namespace gpu-resources
     

  2. Wenden Sie die folgende Konfiguration an, indem Sie migEnabledPoolName durch die Beschriftung ersetzen, die Ihrem GPU-Knoten entspricht:

     apiVersion: v1
     kind: Pod
     metadata:
       name: nvidia-device-plugin-pod
       namespace: gpu-resources
     spec:
      affinity:
         nodeAffinity:
           requiredDuringSchedulingIgnoredDuringExecution:
             nodeSelectorTerms:
             - matchExpressions:
               - key: agentpool
                 operator: In
                 values:
                 # To be changed to a selector that matches the GPU nodes
                 - migEnabledPoolName
      containers:
      - args:
        - --fail-on-init-error=false
        env:
        - name: MPS_ROOT
          value: /run/nvidia/mps
        - name: MIG_STRATEGY
           # We only support the single strategy for now
          value: single
        - name: NVIDIA_MIG_MONITOR_DEVICES
          value: all
        - name: NVIDIA_VISIBLE_DEVICES
          value: all
        - name: NVIDIA_DRIVER_CAPABILITIES
          value: compute,utility
        image: nvcr.io/nvidia/k8s-device-plugin:v0.17.3
        imagePullPolicy: IfNotPresent
        name: nvidia-device-plugin-ctr
        securityContext:
          allowPrivilegeEscalation: true
          capabilities:
            add:
            - SYS_ADMIN
        terminationMessagePath: /dev/termination-log
        terminationMessagePolicy: File
        volumeMounts:
        - mountPath: /var/lib/kubelet/device-plugins
          name: device-plugin
      tolerations:
      - key: CriticalAddonsOnly
        operator: Exists
      - effect: NoSchedule
        key: nvidia.com/gpu
        operator: Exists
      terminationGracePeriodSeconds: 30
      volumes:
      - hostPath:
          path: /var/lib/kubelet/device-plugins
          type: ""
        name: device-plugin
     

Nach der Bereitstellung des Plugins sollte im Abschnitt Zuweisbar des Knotens die richtige Anzahl von VPPUs unter nvidia.com/gpu angezeigt werden, basierend auf dem von Ihnen konfigurierten MIG-Profil. Der Knoten sollte nun planbar und bereit sein, Document Understanding-Workloads auszuführen.

Knotenplanung

Es wird empfohlen, Knoten-Markierungen auf dedizierten Arbeiterknoten für Automation Suite-Roboter und Document Understanding zu aktivieren.

Beispiel für AI Center und DU:

• Für CPU:

  oc taint node <node_name> aic.ml/cpu=present:NoSchedule
  

• Für GPU:

  oc taint node <node_name> nvidia.com/gpu=present:NoSchedule
  

BeispielAutomation Suite Robot :

• Fügen Sie mit dem folgenden Befehl einen Taint für serverlose Roboter hinzu:

  oc taint node <node_name> serverless.robot=present:NoSchedule
  

• Fügen Sie die Beschriftungen für serverlose Roboter mit dem folgenden Befehl hinzu:

  oc label node <node_name> serverless.robot=true serverless.daemon=true
  

Wichtig:

Wenn Sie benutzerdefinierte Knotenmarkierungen haben, die durch die Gatekeeper-Richtlinie erzwungen werden, z. B. bestimmte Rollen für Arbeiterknoten oder Bezeichnungen, werden diese nicht an die Automation Suite übergeben und können den Installationsvorgang unterbrechen.

Weitere Informationen zu Markierungen und Tolerierungen finden Sie in der Kubernetes-Dokumentation.