Kubernetes-Cluster und -Knoten

Kubernetes-Infrastrukturanforderungen und -konfiguration für die Automation Suite auf EKS/AKS.

Cluster und Berechtigungen

Sie können Ihren eigenen Kubernetes-Cluster mitbringen und Ihre Standardpraktiken befolgen, um ihn bereitzustellen und zu verwalten.

Wenn Sie dem Installationsprogramm der Automation Suite Administratorrechte erteilen, installiert und verwaltet UiPath® alle erforderlichen Komponenten für die Ausführung der Automation Suite. Wenn Sie dem Installationsprogramm jedoch keine Administratorrechte für den Cluster erteilen können, ist die Installation einiger erforderlicher Komponenten nicht möglich.

Daher muss ein Administratorbenutzer vor der Installation der Automation Suite in einem Cluster, in dem Sie die Administratorrechte des Installationsprogramms nicht gewährt haben, bestimmte erforderliche Komponenten separat installieren, bevor die Automation Suite-Plattform installiert wird.

Führen Sie die folgenden Schritte aus, wenn Sie dem Automation Suite-Installationsprogramm keine Administratorrechte gewähren können:

• Installieren und konfigurieren Sie das Istio-Dienstgeflecht. Weitere Informationen finden Sie unter Installieren und Konfigurieren des Dienstgeflechts.
• Bringen Sie Ihr eigenes ArgoCD mit ein. Weitere Informationen finden Sie unter Installieren und Konfigurieren des GitOps-Tools.
• Erstellen und verwalten Sie Zertifikate selbst. Weitere Informationen finden Sie unter Während der Installation generierte Zertifikate.
• Erstellen Sie ein Dienstkonto und gewähren Sie die erforderlichen Berechtigungen für die Automation Suite-Installation. Weitere Informationen finden Sie unter Erteilen von Installationsberechtigungen.

Nach der Installation der erforderlichen Komponenten können Sie das Installationsprogramm mit niedrigeren Berechtigungen ausführen. Die Liste der erforderlichen Berechtigungen finden Sie unter Erteilen von Installationsberechtigungen.

Unterstützte EKS/AKS-Versionen

Jede Version des langfristigen Supports der Automation Suite enthält eine Kompatibilitätsmatrix. Informationen zu kompatiblen EKS- oder AKS-Versionen finden Sie in der Kompatibilitätsmatrix.

Wir haben die Kompatibilität der Automation Suite mit den folgenden Linux-Betriebssystemen getestet:

Cloudanbieter	OS
AKS	Ubuntu 22.04
EKS	Amazon Linux 2 bis EKS 1.32 Amazon Linux 2023 für alle EKS-Versionen Bottlerocket 1.48.0

Die Automation Suite auf EKS/AKS unterstützt nur die x86-EKS/AKS-Architektur und nicht ARM64.

Knotenkapazität

Um die Knotenkapazität basierend auf Ihren Produkt- und Skalierungsanforderungen zu schätzen, verwenden Sie den Rechner der UiPath Automation Suite zur Installationsskalierung.

Das Stammvolume für Agent-(Worker-)Knoten erfordert 256 GB.

Um mit den obligatorischen Plattformdiensten (Identität, Lizenzierung und Routing) und dem Orchestrator zu beginnen, müssen Sie mindestens 8 vCPU und 16 GB RAM pro Knoten bereitstellen.

Hinweis:

Wir empfehlen aufgrund von Stabilitäts- und Leistungsproblemen nicht, Punktinstanzen in der Automation Suite in Produktionsszenarien zu verwenden.

Speicher wechseln

Sie müssen den Auslagerungsspeicher deaktivieren, bevor Sie die Automation Suite installieren. Es ist bekannt, dass Swap-Speicher bei Workloads in Containern Probleme verursachen können. Außerdem profitieren die Workloads der Automation Suite nicht von der Verwendung von Swap-Speicher und Kubernetes optimiert bereits die Speichernutzung.

Automatische Skalierung

Wir empfehlen, die automatische Skalierung in Ihrem Cluster zu aktivieren, um eine hohe Zuverlässigkeit sicherzustellen und Betriebsunterbrechungen zu vermeiden.

Zusätzliche Anforderungen für Automation Suite-Roboter

Automation Suite Robot erfordern zusätzliche Worker-Knoten.

Die Hardwareanforderungen für den Automation Suite-Roboterknoten hängen davon ab, wie Sie Ihre Ressourcen verwenden möchten. Zusätzlich zu den zusätzlichen Agentknotenanforderungen benötigen Sie mindestens 10 GB Dateispeicher, um die Paketzwischenspeicherung zu aktivieren .

Weitere Informationen dazu finden Sie in der Dokumentation zum Speicher .

In den folgenden Abschnitten werden die Faktoren beschrieben, die sich auf die Hardwaremenge auswirken, die der Automation Suite-Roboterknoten benötigt.

Robotergröße

Die folgende Tabelle beschreibt die erforderliche CPU, RAM und Speicher für alle Robotergrößen.

Größe	CPU	RAM	Speicher
Klein	0,5	1 GB	1 GB
Standard	1	2 GB	2 GB
Mittel	2	4 GB	4 GB
Groß	6	10 GB	10 GB

Größe des Agentknotens

Die Ressourcen des Automation Suite Roboter-Agentknotens wirken sich auf die Anzahl der Aufträge aus, die gleichzeitig ausgeführt werden können. Der Grund dafür ist, dass die Anzahl der CPU-Kerne und die Größe der RAM-Kapazität durch die CPU-/RAM-Anforderungen des Auftrags geteilt werden.

Ein Knoten mit 16 CPUs und 32 GB RAM kann beispielsweise Folgendes ausführen:

• 32 kleine Aufträge
• 16 Standardaufträge
• 8 mittlere Aufträge
• Zwei große Aufträge

Auftragsgrößen können gemischt werden, sodass derselbe Knoten zu einem bestimmten Zeitpunkt eine Kombination von Aufträgen ausführen kann, z. B. Folgendes:

• 10 kleine Aufträge (verbrauchen 5 CPUs und 10 GB RAM)
• 4 Standardaufträge (verbraucht 4 CPUs und 8 GB RAM)
• 3 mittlere Aufträge (verbrauchen 6 CPUs und 12 GB RAM)

Kubernetes-Ressourcenverbrauch

Da der Knoten Teil eines Kubernetes-Clusters ist, verbraucht der auf dem Server vorhandene Kubernetes-Agent (kubelet) eine geringe Menge an Ressourcen. Basierend auf unseren Messungen verbraucht das Kubelet die folgenden Ressourcen:

• 0,6 CPU
• 0,4 GB RAM

Ein Knoten, der dem zuvor beschriebenen ähnelt, hätte tatsächlich ungefähr 15,4 CPUs und 31,6 GB RAM.

Automatische Auswahl der Maschinengröße

All your cross-platform processes have the Automation Suite Robots option set to Automatic by default. This setting selects the appropriate machine size for running the process using serverless robots.

Bei der automatischen Auswahl der Größe werden die in der folgenden Tabelle aufgeführten Kriterien der Reihe nach bewertet. Sobald ein Kriterium erfüllt ist, wird die entsprechende Maschinengröße gewählt und die übrigen Kriterien werden nicht bewertet.

Reihenfolge	Kriterium	Maschinengröße
1	Remote-Debugging-Auftrag	Mittel
2	Der Prozess hängt von der UI-Automatisierung ODER Der Prozess hängt von den UiPath Document Understanding-Aktivitätenab	Standard
3	Anderer Unattended-Prozess	Klein

Zusätzliche Document Understanding-Empfehlungen

Für eine höhere Leistung können Sie Document Understanding auf einem zusätzlichen Agentknoten mit GPU-Unterstützung installieren. Beachten Sie jedoch, dass AI Center-basierte Projekte in Document Understanding ohne den GPU-Knoten voll funktionsfähig sind. Tatsächlich verwendet Document Understanding CPU-VMs für alle Extraktions- und Klassifizierungsaufgaben, während wir bei der OCR dringend die Verwendung einer GPU-VM empfehlen.

Weitere Informationen zur CPU-/GPU-Auslastung im Document Understanding-Framework finden Sie unter CPU- und GPU-Auslastung.

Wenn Sie einen zusätzlichen Knoten mit GPU-Unterstützung verwenden möchten, müssen Sie die folgenden Anforderungen erfüllen:

Hardware	Mindestanforderungen
Prozessor	8 (v-)CPU/Kerne
RAM	52 GB
Betriebssystemdatenträger	256 GB SSD Min. IOPS: 1100
DataDisk	Keine Angabe
GPU-RAM	11 GB

Beim Hinzufügen des GPU-Knotenpools ist es wichtig, dass Sie --node-taints nvidia.com/gpu=present:NoSchedule anstatt --node-taints sku=gpu:NoSchedule verwenden.

Um eine ordnungsgemäße Planung von GPU-Workloads sicherzustellen, stellen Sie sicher, dass Ihre YAML-Konfiguration von DaemonSet (NFD oder Nvidia GPU-Operator) einen übereinstimmenden tolerations -Block enthält.

Sie können das folgende Beispiel verwenden:

tolerations:
- key: "nvidia.com/gpu"
operator: "Equal"
value: "present"
effect: "NoSchedule"

Die Automation Suite unterstützt NVIDIA-GPUs. Weitere Informationen zum Konfigurieren von NVIDIA-GPUs (z. B. Treibern) finden Sie in der offiziellen Azure-Dokumentation oder in der AWS-Dokumentation.

Zusätzliche Anforderungen für moderne Document Understanding-Projekte

Wenn die CPU-Inferenz aktiviert ist, sind mindestens 2 GPUs erforderlich.

Um die CPU-Inferenz zu aktivieren, legen Sie die Eigenschaft enable_cpu_inference auf true fest, wie im Abschnitt Aktivieren oder Deaktivieren von Document Understanding angegeben.

Hinweis:

Die Inferenz kann bis zu 10-mal langsamer sein. Wir empfehlen, sie für Dokumente mit maximal 125 Seiten zu verwenden, da die Inferenz bei größeren Dokumenten möglicherweise fehlschlägt.

Ohne CPU-Inferenz sind mindestens 5 GPUs für moderne Document Understanding-Projekte erforderlich. Das Beispielszenario in der folgenden Tabelle zeigt, wie fünf GPUs ausreichen, um 300 Seiten zu verarbeiten.

Hinweis:

Für moderne Document Understanding-Projekte ist die empfohlene Mindest-GPU NVIDIA T4.

Function	Nummer
Benutzerdefinierte Modellseiten, die pro Stunde verarbeitet werden	300
Vorgefertigte Modellseiten, die pro Stunde verarbeitet werden	0
Modelltraining parallel	1
Anzahl der Seiten in allen Projekten – Entwurfszeit	200
Anzahl der Dokumenttypen pro Projektversion	3

Die 5 GPUs sind auf verschiedene Funktionen verteilt, wie in der folgenden Tabelle beschrieben:

Dienst	Anzahl der GPUs
OCR-Replikate	1
Benutzerdefinierte Modelltrainingsreplikate	1
Benutzerdefinierte Modellreplikate	2
Vorgefertigte Modellreplikate	1
Gesamt	5

Weitere Informationen zum Zuweisen von GPU-Ressourcen zu jedem Dienst finden Sie auf der Seite Zuweisen von GPU-Ressourcen für moderne Document Understanding-Projekte .

Zusätzlich zu den GPU-Anforderungen benötigen moderne Document Understanding-Projekte auch bestimmte CPU-Ressourcen für optimale Leistung. Für optimale Leistung sind mindestens 18 vCPUs erforderlich.

Beim modernen Document Understanding-Projekt sind weitere 4 TB der objectstore erforderlich, um die Aktivitäten aus den bereitgestellten Beispielen ein Jahr lang kontinuierlich auszuführen. Sie können mit einer kleineren Zahl beginnen, aber die Aktivität schlägt fehl, sobald die Speicherung abgeschlossen ist, es sei denn, Sie skalieren sie explizit.

Wenn Sie für ein Jahr der kontinuierlichen Verarbeitung bereitstellen, benötigen Sie 4 TB für moderne Document Understanding-Projekte und 512 GB für die anderen Produkte. Das ergibt insgesamt 4,5 TB Speicherplatz. Wenn Sie mit einer sechsmonatigen Verarbeitung beginnen, benötigen Sie ebenfalls 2 TB für moderne Document Understanding-Projekte und 512 GB für die anderen Produkte. In diesem Fall beträgt die Gesamtmenge 2,5 TB.

Hinweis:

Detailliertere Berechnungen und die für Ihre Anforderungen erforderliche Kapazität finden Sie im Rechner der UiPath Automation Suite zur Installationsskalierung.

Bereitstellen von MIG-fähigen GPUs

NVIDIA-Workloads für Document Understanding der Automation Suite unterstützen die Ausführung auf virtuellen GPUs (VPPUs), die mit MIG-Technologie (Multi-Instance GPU) erstellt wurden.

Um Document Understanding unter diesen Bedingungen auszuführen, beachten Sie die folgenden Anforderungen:

• GPU-Speicher (VRAM): mindestens 16 GB pro GPU. UiPath unterstützt nur die einzelne Strategie, was bedeutet, dass alle VPPUs genau gleich sind.
• Speicher: mindestens 80 GB pro SVGPU

Aktivieren von MIG-fähigen GPUs in Kubernetes

Nach der Bereitstellung der MIG-fähigen GPUs in Ihrem Cluster mit Profilen, die den oben genannten Mindestanforderungen entsprechen oder diese übertreffen, stellen Sie sicher, dass die GPUs planbare Kubernetes sind. Der Knoten muss eine Anzahl von GPUs ungleich Null melden, bevor Workloads auf ihm geplant werden können.

Um die GPUs planbar zu machen, haben Sie zwei Optionen:

• Option A: Folgen Sie der offiziellen Dokumentation zur GPU-Einrichtung Ihres Cloud-Anbieters:
  • Azure Kubernetes Service (AKS)
  • Amazon Elastic Kubernetes-Dienst (Amazon EKS)
• Option B (Alternativ): Stellen Sie das NVIDIA-Geräte-Plugin direkt bereit:
  1. Erstellen Sie einen neuen Namespace:

     kubectl create namespace gpu-resources
     

  2. Wenden Sie die folgende Konfiguration an, indem Sie migEnabledPoolName durch die Beschriftung ersetzen, die Ihrem GPU-Knoten entspricht:

     apiVersion: v1
     kind: Pod
     metadata:
       name: nvidia-device-plugin-pod
       namespace: gpu-resources
     spec:
      affinity:
         nodeAffinity:
           requiredDuringSchedulingIgnoredDuringExecution:
             nodeSelectorTerms:
             - matchExpressions:
               - key: agentpool
                 operator: In
                 values:
                 # To be changed to a selector that matches the GPU nodes
                 - migEnabledPoolName
      containers:
      - args:
        - --fail-on-init-error=false
        env:
        - name: MPS_ROOT
          value: /run/nvidia/mps
        - name: MIG_STRATEGY
           # We only support the single strategy for now
          value: single
        - name: NVIDIA_MIG_MONITOR_DEVICES
          value: all
        - name: NVIDIA_VISIBLE_DEVICES
          value: all
        - name: NVIDIA_DRIVER_CAPABILITIES
          value: compute,utility
        image: nvcr.io/nvidia/k8s-device-plugin:v0.17.3
        imagePullPolicy: IfNotPresent
        name: nvidia-device-plugin-ctr
        securityContext:
          allowPrivilegeEscalation: true
          capabilities:
            add:
            - SYS_ADMIN
        terminationMessagePath: /dev/termination-log
        terminationMessagePolicy: File
        volumeMounts:
        - mountPath: /var/lib/kubelet/device-plugins
          name: device-plugin
      tolerations:
      - key: CriticalAddonsOnly
        operator: Exists
      - effect: NoSchedule
        key: nvidia.com/gpu
        operator: Exists
      terminationGracePeriodSeconds: 30
      volumes:
      - hostPath:
          path: /var/lib/kubelet/device-plugins
          type: ""
        name: device-plugin
     

Nach der Bereitstellung des Plugins sollte im Abschnitt Zuweisbar des Knotens die richtige Anzahl von VPPUs unter nvidia.com/gpu angezeigt werden, basierend auf dem von Ihnen konfigurierten MIG-Profil. Der Knoten sollte nun planbar und bereit sein, Document Understanding-Workloads auszuführen.

Zusätzliche Temporal as a Service (TaaS)-Anforderungen

Wenn Maestro aktiviert ist, wird TaaS als eine Reihe von Kubernetes-Bereitstellungen innerhalb des Clusters ausgeführt. Im Standardprofil erfordert TaaS mindestens 5,5 vCores und 5,5 GB RAM an verfügbarem Cluster-Headal.

Bereitstellungen

TaaS besteht aus den folgenden Kubernetes-Bereitstellungen, die jeweils für eine bestimmte Funktion innerhalb des Temporären Diensts verantwortlich sind:

Bereitstellung	Beschreibung
taas-temporal-frontend	Einstiegspunkt für alle Clientverbindungen zum temporären Dienst
taas-temporal-internalFrontend	Verwaltet die interne Kommunikation zwischen den Diensten innerhalb des Clusters
taas-temporal-history	Verwaltet den Workflow-Ausführungsverlauf und die Statusübergänge
taas-temporal-matching	Ordnet geplante Aufgaben den verfügbaren Mitarbeitern für die Ausführung zu
taas-temporal-worker	Verarbeitet interne temporäre Systemworkflows
taas-temporal-web	Web-UI zum Visualisieren und Überwachen von Workflows
taas-temporal-admintools	Dienstprogrammbereitstellung zur Ausgabe von temporären Administratorbefehlen innerhalb des Clusters

Anforderungen an Pod-Ressourcen

In der folgenden Tabelle sind die CPU- und Speicheranforderungen und -grenzen für jede TaaS-Bereitstellung aufgeführt. Ressourceneinstellungen sind in allen TaaS-Profilen gleich.

Bereitstellung	CPU-Anforderung	CPU-Limit	Speicheranforderung	Speicherlimit
taas-temporal-frontend	250 Min	1	256Mi	256Mi
taas-temporal-internalFrontend	250 Min	1	256Mi	256Mi
taas-temporal-history	250 Min	1	4 Gi	4 Gi
taas-temporal-matching	250 Min	1	512 Mi	512 Mi
taas-temporal-worker	100 Min	1	256Mi	256Mi
taas-temporal-web	100 Min	200 Min	128Mi	128Mi
taas-temporal-admintools	100 Min	200 Min	128Mi	128Mi

Automatische Skalierung

TaaS verwendet den Horizontalen Pod-Autoscaler (HPA) für ausgewählte Bereitstellungen. Das Skalierungsverhalten hängt vom TaaS-Profil ab, wie in der folgenden Tabelle beschrieben.

	Standard	Lite	HA
Automatisches Skalieren aktiviert	Nein	Ja	Ja
HPAs erstellt	0	4	4
taas-temporal-frontend Replikate	1 (statisch)	1–3 (CPU 80%)	2–3 (CPU 80%)
taas-temporal-internalFrontend Replikate	1 (statisch)	1–3 (CPU 80%)	2–3 (CPU 80%)
taas-temporal-history Replikate	1 (statisch)	1–5 (CPU 80 % + Mem 70 %)	2–5 (CPU 80 % + Mem 70 %)
taas-temporal-matching Replikate	1 (statisch)	1–3 (CPU 80%)	2–3 (CPU 80%)
taas-temporal-worker Replikate	1 (statisch)	1 (statisch)	2 (statisch)
taas-temporal-web Replikate	1 (statisch)	1 (statisch)	1 (statisch)
taas-temporal-admintools Replikate	1 (statisch)	1 (statisch)	1 (statisch)
PDBs	disabled	enabled	enabled
numHistoryShards	64	128	256

Knotenplanung

Für Automation Suite Robots sind Knoten-Markierungen und -Beschriftungen erforderlich. Für Document Understanding werden sie empfohlen.

Beispiel für AI Center und DU:

• Für CPU:

  kubectl taint node <node_name> aic.ml/cpu=present:NoSchedule
  

• Für GPU:

  kubectl taint node <node_name> nvidia.com/gpu=present:NoSchedule
  

BeispielAutomation Suite Robot :

Sie müssen einen dedizierten Worker-Knoten mit der richtigen Markierung und den richtigen Beschriftungen für Automation Suite Robots konfigurieren. Ohne diese können Asrobot-Pods unabhängig von den verfügbaren Ressourcen auf anderen Knoten nicht geplant werden.

Führen Sie die beiden folgenden Befehle aus – die Markierung allein reicht nicht aus:

kubectl taint node <node_name> serverless.robot=present:NoSchedule
kubectl label node <node_name> serverless.robot=true serverless.daemon=true

Wichtig:

Wenn Sie benutzerdefinierte Knotenmarkierungen haben, die durch die Gatekeeper-Richtlinie erzwungen werden, z. B. bestimmte Rollen für Arbeiterknoten oder Bezeichnungen, werden diese nicht an die Automation Suite übergeben und können den Installationsvorgang unterbrechen.

Weitere Informationen zu Markierungen und Tolerierungen finden Sie in der Kubernetes-Dokumentation.

Zusätzliche Anforderungen für selbst gehostete Modelle

Selbst gehostete Modelle erfordern GPU-Hardware. Mindestanforderungen hängen von der Modellgröße ab:

Modellgröße	Mindestkonfiguration für die GPU
7B-Parameter	1 x 80 GB GPU
70B-Parameter	4 x 80 GB GPU
Mehr als 120 B Parameter	8 x 80 GB GPU

Weitere Informationen finden Sie unter Selbst gehostete Modelle.