Hardwareanforderungen

Dieses Setup funktioniert mit lokalen Nvidia-GPUs, funktioniert aber auch mit Cloud-Anbietern wie AWS, Azure und GCP. Zu den vorgeschlagenen GPU-Typen gehören diejenigen aus der RTX-, Tesla- und Ampere-Produktfamilie, die über genügend GPU-Speicher und Verarbeitungskapazität verfügen.

Der Hauptunterschied zwischen diesen beiden GPU-Typen besteht darin, dass diejenigen mit Virtualisierung in der Regel mehr GPU-RAM haben und von den meisten Cloud-Anbietern angeboten werden. Mit mehr GPU-RAM können Sie größere Bilder in das Modell eingeben. Insgesamt sind die Virtualisierungs-GPUs nicht wesentlich schneller als die Verbraucher-GPUs.

Sie benötigen eine Maschine mit den folgenden Hardwarespezifikationen:

Hardwarespezifikation	Anforderungen
Arbeitsspeicher	Mindestens 8 GB Empfohlen: 16 GB
CPU	Minimum: 2 Kerne Empfohlen: 4 Kerne
GPU	Minimum: 8 GB VRAM Empfohlen: 16 GB VRAM
Speicher	Minimum: 30 GB frei

Wichtig: Für eine optimale Leistung empfehlen wir ein Upgrade der GPU, da das neue Modell für die neueren Grafikprozessoren der Turing-Architektur optimiert ist – von denen der T4 sowohl in Bezug auf Kosten als auch Leistung am besten geeignet ist. Diese Optimierungen sind für die Pascal-Grafikprozessorenfamilie nicht verfügbar, daher wird es eine leichte Leistungsdiskrepanz geben, wenn das neue Modell auf einem ausgeführt wird.

Hinweis: Damit Installationen mit Nvidia vGPU funktionieren, stellen Sie sicher, dass die vGPU CUDA-fähig und die Lizenz korrekt konfiguriert ist.

Je nach verwendeter Konfiguration (empfohlene GPU: Nvidia T4) können Sie mit den folgenden Leistungen rechnen (Verarbeitungszeit wird in Sekunden gemessen):