Hardwareanforderungen

Dieses Setup funktioniert mit lokalen Nvidia-GPUs, funktioniert aber auch mit Cloud-Anbietern wie AWS, Azure und GCP. Zu den vorgeschlagenen GPU-Typen gehören diejenigen aus der RTX-, Tesla- und Ampere-Produktfamilie, die über genügend GPU-Speicher und Verarbeitungskapazität verfügen.

Der Hauptunterschied zwischen diesen beiden GPU-Typen besteht darin, dass diejenigen mit Virtualisierung in der Regel mehr GPU-RAM haben und von den meisten Cloud-Anbietern angeboten werden. Mit mehr GPU-RAM können Sie größere Bilder in das Modell eingeben. Insgesamt sind die Virtualisierungs-GPUs nicht wesentlich schneller als die Verbraucher-GPUs.

Sie benötigen eine Maschine mit den folgenden Hardwarespezifikationen:

Hardwarespezifikation	Anforderungen
Arbeitsspeicher	Mindestens 8 GB Empfohlen: 16 GB
CPU	Minimum: 2 Kerne Empfohlen: 4 Kerne
GPU	Minimum: 8 GB VRAM Empfohlen: 16 GB VRAM
Speicher	Minimum: 30 GB frei

Wichtig: Für eine optimale Leistung empfehlen wir ein Upgrade der GPU, da das neue Modell für die neueren Grafikprozessoren der Turing-Architektur optimiert ist – von denen der T4 sowohl in Bezug auf Kosten als auch Leistung am besten geeignet ist. Diese Optimierungen sind für die Pascal-Grafikprozessorenfamilie nicht verfügbar, daher wird es eine leichte Leistungsdiskrepanz geben, wenn das neue Modell auf einem ausgeführt wird.

Hinweis: Damit Installationen mit Nvidia vGPU funktionieren, stellen Sie sicher, dass die vGPU CUDA-fähig ist und die Lizenz korrekt konfiguriert ist.

Je nach verwendeter Konfiguration (empfohlene GPU: Nvidia T4) können Sie mit den folgenden Leistungen rechnen (Verarbeitungszeit wird in Sekunden gemessen):

Resolution	Inferenzzeit	Gesamtdienstzeit
1280x720	0.367	0.388
1440 x 900	0.487	0.515
1600x900	0.503	0.533
1920 x 1080	0.562	0.598
1920 x 1200	0.636	0,675
2560x1440	0.832	0.884
3840x2160	1.484	1.581