- Versionshinweise
- Überblick
- Einstellung und Konfiguration (Setup and Configuration)
- Softwareanforderungen
- Hardwareanforderungen
- Bereitstellen des Servers
- Verbinden mit dem Server
- Datenspeicher
Hardwareanforderungen
Dieses Setup funktioniert mit lokalen Nvidia-GPUs, funktioniert aber auch mit Cloud-Anbietern wie AWS, Azure und GCP. Zu den vorgeschlagenen GPU-Typen gehören diejenigen aus der RTX-, Tesla- und Ampere-Produktfamilie, die über genügend GPU-Speicher und Verarbeitungskapazität verfügen.
Der Hauptunterschied zwischen diesen beiden GPU-Typen besteht darin, dass diejenigen mit Virtualisierung in der Regel mehr GPU-RAM haben und von den meisten Cloud-Anbietern angeboten werden. Mit mehr GPU-RAM können Sie größere Bilder in das Modell eingeben. Insgesamt sind die Virtualisierungs-GPUs nicht wesentlich schneller als die Verbraucher-GPUs.
Sie benötigen eine Maschine mit den folgenden Hardwarespezifikationen:
Hardwarespezifikation | Anforderungen |
---|---|
Arbeitsspeicher |
|
CPU |
|
GPU |
|
Speicher |
|
Je nach verwendeter Konfiguration (empfohlene GPU: Nvidia T4) können Sie mit den folgenden Leistungen rechnen (Verarbeitungszeit wird in Sekunden gemessen):
Resolution | Inferenzzeit | Gesamtdienstzeit |
---|---|---|
1280x720 |
0.367 |
0.388 |
1440 x 900 |
0.487 |
0.515 |
1600x900 |
0.503 |
0.533 |
1920 x 1080 |
0.562 |
0.598 |
1920 x 1200 |
0.636 |
0,675 |
2560x1440 |
0.832 |
0.884 |
3840x2160 |
1.484 |
1.581 |