- Notes de publication
- Vue d'ensemble (Overview)
- Paramétrage et configuration
- Prérequis logiciels
- Prérequis matériels
- Déploiement du serveur
- Connexion au serveur
- Stockage de données
Prérequis matériels
Cette configuration fonctionne sur les GPU Nvidia locaux, mais fonctionne également avec des fournisseurs Cloud tels qu'AWS, Azure et GCP. Les types de GPU suggérés incluent ceux de la famille de produits RTX, Tesla et Ampere qui disposent de suffisamment de mémoire GPU et de capacités de traitement.
La principale différence entre ces deux types de GPU est que ceux dotés de la virtualisation disposent généralement de plus de RAM GPU et sont proposés par la plupart des fournisseurs Cloud. Avoir plus de RAM GPU augmente la taille maximale de l'image que vous pouvez entrer dans le modèle. En conclusion, les GPU avec la virtualisation ne sont pas considérablement plus rapides que les GPU grand public.
Vous avez besoin d'une machine avec les spécifications matérielles suivantes :
Spécification matérielle | Prérequis |
---|---|
Mémoire |
|
Processeur |
|
GPU |
|
Stockage |
|
Selon la configuration que vous utilisez (GPU recommandé : Nvidia T4), vous pouvez vous attendre aux performances suivantes (la durée de traitement est mesurée en secondes) :
Résolution | Durée d'inférence | Temps de service total |
---|---|---|
1280x720 |
0.367 |
0.388 |
1440x900 |
0.487 |
0.515 |
1600x900 |
0.503 |
0.533 |
1920x1080 |
0.562 |
0.598 |
1920x1200 |
0.636 |
0,675 |
2560x1440 |
0.832 |
0.884 |
3840x2160 |
1.484 |
1.581 |