- Notas relacionadas
- Información general
- Instalación y configuración
- Requisitos de software
- Requisitos de hardware
- Implementar el servidor
- Conectarse al servidor
- Licencia
- Almacenamiento de datos
Requisitos de hardware
Esta configuración funciona en las GPU en las instalaciones de Nvidia, pero también con proveedores en la nube como AWS, Azure y GCP. Los tipos de GPU sugeridos incluyen los de la familia de productos RTX, Tesla y Ampere, que tienen suficiente memoria GPU y capacidad de procesamiento.
La principal diferencia entre estos dos tipos de GPU es que las que cuentan con virtualización suelen tener más RAM de GPU y las ofrecen la mayoría de los proveedores de la nube. Tener más RAM en la GPU aumenta el tamaño máximo de la imagen que puedes introducir en el modelo. En conclusión, las GPU de virtualización no son significativamente más rápidas que las GPU de consumo.
Necesita una máquina con las siguientes especificaciones de hardware:
Especificación de hardware | Requisitos |
---|---|
Memoria |
|
CPU |
|
GPU |
|
Almacenamiento |
|
Dependiendo de la configuración que utilices (GPU recomendada: Nvidia T4), puedes esperar los siguientes rendimientos (el tiempo de procesamiento se mide en segundos):
Resolución | Tiempo de inferencia | Tiempo total de servicio |
---|---|---|
1280x720 |
0.367 |
0.388 |
1440x900 |
0.487 |
0.515 |
1600x900 |
0.503 |
0.533 |
1920x1080 |
0.562 |
0.598 |
1920x1200 |
0.636 |
0,675 |
2560x1440 |
0.832 |
0.884 |
3840x2160 |
1.484 |
1.581 |