Requisitos de hardware

Esta configuración funciona en las GPU en las instalaciones de Nvidia, pero también con proveedores en la nube como AWS, Azure y GCP. Los tipos de GPU sugeridos incluyen los de la familia de productos RTX, Tesla y Ampere, que tienen suficiente memoria GPU y capacidad de procesamiento.

La principal diferencia entre estos dos tipos de GPU es que las que cuentan con virtualización suelen tener más RAM de GPU y las ofrecen la mayoría de los proveedores de la nube. Tener más RAM en la GPU aumenta el tamaño máximo de la imagen que puedes introducir en el modelo. En conclusión, las GPU de virtualización no son significativamente más rápidas que las GPU de consumo.

Necesita una máquina con las siguientes especificaciones de hardware:

Especificación de hardware	Requisitos
Memoria	mínimo: 8 GB recomendado: 16 GB
CPU	mínimo: 2 núcleos con AVX2 habilitado recomendado: 4 núcleos con AVX2 habilitado
GPU	mínimo: 8 GB de VRAM recomendado: 16 GB de VRAM
Almacenamiento	mínimo: 30 GB gratis

Importante:

Para obtener un rendimiento óptimo, recomendamos actualizar la GPU, ya que el nuevo modelo está optimizado para las nuevas GPU de arquitectura Turing, de las cuales la T4 es la más adecuada tanto en términos de coste como de rendimiento. Estas optimizaciones no están disponibles en la familia de GPU Pascal, por lo que habrá una ligera diferencia de rendimiento al ejecutar el nuevo modelo en una de ellas.

Nota:

Para que las instalaciones que utilizan Nvidia vGPU funcionen, asegúrate de que la vGPU esté habilitada para CUDA y de que la licencia esté configurada correctamente.

Dependiendo de la configuración que utilices (GPU recomendada: Nvidia T4), puedes esperar los siguientes rendimientos (el tiempo de procesamiento se mide en segundos):

Resolución	Tiempo de inferencia	Tiempo total de servicio
1280x720	0.367	0.388
1440x900	0.487	0.515
1600x900	0.503	0.533
1920x1080	0.562	0.598
1920x1200	0.636	0,675
2560x1440	0.832	0.884
3840x2160	1.484	1.581