Requisitos de Hardware

Essa configuração funciona em GPUs Nvidia locais, mas também funciona com provedores de nuvem, como AWS, Azure e GCP. Os tipos de GPU sugeridos incluem aqueles da família de produtos RTX, Tesla e Ampere, que têm memória e capacidade de processamento suficientes da GPU.

A principal diferença entre esses dois tipos de GPUs é que as GPUs com virtualização geralmente têm mais GPU RAM e são oferecidas pela maioria dos provedores de nuvem. Ter mais GPU RAM aumenta o tamanho máximo da imagem que você pode inserir para o modelo. Em resumo, as GPUs de virtualização não são significativamente mais rápidas do que as GPUs de consumo.

Você precisa de uma máquina com as seguintes especificações de hardware:

Especificação de hardware	Requisitos
Memória	mínimo: 8 GB recomendado: 16 GB
CPU	mínimo: 2 núcleos recomendado: 4 núcleos
GPU	mínimo: 8 GB de VRAM recomendado: 16 GB de VRAM
Armazenamento	mínimo: 30 GB livres

Importante: para desempenho ideal, recomendamos atualizar a GPU, pois o novo modelo é otimizado para as GPUs de arquitetura Turing mais recentes – das quais o T4 é o mais adequado em termos de custo e desempenho. Essas otimizações não estão disponíveis na família Pascal de GPUs, portanto, haverá uma pequena lacuna de desempenho ao executar o novo modelo nessa GPU.

Observação: para instalações que usam vGPU Nvidia para funcionar, certifique-se de que a vGPU seja habilitada para CUDA e que a licença esteja configurada corretamente.

Dependendo da configuração que você usa (GPU recomendada: Nvidia T4), você pode esperar os seguintes desempenhos (o tempo de processamento é medido em segundos):