- Notas de versão
- Visão geral
- Configuração e Instalação
- Requisitos de software
- Requisitos de Hardware
- Implantação do servidor
- Conexão ao servidor
- Armazenamento de dados
Requisitos de Hardware
Essa configuração funciona em GPUs Nvidia locais, mas também funciona com provedores de nuvem, como AWS, Azure e GCP. Os tipos de GPU sugeridos incluem aqueles da família de produtos RTX, Tesla e Ampere, que têm memória e capacidade de processamento suficientes da GPU.
A principal diferença entre esses dois tipos de GPUs é que as GPUs com virtualização geralmente têm mais GPU RAM e são oferecidas pela maioria dos provedores de nuvem. Ter mais GPU RAM aumenta o tamanho máximo da imagem que você pode inserir para o modelo. Em resumo, as GPUs de virtualização não são significativamente mais rápidas do que as GPUs de consumo.
Você precisa de uma máquina com as seguintes especificações de hardware:
Especificação de hardware | Requisitos |
---|---|
Memória |
|
CPU |
|
GPU |
|
Armazenamento |
|
Dependendo da configuração que você usa (GPU recomendada: Nvidia T4), você pode esperar os seguintes desempenhos (o tempo de processamento é medido em segundos):
Resolution | Tempo de inferência | Tempo total de serviço |
---|---|---|
1280x720 |
0.367 |
0.388 |
1440x900 |
0.487 |
0.515 |
1600x900 |
0.503 |
0.533 |
1920x1080 |
0.562 |
0.598 |
1920x1200 |
0.636 |
0,675 |
2560x1440 |
0.832 |
0.884 |
3840x2160 |
1.484 |
1.581 |