硬件要求

此设置适用于本地部署的 NVIDIA GPU，但也适用于 AWS、Azure 和 GCP 等云提供商。建议的 GPU 类型包括 RTX、Tesla 和 Ampere 系列产品中的 GPU，这些产品具有足够的 GPU 内存和处理能力。

这两类 GPU 之间的主要区别在于，具有虚拟化功能的 GPU 通常具有更多的 GPU RAM，并且由大多数云提供商提供。拥有更多 GPU RAM 会增加可以输入到模型的图像的最大尺寸。总之，虚拟化 GPU 的速度并不比消费类 GPU 快得多。

您需要一台具有以下硬件规格的计算机：

硬件规格	要求
内存	最低：8 GB 建议 16 GB
CPU	最小值：2 个启用 AVX2 的内核 建议：4 个启用 AVX2 的内核
GPU	最低：8 GB 显存 建议：16 GB 显存
存储	最低：30 GB 可用空间

请注意：为获得最佳性能，我们建议升级 GPU，因为新型号已针对较新的 Turing 架构 GPU 进行了优化，而 T4 在成本和性能方面都非常适合。这些优化在 Pascal 系列 GPU 上不可用，因此在其中运行新模型时会存在轻微的性能差距。

注意：为了使用 NVIDIA vGPU 正常安装，请确保 vGPU 已启用 CUDA，并且许可证已正确配置。

根据您使用的配置（推荐 GPU：NVIDIA T4），您可以获得以下性能（处理时间以秒为单位）：

分辨率	推理时间	总服务时间
1280x720	0.367	0.388
1440x900	0.487	0.515
1600x900	0.503	0.533
1920x1080	0.562	0.598
1920x1200	0.636	0.675
2560x1440	0.832	0.884
3840x2160	1.484	1.581