ai-computer-vision
2023.10
true
重要 :
请注意,此内容已使用机器翻译进行了部分本地化。
新发布内容的本地化可能需要 1-2 周的时间才能完成。
AI Computer Vision 用户指南
上次更新日期 2026年5月20日
此设置适用于本地部署的 NVIDIA GPU,但也适用于 AWS、Azure 和 GCP 等云提供商。建议的 GPU 类型包括 RTX、Tesla 和 Ampere 系列产品中的 GPU,这些产品具有足够的 GPU 内存和处理能力。
这两类 GPU 之间的主要区别在于,具有虚拟化功能的 GPU 通常具有更多的 GPU RAM,并且由大多数云提供商提供。拥有更多 GPU RAM 会增加可以输入到模型的图像的最大尺寸。总之,虚拟化 GPU 的速度并不比消费类 GPU 快得多。
您需要一台具有以下硬件规格的计算机:
| 硬件规格 | 要求 |
|---|---|
| 内存 |
|
| CPU |
|
| GPU |
|
| 存储 |
|
重要提示:
为获得最佳性能,我们建议升级 GPU,因为新型号已针对较新的 Turing 架构 GPU 进行了优化,而 T4 在成本和性能方面都非常适合。这些优化在 Pascal 系列 GPU 上不可用,因此在其中运行新模型时会存在轻微的性能差距。
备注:
为了使用 NVIDIA vGPU 进行安装,请确保 vGPU 已启用 CUDA,并且许可证已正确配置。
根据您使用的配置(推荐 GPU:NVIDIA T4),您可以获得以下性能(处理时间以秒为单位):
| 分辨率 | 推理时间 | 总服务时间 |
|---|---|---|
| 1280x720 | 0.367 | 0.388 |
| 1440x900 | 0.487 | 0.515 |
| 1600x900 | 0.503 | 0.533 |
| 1920x1080 | 0.562 | 0.598 |
| 1920x1200 | 0.636 | 0.675 |
| 2560x1440 | 0.832 | 0.884 |
| 3840x2160 | 1.484 | 1.581 |