ai-computer-vision
2023.4
false
- 发行说明
- 概述
- 设置和配置
- 数据存储空间
AI Computer Vision 用户指南
Last updated 2024年6月27日
硬件要求
此设置适用于本地部署的 NVIDIA GPU,但也适用于 AWS、Azure 和 GCP 等云提供商。建议的 GPU 类型包括 RTX、Tesla 和 Ampere 系列产品中的 GPU,这些产品具有足够的 GPU 内存和处理能力。
这两类 GPU 之间的主要区别在于,具有虚拟化功能的 GPU 通常具有更多的 GPU RAM,并且由大多数云提供商提供。拥有更多 GPU RAM 会增加可以输入到模型的图像的最大尺寸。总之,虚拟化 GPU 的速度并不比消费类 GPU 快得多。
您需要一台具有以下硬件规格的计算机:
硬件规格 | 要求 |
---|---|
内存 |
|
CPU |
|
GPU |
|
存储 |
|
请注意:为获得最佳性能,我们建议升级 GPU,因为新型号已针对较新的 Turing 架构 GPU 进行了优化,而 T4 在成本和性能方面都非常适合。这些优化在 Pascal 系列 GPU 上不可用,因此在其中运行新模型时会存在轻微的性能差距。
注意:要使用 NVIDIA vGPU 进行安装,请确保 vGPU 已启用 CUDA 并且已正确配置许可证。
根据您使用的配置(推荐 GPU:NVIDIA T4),您可以获得以下性能(处理时间以秒为单位):
分辨率 | 推理时间 | 总服务时间 |
---|---|---|
1280x720 |
0.367 |
0.388 |
1440x900 |
0.487 |
0.515 |
1600x900 |
0.503 |
0.533 |
1920x1080 |
0.562 |
0.598 |
1920x1200 |
0.636 |
0.675 |
2560x1440 |
0.832 |
0.884 |
3840x2160 |
1.484 |
1.581 |