ハードウェア要件

この設定は、オンプレミスの Nvidia GPU で動作しますが、AWS、Azure、GCP などのクラウド プロバイダーでも動作します。推奨される GPU の種類には、十分な GPU メモリと処理能力を備えた RTX、Tesla、および Ampere ファミリの GPU が含まれます。

これら 2 種類の GPU の主な違いは、仮想化を使用した GPU には通常使用できる GPU RAM がより多く、ほとんどのクラウド プロバイダーによって提供されているという点です。GPU RAM を増やすと、モデルに入力できる画像の最大サイズが増加します。結論として、仮想化 GPU はコンシューマー向け GPU よりも大幅に高速というわけではありません。

以下のハードウェア仕様を満たすマシンが必要です。

ハードウェアの仕様	要件
メモリ	最小: 8 GB 推奨: 16 GB
CPU	最小: AVX2 が有効化された 2 コア 推奨: AVX2 が有効化された 4 コア
GPU	最小: 8 GB VRAM 推奨: 16 GB VRAM
ストレージ	最小: 30 GB の空き容量

重要:

新しいモデルは Turing アーキテクチャが採用された新世代の GPU に対して最適化されているため、最適なパフォーマンスを得るには GPU のアップグレードをお勧めします。新世代の GPU の中では、T4 がコストとパフォーマンスの両方の点において最適です。これらの最適化は Pascal ファミリの GPU では利用できないため、この種類の GPU で新しいモデルを実行した場合は、パフォーマンスに若干の差が生じます。

注:

Nvidia vGPU を使用するインストールを動作させるには、vGPU が CUDA に対応していて、 ライセンスが正しく設定されていることを確認してください。

使用する構成に応じて (推奨 GPU: NVIDIA T4)、次のパフォーマンスが期待できます (処理時間は秒単位で測定)。

解決方法	推論時間	合計サービス時間
1280x720	0.367	0.388
1440x900	0.487	0.515
1600x900	0.503	0.533
1920x1080	0.562	0.598
1920x1200	0.636	0.675
2560x1440	0.832	0.884
3840x2160	1.484	1.581