AI Center に関する考慮事項

プラットフォームの全要件に含まれるコア サービス要件に加えて、AI Center では、実行またはトレーニングするモデルに応じて追加リソースが必要です。

次の表で、AI Center で必要となる追加リソースについて説明します。この表では、すべてのサーバー ノードにデータ ディスクが必要です。これは、エージェント ノードでは不要です。

使用	CPU	RAM (GiB)	GPU	ディスク (GiB)
サービング (ML スキル、1 つのレプリカ) の最小要件	0.6	2	0	20 OS クラスター ディスク
トレーニング (パイプライン) の最小要件	1	4	0	20 OS クラスター ディスク 105 データ ディスク
DU モデルのサービング (ML スキル、1 つのレプリカ)	1	4	0	20 OS クラスター ディスク
DU モデルのトレーニング	2	24	強く推奨	20 OS クラスター ディスク 105 データ ディスク

次の表で、AI Center の小規模および平均的な実装に必要なリソースについて説明します。これらの数は一般的な指針です。この表では、すべてのサーバー ノードにデータ ディスクが必要です。これは、エージェント ノードでは不要です。

使用	CPU	RAM (GiB)	GPU	ディスク (GiB)
小規模な実装: 3 モデルのサービング 1 つの同時パイプライン	4	32	0	80 OS ディスク 200 データ ディスク
平均的な実装: 5 モデルのサービング 2 つの同時パイプライン DU モデルのトレーニング	8	52	強く推奨	150 OS ディスク 300 データ ディスク