Considérations relatives à AI Center

En plus des exigences de service de base qui font partie des exigences de la plate-forme complète, AI Center nécessite des ressources supplémentaires, selon les modèles que vous souhaitez exécuter ou former. Pour plus de détails sur les générations de matériel GPU requises et les pilotes NVIDIA compatibles, consultez la Matrice de compatibilité.

Remarque :

The following table describes the additional resources AI Center needs.

Dans ce tableau, le disque de données (Data Disk) est nécessaire sur tous les nœuds de serveur. Ceci n'est pas nécessaire sur les nœuds d'agent.

Utiliser (Use)	Processeur	RAM (Go)	GPU	Disque (Go)
Minimum pour la diffusion (compétence ML, une réplique)	0.6	2	0	20 Go sur la partition rancher
Minimum pour l'entraînement (Pipeline)	1	4	0	20 Go sur la partition rancher 51 Go de partition de disque AI Center minimum (105 Go recommandés)
Service du modèle DU (compétence ML, une réplique)	1	4	0	20 Go sur la partition rancher
Entraînement du modèle DU	2	24	Fortement recommandé	20 Go sur la partition rancher Disque de données de 51 Go minimum (105 Go recommandés)

Remarque :

Le tableau suivant décrit les ressources requises pour les implémentations d'AI Center de petite et moyenne ampleur. Notez que ces chiffres sont des indications générales.

Dans ce tableau, le disque de données (Data Disk) est nécessaire sur tous les nœuds de serveur. Ceci n'est pas nécessaire sur les nœuds d'agent.

Utiliser (Use)	Processeur	RAM (Go)	GPU	Disque (Go)
Petite implémentation : 3 modèles servis 1 pipeline simultané	4	32	0	80 GB on the rancher partition1 105 Data Disk 2
Implémentation moyenne : 5 modèles servis 2 pipelines simultanés Entraînement du modèle DU	8	52	Fortement recommandé	160 GB on the rancher partition3 315 Data Disk 4

¹ (3 compétences +1 pipeline) * 20 Go sur la partition rancher = 80 Go sur la partition rancher

² 1 pipeline * 105 Go = Disque de données 105 Go

³ (5 compétences + 2 pipelines + 1 pipeline DU) * 20 Go sur la partition rancher = 160 Go sur la partition rancher

⁴ (2 pipelines + 1 pipeline DU) * 105 Go = Disque de données 315 Go