Prérequis matériels

L’exécution des packages ML de Document Understanding sur un GPU inclut une optimisation destinée à accélérer le processus d’entraînement.

Matrice de compatibilité

En conséquence, l'entraînement sur GPU n'est que 5 fois plus rapide que sur CPU (auparavant, il était 10 à 20 fois plus rapide). Cela permet également de former des modèles sur CPU avec jusqu'à 5 000 pages (auparavant, 500 maximum).

Please be aware that training Document Understanding models on GPU requires a GPU with at least 11GB of video RAM to run successfully.

Utilisez la table ci-dessous pour vérifier la compatibilité entre les paquets ML, la version CUDA et la version du pilote GPU.

Version du paquet ML	Version CUDA	Pilote NVIDIA (version compatible la plus ancienne)	Génération de matériel
2022.10	CIDA 11.3	R450.80.03	Ampère, Turing, Volta, Pascal, Maxwell, Kepler
2022,4	CUDA 11.3	R450.36.06	Ampère, Turing, Volta, Pascal, Maxwell, Kepler

CUDA est rétrocompatible, ce qui signifie que les applications CUDA existantes peuvent continuer à être utilisées avec les versions plus récentes de CUDA.

Vous trouverez plus d’informations sur la personnalisation ici.

Utilisation du processeur et du processeur graphique

Vous pouvez utiliser l’infrastructure Document Understanding pour lire du texte à l’aide d’un moteur OCR, classer les documents et extraire des informations des documents. Bien que les tâches de classification et d’extraction soient exécutées sur le processeur, il est recommandé d’exécuter l’OCR sur le processeur graphique (une version du processeur est également fournie au cas où un processeur graphique ne serait pas disponible).

The On-premises deployment is done using Automation Suite and its hardware requirements.

You can use the same type of VM for both extractors and classifiers, the only difference being the infrastructure size. We recommend using the OCR engine with a GPU VM. The compatibility between the ML Packages, CUDA version, and GPU driver version are described in the Compatibility Matrix section.

Prenons un exemple concret pour mieux comprendre la configuration matérielle requise.

Service	Prérequis matériels	Capacité
Extracteur	Utiliser une VM avec au moins 2 cœurs de CPU et 8 Go de RAM	Can process 25,000 pages/day or 5 million pages/year, assuming perfectly constant traffic (no spikes).
Classifieur	Utiliser une VM avec au moins 2 cœurs de CPU et 8 Go de RAM	Can process 40,000 documents/day or 8 million documents/year, assuming perfectly constant traffic (no spikes).
OCR	Recommandé pour être utilisé avec GPU machine virtuelle	Can process 50,000 pages/day.

Example : If you process 10 million pages/year, then you need a VM with 4 CPU cores, 16 GB RAM for the extractor, another one for the classifier, and a third VM with an NVidia GPU core for the OCR engine.

Vous pouvez également choisir de n’utiliser qu’une seule machine virtuelle pour l’extracteur et le classifieur, ce qui signifie que vous avez besoin d’une seule machine virtuelle avec 8 cœurs de processeur et 32 Go de RAM.

Remarque :

You can always use more more powerful CPU/GPU VMs for increasing the number of processed documents/day.