Prérequis matériels

L’exécution des packages ML^de Document Understanding sur un GPU inclut une optimisation destinée à accélérer le processus d’entraînement.

Matrice de compatibilité

En conséquence, l'entraînement sur GPU n'est que 5 fois plus rapide que sur CPU (auparavant, il était 10 à 20 fois plus rapide). Cela permet également de former des modèles sur CPU avec jusqu'à 5 000 pages (auparavant, 500 maximum).

Please be aware that training Document Understanding models on GPU requires a GPU with at least 11GB of video RAM to run successfully.

Utilisez le tableau suivant pour vérifier la compatibilité entre les packages ML, la version CUDA et la version du pilote GPU.

Version du paquet ML	Version CUDA	version cudDNN	Pilote NVIDIA (version compatible la plus ancienne)	Génération de matériel
2.2510.1	CUDA 12.8 ou le plus récent	cuDNN 9.8.0 ou le plus récent	R525.60.13	Hopper, Ada Lovelace, Ampere, Turing, Volta, Pascal, Maxwell
2.2510.0 ou plus ancien	CUDA 11.8 ou la version la plus récente	cuDNN 8.2.0 ou la version la plus récente	R450.80.04	Ampère, Turing, Volta, Pascal, Maxwell, Kepler

CUDA est rétrocompatible, ce qui signifie que les applications CUDA existantes peuvent continuer à être utilisées avec les versions plus récentes de CUDA.

Vous trouverez plus d’informations sur la personnalisation ici.

Utilisation du processeur et du processeur graphique

Vous pouvez utiliser le framework Document Understanding pour lire du texte à l'aide d'un moteur OCR, classifier les documents et extraire des informations des documents. Alors que les tâches de classification et d'extraction sont exécutées sur le CPU, il est recommandé d'exécuter l'OCR sur le GPU (bien qu'une version CPU soit également fournie au cas où aucun GPU ne sserait disponible).

Le déploiement sur site est effectué à l'aide d'Automation Suite et de sa configuration matérielle requise.

Vous pouvez utiliser le même type de machine virtuelle pour les extracteurs et les classifieurs, la seule différence étant la taille de l’infrastructure. Nous vous recommandons d’utiliser le moteur OCR avec une machine virtuelle GPU. La compatibilité entre les paquets ML, la version CUDA et la version du pilote GPU est décrite dans la section Matrice de compatibilité.

Prenons un exemple concret pour mieux comprendre la configuration matérielle requise.

Paquet ML	Prérequis matériels	Capacité
Packages d'extraction (factures, reçus, bons de commande, etc.)	Utiliser une VM avec au moins 2 cœurs de CPU et 8 Go de RAM	Can process 25,000 pages/day or 5 million pages/year, assuming perfectly constant traffic (no spikes).
Packages de classification (DocumentClassifier)	Utiliser une VM avec au moins 2 cœurs de CPU et 8 Go de RAM	Can process 40,000 documents/day or 8 million documents/year, assuming perfectly constant traffic (no spikes).
OCR	Nécessite au moins 8 Go de RAM en cas d'exécution sur CPU. Aucune exigence si vous exécutez en cas d'exécution sur GPU.	Can process 50,000 pages/day.
OCR_CPU	Nécessite au moins 4 Go de RAM.	Peut traiter 25 000 pages/jour.

Exemple : si vous traitez 10 millions de pages/an, vous avez besoin d’une machine virtuelle avec 4 cœurs de processeur, 16 Go de RAM pour l’extracteur, une autre pour le classifieur et une troisième machine virtuelle avec un cœur GPU NVidia pour le moteur OCR.

Vous pouvez également choisir de n’utiliser qu’une seule machine virtuelle pour l’extracteur et le classifieur, ce qui signifie que vous avez besoin d’une seule machine virtuelle avec 8 cœurs de processeur et 32 Go de RAM.

Remarque :

You can always use more more powerful CPU/GPU VMs for increasing the number of processed documents/day.