Hardwareanforderungen

Das Ausführen der Document Understanding ML-Pakete auf einer GPU umfasst eine Optimierung, die den Trainingsprozess beschleunigen soll.

Kompatibilitätsmatrix

Infolgedessen ist das Training mit der GPU fünfmal schneller als mit der CPU (zuvor war es 10–20-mal schneller). Dadurch können auch Modelle mit der CPU mit bis zu 5000 Seiten trainiert werden (bisher waren es maximal 500).

Please be aware that training Document Understanding models on GPU requires a GPU with at least 11GB of video RAM to run successfully.

Verwenden Sie die folgende Tabelle, um die Kompatibilität zwischen den ML-Paketen, der CUDA-Version und der GPU-Treiberversion zu überprüfen.

ML-Paketversion	CUDA-Version	NVIDIA-Treiber (niedrigste kompatible Version)	Hardware-Generation
2022.10	CIDA 11.3	R450.80.03	Ampere, Turing, Volta, Pascal, Maxwell, Kepler
2022.4	CUDA 11.3	R450.36.06	Ampere, Turing, Volta, Pascal, Maxwell, Kepler

CUDA ist abwärtskompatibel, d. h. vorhandene CUDA-Anwendungen können weiterhin mit neueren CUDA-Versionen verwendet werden.

Weitere Informationen zur Kompatibilität finden Sie hier.

CPU- und GPU-Auslastung

Sie können das Document Understanding-Framework verwenden, um Text mit einem OCR-Modul zu lesen, die Dokumente zu klassifizieren und Informationen aus den Dokumenten zu extrahieren. Während Klassifizierungs- und Extraktionsaufgaben auf der CPU ausgeführt werden, wird empfohlen, die OCR auf der GPU auszuführen (für den Fall, dass keine GPU zur Verfügung steht, wird auch eine CPU-Version angeboten).

The On-premises deployment is done using Automation Suite and its hardware requirements.

You can use the same type of VM for both extractors and classifiers, the only difference being the infrastructure size. We recommend using the OCR engine with a GPU VM. The compatibility between the ML Packages, CUDA version, and GPU driver version are described in the Compatibility Matrix section.

Zum besseren Verständnis der Hardwareanforderungen betrachten wir ein konkretes Beispiel.

Dienst	Hardwareanforderungen	Funktion
Extraktor	Verwenden Sie eine VM mit mindestens 2 CPU-Kernen und 8 GB RAM.	Can process 25,000 pages/day or 5 million pages/year, assuming perfectly constant traffic (no spikes).
Klassifizierer	Verwenden Sie eine VM mit mindestens 2 CPU-Kernen und 8 GB RAM.	Can process 40,000 documents/day or 8 million documents/year, assuming perfectly constant traffic (no spikes).
OCR	Empfohlen für die Verwendung mit GPU-VM.	Can process 50,000 pages/day.

Example : If you process 10 million pages/year, then you need a VM with 4 CPU cores, 16 GB RAM for the extractor, another one for the classifier, and a third VM with an NVidia GPU core for the OCR engine.

Sie können auch nur eine VM für den Extraktor und Klassifizierer verwenden, d. h. Sie benötigen eine einzelne VM mit 8 CPU-Kernen und 32 GB RAM.

Hinweis:

You can always use more more powerful CPU/GPU VMs for increasing the number of processed documents/day.