Requisitos de hardware

La ejecución de los paquetes ML de Document Understanding en una GPU incluye una optimización destinada a acelerar el proceso de entrenamiento.

Matriz de compatibilidad

Como resultado, el entrenamiento en la GPU es cinco veces más rápido que en la CPU (antes era entre 10 y 20 veces más rápido). Esto también permite entrenar modelos en CPU con hasta 5000 páginas (anteriormente el máximo eran 500).

Please be aware that training Document Understanding models on GPU requires a GPU with at least 11GB of video RAM to run successfully.

Utiliza la siguiente tabla para comprobar la compatibilidad entre los paquetes ML, la versión de CUDA y la versión del controlador de la GPU.

versión de paquetes ML	Versión de CUDA	Controlador de NVIDIA (versión inferior compatible)	Generación de hardware
2022.10	CIDA 11.3	R450.80.03	Ampere, Turing, Volta, Pascal, Maxwell, Kepler
2022.4	CUDA 11.3	R450.36.06	Ampere, Turing, Volta, Pascal, Maxwell, Kepler

CUDA es compatible con versiones anteriores, lo que significa que las aplicaciones CUDA existentes pueden seguir utilizándose con versiones CUDA más recientes.

Puedes encontrar más información sobre la compatibilidad aquí.

Uso de CPU y GPU

Puedes utilizar el marco de Document Understanding para leer texto utilizando un motor OCR, clasificar los documentos y extraer información de los mismos. Mientras que las tareas de clasificación y extracción se ejecutan en la CPU, se recomienda ejecutar OCR en la GPU (aunque también se proporciona una versión para CPU en caso de que no se disponga de GPU).

The On-premises deployment is done using Automation Suite and its hardware requirements.

You can use the same type of VM for both extractors and classifiers, the only difference being the infrastructure size. We recommend using the OCR engine with a GPU VM. The compatibility between the ML Packages, CUDA version, and GPU driver version are described in the Compatibility Matrix section.

Tomemos un ejemplo real para comprender mejor los requisitos de hardware.

Servicio	Requisitos de hardware	Capacidad
Extractor	Utilizar una máquina virtual con un mínimo de 2 núcleos de CPU y 8 GB de RAM	Can process 25,000 pages/day or 5 million pages/year, assuming perfectly constant traffic (no spikes).
Clasificador	Utilizar una máquina virtual con un mínimo de 2 núcleos de CPU y 8 GB de RAM	Can process 40,000 documents/day or 8 million documents/year, assuming perfectly constant traffic (no spikes).
OCR	Se recomienda su uso con una máquina virtual con GPU.	Can process 50,000 pages/day.

Example : If you process 10 million pages/year, then you need a VM with 4 CPU cores, 16 GB RAM for the extractor, another one for the classifier, and a third VM with an NVidia GPU core for the OCR engine.

También puedes optar por utilizar una sola máquina virtual para el extractor y el clasificador, lo que significa que necesitarás una sola máquina virtual con 8 núcleos de CPU y 32 GB de RAM.

Nota:

You can always use more more powerful CPU/GPU VMs for increasing the number of processed documents/day.