ハードウェア要件

Running the Document Understanding^TM ML Packages on a GPU includes an optimization meant to accelerate the training process.

相互運用性マトリクス

結果として GPU と CPU でのトレーニング速度の差が縮まり、GPU でのトレーニング速度は CPU の 5 倍になりました (以前は 10 倍から 20 倍高速でした)。また、CPU で最大 5000 ページまでトレーニングできるようになりました (以前は最大 500 ページ)。

GPU で Document Understanding モデルのトレーニングを問題なく実行するには、11 GB 以上のビデオ RAM を搭載した GPU が必要です。

ML パッケージ、CUDA、GPU ドライバーの対応バージョンを確認するには、以下の表を使用します。

ML パッケージのバージョン	CUDA のバージョン	cuDNN のバージョン	NVIDIA ドライバー (最も低い対応バージョン)	ハードウェア世代
2024.10.7	CUDA 12.8 または最新バージョン	cuDNN 9.8.0 または最新バージョン	R525.60.13	Hopper、Ada Lovelace、Ampere、Turing、Volta、Pascal、Maxwell
2024.10.6 以前	CUDA 11.8 または最新バージョン	cuDNN 8.2.0 または最新バージョン	R450.80.04	Ampere、Turing、Volta、Pascal、Maxwell、Kepler

CUDA には後方互換性があるため、既存の CUDA アプリケーションは引き続き新しいバージョンの CUDA で使用できます。

More information about compatibility can be found here.

CPU と GPU の使用

Document Understanding フレームワークを使用すると、OCR エンジンを使用してテキストを読み取り、ドキュメントを分類し、ドキュメントから情報を抽出できます。分類タスクや抽出タスクを CPU で実行する一方、OCR は GPU で実行することをお勧めします (ただし、GPU が利用できない場合のために CPU バージョンも用意されています)。

The On-premises deployment is done using Automation Suite and its hardware requirements.

抽出器と分類器の両方に同じ種類の仮想マシンを使用できます。唯一の違いはインフラストラクチャのサイズです。OCR エンジンは GPU の仮想マシンで使用することをお勧めします。ML パッケージ、CUDA のバージョン、GPU ドライバーのバージョンの相互運用性については、「相互運用性マトリクス」のセクションをご覧ください。

実際の例を見ながらハードウェア要件の理解を深めていきましょう。

ML パッケージ	ハードウェア要件	機能
Extractor packages (Invoices, Receipts, PurchaseOrders, etc.)	2 コアの CPU と 8 GB の RAM を搭載した仮想マシンを使用	トラフィックが完全に一定 (スパイクなし) だとすると、25,000 ページ/日または 500 万ページ/年を処理できます。
Classifier packages (DocumentClassifier)	2 コアの CPU と 8 GB の RAM を搭載した仮想マシンを使用	トラフィックが完全に一定 (スパイクなし) だとすると、40,000 ドキュメント/日または 800 万ドキュメント/年を処理できます。
OCR	CPU で実行する場合は、8 GB 以上の RAM が必要です。GPU で実行する場合、要件はありません。	50,000 ページ/日を処理できます。
OCR_CPU	4 GB 以上の RAM が必要です。	Can process 25,000 pages/day.

Example: If you process 10 million pages/year, then you need a VM with 4 CPU cores, 16 GB RAM for the extractor, another one for the classifier, and a third VM with an NVidia GPU core for the OCR engine.

抽出器と分類器の両方に 1 台の仮想マシンのみを使用することもできます。この場合、8 コアの CPU と 32 GB の RAM を持つ仮想マシンが 1 台必要です。

注:

より処理能力の高い CPU/GPU 仮想マシンを使用して、いつでも 1 日あたりのドキュメント処理数を増やすことができます。