Trainingspipelines

Wichtig:

Minimale Dataset-Größe

Für die erfolgreiche Ausführung von Trainingspipelines empfehlen wir dringend mindestens 25 Dokumente und mindestens 10 Beispiele für jedes beschriftete Feld in Ihrem Dataset. Andernfalls löst die Pipeline den folgenden Fehler aus: Dataset Creation Failed (Dataset-Erstellung fehlgeschlagen).

Training auf GPU vs. CPU

Bei größeren Datasets müssen Sie die GPU für das Training verwenden. Darüber hinaus ist die Verwendung einer GPU (AI Robot Pro) für das Training mindestens 5-mal schneller als die Verwendung einer CPU (AI Robot).

Training auf CPU wird nur für Datasets mit einer Größe von bis zu 5000 Seiten für ML-Pakete ab Version 21.10.x und bis zu 1000 Seiten für andere Versionen von ML-Paketen unterstützt. Das Training auf CPU anstelle von GPU kann auch zu einem weniger genauen Modell führen (zwischen 0–5 %).

CPU-Training war vor Version 2021.10 auf 500 Seiten begrenzt. Seit 2021.10 sind es 5000 Seiten und ab 2022.4 wieder maximal 1000 Seiten.

Es gibt zwei Möglichkeiten, ein ML-Modell zu trainieren:

• Training eines Modells von Grund auf
• erneutes Trainieren eines out-of-the-Box Modells

Das Training eines Modells von Grund auf kann mit dem ML-Paket DocumentUnderstanding durchgeführt werden, was auf dem Dataset geschieht, der als Eingabe bereitgestellt wird.

Das erneute Training kann mit vorgefertigten ML-Paketen wie „Invoices“, „Receipts“, „Purchase Orders“, „Utility Bills“, „Invoices India“, „Invoices Australia“ usw. erfolgen – im Prinzip alle anderen ML-Pakete zur Datenextraktion mit Ausnahme von DocumentUnderstanding. Das Training mit einem dieser Pakete hat ein Basismodell als zusätzliche Eingabe. Wir bezeichnen dies auch als erneutes Trainieren, da Sie nicht von vorne beginnen, sondern von einem Basismodell ausgehen. Dieser Ansatz nutzt eine Technik namens „Transfer Learning“, bei der das Modell die Informationen verwendet, die in einem anderen, bereits vorhandenen Modell codiert sind. Das Modell verfügt über einige der standardmäßigen Kenntnisse, aber es lernt auch aus den neuen Daten. Mit zunehmender Größe Ihres Trainings-Datasets kommt es jedoch immer weniger auf das vortrainierte Basismodell an. Dies ist hauptsächlich für kleine bis mittelgroße Trainings-Datasets relevant (bis zu 500–800 Seiten).

Konfigurieren Sie die Pipeline für erneutes Training wie folgt:

• Wählen Sie im Feld Pipelinetyp die Option Trainingsausführung aus.

• In the Choose package field, select the package you created based on an out-of-the-box ML package.

• Wählen Sie im Feld Hauptversion des Pakets wählen eine Hauptversion für Ihr Paket aus.

• Wählen Sie im Feld Nebenversion des Pakets wählen eine Nebenversion für Ihr Paket. Es wird dringend empfohlen, immer Nebenversion 0 (Null) zu verwenden.

• In the Choose input dataset field, select a representative training dataset.

• In the Enter parameters section, enter any environment variables defined and used by your pipeline, if any. For most use cases, no parameter needs to be specified; the model is using advanced techniques to find a performant configuration. However, here are some environment variables you could use:

• auto_retraining which allows you to complete the Auto-retraining Loop; if the variable is set to True, then the input dataset needs to be the export folder associated with the labeling session where the data is tagged; if the variable remains set to False, then the input dataset needs to correspond to the following dataset format.

• model.epochs, die die Anzahl der Epochen für die Trainingspipeline anpasst (Standardwert: 100).

• Wählen Sie aus, ob die Pipeline mit der GPU oder CPU trainiert werden soll. Der Schieberegler GPU aktivieren ist standardmäßig deaktiviert. In diesem Fall wird die Pipeline auf CPU ausgeführt.

• Select one of the options when the pipeline should run: Run now,Time based or Recurring. In case you are using the auto_retraining variable, select Recurring.

  

After you configure all the fields, click Create. The pipeline is created.