Trainingspipelines

Wichtig:

Minimale Dataset-Größe

Für die erfolgreiche Ausführung von Trainingspipelines empfehlen wir dringend mindestens 10 Dokumente und mindestens 5 Beispiele für jedes beschriftete Feld in Ihrem Dataset. Andernfalls löst die Pipeline den folgenden Fehler aus:

Dataset Creation
                  Failed

(Dataset-Erstellung fehlgeschlagen).

Training auf GPU vs. CPU

Bei größeren Datasets müssen Sie mit GPU trainieren. Darüber hinaus ist die Verwendung einer GPU für das Training mindestens 10-mal schneller als die Verwendung einer CPU.
Training auf CPU wird nur für Datasets mit einer Größe von bis zu 5000 Seiten für ML-Pakete ab Version 21.10.x und bis zu 1000 Seiten für andere Versionen von ML-Paketen unterstützt.
CPU-Training war vor Version 2021.10 auf 500 Seiten begrenzt. Seit 2021.10 waren es 5000 Seiten und ab 2022.4 sind es maximal 1000 Seiten.

Es gibt zwei Möglichkeiten, ein ML-Modell zu trainieren:

Training eines Modells von Grund auf
erneutes Trainieren eines out-of-the-Box Modells

Das Training eines Modells von Grund auf kann mit dem DocumentUnderstanding-ML-Paket durchgeführt werden, was auf dem Dataset geschieht, das als Eingabe bereitgestellt wird.

Das erneute Training kann mit vorgefertigten ML-Paketen wie „Invoices“, „Receipts“, „Purchase Orders“, „Utility Bills“, „Invoices India“, „Invoices Australia“ usw. erfolgen – im Prinzip alle anderen ML-Pakete zur Datenextraktion mit Ausnahme von DocumentUnderstanding. Das Training mit einem dieser Pakete hat ein Basismodell als zusätzliche Eingabe. Wir bezeichnen dies auch als erneutes Trainieren, da Sie nicht von vorne beginnen, sondern von einem Basismodell ausgehen. Dieser Ansatz nutzt eine Technik namens „Transfer Learning“, bei der das Modell die Informationen verwendet, die in einem anderen, bereits vorhandenen Modell codiert sind. Das Modell verfügt über einige der standardmäßigen Kenntnisse, aber es lernt auch aus den neuen Daten. Mit zunehmender Größe Ihres Trainings-Datasets kommt es jedoch immer weniger auf das vortrainierte Basismodell an. Dies ist hauptsächlich für kleine bis mittelgroße Trainings-Datasets relevant (bis zu 500–800 Seiten).

Konfigurieren Sie die Trainingspipeline wie folgt:

Wählen Sie im Feld „Pipelinetyp“ die Option „Trainingsausführung“ aus.
Wählen Sie im Feld „Paket wählen“ das Paket aus, das Sie basierend auf dem DocumentUnderstanding-ML-Paket erstellt haben.
Wählen Sie im Feld „Hauptversion des Pakets wählen“ eine Hauptversion für Ihr Paket aus.
Wählen Sie im Feld „Nebenversion des Pakets wählen“ eine Nebenversion für Ihr Paket aus. Es wird dringend empfohlen, immer Nebenversion 0 (Null) zu verwenden.
Wählen Sie im Feld „Eingabedatensatz wählen“ einen Dataset aus, wie im Video unten auf dieser Seite gezeigt. Informationen zum Erstellen hochwertiger Trainings-Datasets finden Sie in diesem Tutorial.
Geben Sie im Abschnitt „Parameter eingeben“ von Ihrer Pipeline definierte und verwendete Umgebungsvariablen ein, falls vorhanden. Für die meisten Anwendungsfälle muss kein Parameter angegeben werden. Das Modell verwendet erweiterte Techniken, um eine performante Konfiguration zu finden. Hier sind jedoch einige Umgebungsvariablen, die Sie verwenden können:
Mit auto_retraining können Sie die Schleife für automatisches erneutes Training abschließen. Wenn die Variable auf True festgelegt ist, muss das Eingabe-Dataset der Ordner export sein, der der Beschriftungssitzung zugeordnet ist, in der die Daten mit Tags versehen werden. Wenn die Variable auf False festgelegt bleibt, muss das Eingabe-Dataset dem Dataset-Format entsprechen.
model.epochs, die die Anzahl der Epochen für die Trainingspipeline anpasst (Standardwert: 100). Optional.
Für ML-Pakete ab v23.4 verwendet das Training für Datasets, die kleiner als 400 Seiten sind, einen Ansatz namens Frozen Backbone, um das Training zu beschleunigen und die Leistung zu verbessern. Sie haben jedoch die Möglichkeit, dieses Verhalten zu überschreiben und das vollständige Training auch für kleinere Datasets zu erzwingen oder umgekehrt, das Frozen Backbone-Training sogar für größere Datasets (bis zu 3.000 Seiten) zu erzwingen. Sie können die folgenden Umgebungsvariablen mit der Bedingung verwenden, sie bei Verwendung zu kombinieren. Verwenden Sie entweder die erste und die zweite oder die erste und die dritte Variable zusammen. Optional.
- model.override_finetune_freeze_backbone_mode=True – Schließen Sie diese Umgebungsvariable ein, um das Standardverhalten zu überschreiben. Dies ist in den beiden folgenden Situationen erforderlich.
- model.finetune_freeze_backbone_mode=True – Fügen Sie diese Umgebungsvariable ein, um zu erzwingen, dass das Modell auch für größere Datasets Frozen Backbone verwendet.
- model.finetune_freeze_backbone_mode=False – Fügen Sie diese Umgebungsvariable ein, um zu erzwingen, dass das Modell auch für größere Datasets das vollständige Training verwendet.
Wählen Sie aus, ob die Pipeline mit der GPU oder CPU trainiert werden soll. Der Schieberegler „GPU aktivieren“ ist standardmäßig deaktiviert. In diesem Fall wird die Pipeline mit der CPU trainiert.
Wählen Sie eine der Optionen aus, wann die Pipeline ausgeführt werden soll: „Jetzt ausführen“, „Zeitbasiert“ oder „Wiederkehrend“. Falls Sie die Variable auto_retraining verwenden, wählen Sie „Wiederkehrend“ aus.
Nachdem Sie alle Felder konfiguriert haben, klicken Sie auf „Erstellen“. Die Pipeline wird erstellt.