Vollständige Pipelines

Eine vollständige Pipeline führt gemeinsam eine Trainings- und eine Auswertungspipeline aus.

Wichtig:

Minimal dataset size For successfully running a Training pipeline, we strongly recommend minimum 10 documents and at least 5 samples from each labeled field in your dataset. Otherwise, the pipeline throws the following error: Dataset Creation Failed. Training on GPU vs CPU

• Bei größeren Datasets müssen Sie mit GPU trainieren. Darüber hinaus ist die Verwendung einer GPU für das Training mindestens 10-mal schneller als die Verwendung einer CPU.
• Training auf CPU wird nur für Datasets mit einer Größe von bis zu 5000 Seiten für ML-Pakete ab Version 21.10.x und bis zu 1000 Seiten für andere Versionen von ML-Paketen unterstützt.
• CPU-Training war vor Version 2021.10 auf 500 Seiten begrenzt. Seit 2021.10 waren es 5000 Seiten und ab 2022.4 sind es maximal 1000 Seiten.

Gleichzeitiges Trainieren und Auswerten von Modellen

Konfigurieren Sie die Trainingspipeline wie folgt:

• Wählen Sie im Feld „Pipelinetyp“ die Option „Vollständige Pipelineausführung“ aus.

• Wählen Sie im Feld „Paket wählen“ das Paket aus, das Sie trainieren und auswerten möchten.

• Wählen Sie im Feld „Hauptversion des Pakets wählen“ eine Hauptversion für Ihr Paket aus.

• Wählen Sie im Feld „Nebenversion des Pakets wählen“ eine Nebenversion für Ihr Paket aus. Es wird dringend empfohlen, immer Nebenversion 0 (Null) zu verwenden.

• In the Choose input dataset field, select a representative training dataset.

• In the Choose evaluation dataset field, select a representative evaluation dataset.

• Geben Sie im Abschnitt „Parameter eingeben“ von Ihrer Pipeline definierte und verwendete Umgebungsvariablen ein, falls vorhanden. Für die meisten Anwendungsfälle muss kein Parameter angegeben werden. Das Modell verwendet erweiterte Techniken, um eine performante Konfiguration zu finden. Hier sind jedoch einige Umgebungsvariablen, die Sie verwenden können:

• auto_retraining which allows you to complete the Auto-retraining Loop; if the variable is set to True, then the input dataset needs to be the export folder associated with the labeling session where the data is tagged; if the variable remains set to False, then the input dataset needs to correspond to the dataset format.

• model.epochs, die die Anzahl der Epochen für die Trainingspipeline anpasst (Standardwert: 100).

• Wählen Sie aus, ob die Pipeline mit der GPU oder CPU trainiert werden soll. Der Schieberegler „GPU aktivieren“ ist standardmäßig deaktiviert. In diesem Fall wird die Pipeline mit der CPU trainiert. Die Verwendung einer GPU für das Training ist mindestens 10-mal schneller als die Verwendung einer CPU. Darüber hinaus wird das Training mit der CPU nur für Datasets mit bis zu 1000 Bildern unterstützt. Bei größeren Datasets müssen Sie die GPU für das Training verwenden.

• Wählen Sie eine der Optionen aus, wann die Pipeline ausgeführt werden soll: „Jetzt ausführen“, „Zeitbasiert“ oder „Wiederkehrend“. Falls Sie die Variable auto_retraining verwenden, wählen Sie „Wiederkehrend“ aus.

  

• Nachdem Sie alle Felder konfiguriert haben, klicken Sie auf „Erstellen“. Die Pipeline wird erstellt.

Artefakte

Bei einer vollständigen Pipeline enthält der Ausgabebereich auch einen Ordner „artifacts/eval_metrics“. Dieser enthält zwei Dateien:

• evaluation_default.xlsx ist eine Excel-Tabelle mit einem nebeneinanderstehenden Vergleich der Ground Truth mit dem vorhergesagten Wert für jedes vom Modell vorhergesagte Feld sowie einer Genauigkeitsmetrik pro Dokument, um die Genauigkeit zu erhöhen. Daher werden oben die ungenausten Dokumente gezeigt, um die Diagnose und Fehlerbehebung zu erleichtern.
• evaluation_metrics_default.txt contains the F1 scores of the fields which were predicted. For line items, a global score is obtained for all columns taken together.