训练管道

重要提示：

最小数据集大小

为了成功运行训练管道，我们强烈建议数据集中的每个已标记字段至少具有 25 个文档和 10 个样本。否则，管道将引发以下错误：Dataset Creation Failed。

在 GPU 与 CPU 上进行训练

• 对于较大的数据集，您需要使用 GPU 进行训练。此外，使用 GPU（AI 机器人 Pro）进行训练至少比使用 CPU（AI 机器人）进行训练快 10 倍。
• 对于 v21.10.x ML 包，在 CPU 上训练仅支持大小不超过 5000 页的数据集，而对于其他版本的 ML 包，在 CPU 上训练的限制为最多 1000 页。
• 在 2021.10 版本之前，在 CPU 上训练的限制为 500 页，对于 2021.10 版本，其增加到 5000 页，对于 2022.4 版本，其将减少到最多 1000 页。

有两种方法可以训练 ML 模型：

• 从头开始训练模型
• 重新训练开箱即用模型

可以使用 DocumentUnderstanding ML 包从头开始训练模型，该包在作为输入提供的数据集上执行此操作。

可以使用开箱即用的 ML 包（例如发票、收据、采购订单、水电费账单、印度发票、澳大利亚发票等）重新训练模型，基本上可以使用除 Document Understanding 以外的任何其他数据提取 ML 包。使用其中一个包进行训练时会产生另外一个输入：基本模型。我们将此称为重新训练，因为您不是从头开始，而是从基本模型开始。这种方法使用了一种称为“迁移学习”的技术，模型会利用另一个预先存在的模型中编码的信息。该模型保留了一些开箱即用的知识，但也会从新数据中学习。但是，随着训练数据集大小的增加，预训练的基本模型会越来越不重要。它主要与中小型训练数据集（最多 500-800 页）相关。

按如下方式配置训练管道：

• 在“管道类型”字段中，选择“训练运行”。
• 在“选择包”字段中，选择基于 Document Understanding ML 包创建的包。
• 在“选择包主要版本”字段中，选择包的主要版本。
• 在“选择包次要版本”字段中，选择包的次要版本。强烈建议始终使用次要版本 0（零）。
• 在“选择输入数据集”字段中，选择一个具有代表性的训练数据集。
• 在“输入参数”部分中，输入管道定义和使用的任何环境变量（如果有）。对于大多数用例，不需要指定任何参数，模型将使用高级技术来查找高性能配置。但是，您可以使用以下一些环境变量：
• auto_retraining，您可借此完成自动重新训练循环；如果将该变量设置为 True，则输入数据集必须是与数据所标记的标签会话相关联的“导出”文件夹；如果仍将该变量设置为 False，则输入数据集需要对应于以下数据集格式。
• model.epochs，用于自定义训练管道的时期数（默认值为 100）。
  注意：对于包含超过 5000 页的较大数据集，您最初可以使用默认的时期数来执行完整管道运行。这使您可以评估模型的准确性。之后，您可以将时期数减少到约 30-40。此方法可用于比较结果的准确性，并确定减少历元是否会产生相当的精度。

  使用较小的数据集时，尤其是少于 5000 页的数据集，您可以维持默认的时期数。

• 选择是在 GPU 还是 CPU 上训练管道。默认情况下，“启用 GPU”滑块处于禁用状态，在这种情况下，管道将在 CPU 上进行训练。
• 请选择管道应何时运行：“立即运行”、“基于时间”或“循环”。如果您使用的是 auto_retraining 变量，请选择“循环”。
  
  

  

  
  
• 配置所有字段后，单击“创建”。已创建管道。