验证预测值
在 UiPath Maestro™ Flow 的“提取”节点中验证 IXP 模型预测,以在优化提示指令后建立基础事实,而无需直接用批注训练模型。
概述
模型目前无法直接从用户标注中学习。要提高模型的性能,请修改您的提示指令或模型配置。
在您对提示指令感到满意后,您可以开始验证模型的预测,为其性能评估建立基础。在此之前,您必须了解预测和参考之间的差异。
预测和参考
预测是预测值,会与真值进行比较。
注意:预测不正确或缺失会影响“评估运行”选项卡中的模型分数和性能指标。
引用是对在文档中找到的预测值的匹配引用。参考旨在帮助用户找到文档中正确的部分。
不正确或缺失的引用不会影响模型分数或性能指标。但是,添加或更正引用可能有助于改善人工验证的体验。
引用和突出显示的跨度存在已知的限制,是我们需要优先改进的关键问题之一。
您可能会遇到以下情况之一:
- 正确的预测和正确的引用,但突出显示的跨度有误。通常,这是找到的第一个匹配项。
- 预测正确,但缺少引用或/且未突出显示跨度。在这些场景中,我们提供页码作为备用方法。
预测和参考是独立的。这意味着缺失或不正确的引用不会影响预测值。
验证预测值
在批注视图中,每个提取的值都会在文档中高亮显示其字段的颜色,如批注面板中字段名称旁边所示。提取的值会如下所示突出显示:
-
填充色- 提取值。已确认和未确认的值的填充内容相同。要检查某个值是否已确认,请使用批注面板中的该复选框:选中复选框表示已确认的值,清除复选框表示未确认的值。
-
实线边框- 选定的值。当您在批注面板中选择一个值时,该值在文档中的高亮显示会显示实线边框。
要验证预测值,请按照以下步骤操作:
-
将鼠标悬停在“流程提取”节点上,然后选择“打开完整视图” 。
-
在“数据集”选项卡中,为要验证的文档选择“标注” 。该模型突出显示文档中的文本的相关跨度,并在批注面板中显示生成的预测。适用于字段组多个实例的值(例如账户号码)具有箭头按钮,以帮助跳转到相关部分。当您将鼠标指向值时,系统会显示这些按钮。
-
通过以下方式之一查看预测并确认提取的值:
- 要确认单个值,请选中其复选框。
- 要确认整个字段组行,请选中该行复选框。
备注:您所做的任何更改未提交,都将保存为草稿,您稍后可以返回并更新。有关更多详细信息,请查看“草稿注释” 。
-
选择“提交” ,以提交您的批注。
您可以随时在“定义”选项卡中配置提取架构中的其他字段。
在 Action Center 中验证预测值的示例
停止验证
建议您为每个字段至少验证 10 个示例,以便模型可以提供有意义的验证统计信息。
已确认和未确认的引用和值
验证流程包括以下步骤:
- 确认提取的值是否正确。
- 如果预测值不正确,则批注预期值。
- 如果文档中不存在这些字段,则将其标记为“缺失”。
- 配置提取架构中的其他字段。
本节显示了值和引用在确认状态(已验证)和未确认状态(未验证)时的外观。
您所做的任何更改未提交,都将保存为草稿,您稍后可以返回并更新。有关更多详细信息,请查看“草稿注释” 。
预测值
未确认值
没有值标记为“已确认”:
图 1. 未确认值
已确认
引用会以实线边框的形式突出显示:
图 2. 已确认的参考
值已标记为“已确认”:
图 3. 已确认的值
已验证的值
本节包含模型预测与用户标注匹配或不匹配的示例场景。
当批注与预测匹配时,值将如下所示:
图 4. 正确预测
当批注与预测不匹配时,值将如下所示:
图 5. 预测不正确
将预测结果与注释进行比较,而不是与参考进行比较。引用可能缺失或不正确,但这不会被标记为不匹配。
批注预期值
当预测值不正确时,请批注预期值。批注设置了评估运行时与模型预测进行比较的基本事实,即真正的预期值。它不会更改模型或其未来预测。
要批注预期值,请按以下步骤:
-
在批注面板中,选择字段的省略号,然后选择“更改提取的值” 。对于没有值(显示“缺失” )的字段,请选择加号图标。
-
在文档中突出显示正确值。
备注:您所做的任何更改未提交,都将保存为草稿,您稍后可以返回并更新。有关更多详细信息,请查看“草稿注释” 。
编辑值
在“流提取”节点的批注视图中,按以下方式编辑值:
-
选择“添加值”以创建一个在文档中未引用的新值。
-
选择字段的省略号,以使用以下选项之一:
- 更改提取值
- 还原为上一个值
- 标记为缺少
-
选择字段组行的省略号,以使用以下选项之一:
- 高亮显示行
- 删除行
-
通过选中每个值或字段组行的复选框来确认值。
备注:您所做的任何更改未提交,都将保存为草稿,您稍后可以返回并更新。有关更多详细信息,请查看“草稿注释” 。
要将字段组的每个实例显示为表格中的行,而不是批注面板中的列表,请转到“定义”选项卡,选择字段组的省略号,然后启用“显示为表格” 。
草稿批注
在您将文档中的值和引用作为批注提交给模型之前,您对文档中的值和引用进行的任何编辑都将存储为草稿批注。因此,文档状态显示为“正在进行” ,而对于已批注的文档,其状态显示为“已批注(编辑中)” 。要放弃草稿,请选择放弃草稿。
在您进行更改时,之前提到的所有操作(例如,验证、批注和编辑值,然后提交批注)都将保留为草稿。
如果您在文档处于草稿状态时刷新预测,系统会在重新填充新预测时保留草稿批注,并将模型中的新预测集与草稿批注进行匹配。