测试结果
当您开始执行测试集时,Test Manager 将经历以下过程:
- 系统将在 Test Manager 的“测试结果”部分中创建测试执行。这将用作测试结果的容器。
- 对于已执行的测试集中的每个测试用例,都会生成一个空的测试用例日志。此日志会附加到测试执行,并将保存其关联的测试结果。
- 随着执行的继续,Test Manager 会在每个测试用例日志中填充结果和相关日志信息。
下图说明了在 Test Manager 中执行测试集的过程。
因此,在执行测试集后,对测试集或其关联的测试用例进行的任何更改都不会影响先前执行的结果。即使删除测试集,所有测试执行也保持不变。
谁可以查看项目
所有用户角色都可以查看测试结果。
有关更多信息,请参阅“用户和组访问管理”。
要查看测试执行情况,请在 Test Manager 中打开测试结果。每个测试的执行都作为测试执行条目列出。要了解测试执行在后台的工作方式,请参阅“测试结果”。
通过分析测试执行,您可以采取以下操作:
- 查找已通过 Orchestrator 手动或自动执行的测试结果。
- 检查运行测试执行的进度。
- 打开已执行的测试集。
- 检查日志和附件。
- 如果您有应用程序生命周期管理工具集成,则直接从 Test Manager 中创建缺陷管理系统。有关更多信息,请参阅“ALM 工具集成”。
默认情况下,测试执行根据执行完成日期进行排序。当前正在运行和待处理的执行位于顶部。
您可以通过分配给每个测试执行的颜色代码来识别状态,如下所示:
- 绿色:通过的测试用例。
- 红色: 失败的测试用例。
- 灰色: 没有明确结果的测试用例,例如尚未执行但属于当前正在执行的测试集的一部分的测试用例。
自动化测试执行的结果会自动从 Orchestrator 导入。要将自动化测试导入 Test Manager,您需要满足以下条件:
- 自动化测试需要是 Test Manager 项目测试集的一部分。有关更多信息,请参阅“自动化测试”。
注意:如果 Orchestrator 中的测试执行包含 Test Manager 中多个项目的测试用例的结果,则测试执行将在 Test Manager 中拆分。结果显示在测试用例所在的项目中。
在当前测试结果未准确反映应用程序的实际行为且重新执行不是有效解决方案的情况下,覆盖测试用例的结果可能会有所帮助。您可以覆盖测试用例的测试结果,然后根据需要清除操作。
- 导航到“测试结果”并打开测试结果。
- 从“结果”选项卡中打开测试用例日志。
- 在“断言”选项卡中,选择“任务”>“覆盖结果”。
- 在“覆盖测试结果”窗口中,配置以下字段:
- 将结果更改为 - 选择是否要覆盖具有相反状态(通过/失败)的结果,或将结果设置为“无”。
- “评论”- 输入覆盖结果的原因。
- 选择“确认”。
您覆盖的测试结果在测试结果状态旁边具有以下图标:。选择图标,即可查看覆盖详细信息。
- 或者,如果要清除覆盖操作,请选择测试用例日志的结果状态旁边的图标 。
- 在“覆盖详细信息”窗口中,选择“清除覆盖”。
- 在“覆盖详细信息”窗口中,选择“清除覆盖”。
- 或者,如果要编辑覆盖操作,请选择测试用例日志的结果状态旁边的图标 。
- 执行更改,然后单击“确认”。
要快速查找测试结果,请使用搜索功能和筛选器。使用并配置分页器,在页面中导航。或者,您可以使用面包屑导航在页面之间导航。
- 筛选器 - 您可以使用筛选器来缩小搜索范围。 例如,您可以按执行类型、执行完成时间或状态搜索测试结果。 筛选器将自动保存并保持活动状态,直到您将其清除。
- 搜索 - 使用搜索栏按键、执行类型或状态查找测试结果(需要完整的搜索词匹配)。您可以使用页面顶部的搜索栏来查找测试结果。
要查看详细的测试结果,请转到测试结果。
- 测试集:用于测试执行中的标准结果跟踪。
- 测试用例:根据不包括测试执行属性的条件筛选结果时用于交叉执行分析。
您可以使用“报告日期”筛选器针对测试执行的所有结果设置统一日期。当您在一夜之间运行测试时,这非常有用,其中一些测试用例在午夜之前和之后执行,以防止结果拆分到单独的日期。
在“结果”部分中,您可以检查测试集中所有已执行的测试用例,并根据需要对每个用例执行操作。有关更多信息,请参阅执行日志部分。
您也可以通过右键单击“ 测试集 ” 页面中的条目并选择“ 打开测试集” 打开已执行的测试集,也可以直接在测试执行中打开。
作为测试报告的一部分,执行日志保存诸如执行详细信息(例如,数据变化和屏幕截图)、失败和通过的断言以及执行事件的详细日志等信息。
要打开测试用例日志,请转到“测试结果”,打开测试执行,然后单击测试用例“密钥”。
在下表中,您可以查看在测试用例执行期间收集的信息类型。
测试执行报告 |
描述 |
---|---|
断言 | 查看失败或通过的断言(例如,验证表达式活动),以及在测试用例执行期间截取的相关屏幕截图。
要确保 Orchestrator 在执行期间截取屏幕截图,请访问以下资源:
|
日志 | 查看 RobotLogs 中的 INFO 级别日志,其中包含有关流程、执行机器人和事件日志(包括失败)的信息。
选择 图标以转到所选测试用例的“ 日志 ” 选项卡,以获取有关失败的详细说明。 |
执行详情 | 查看参数详细信息,例如输入和输出值,以及执行和机器人详细信息(例如,项目、计算机、机器人)。 |
受影响的要求 | 查看分配给已执行的测试用例的要求。您可以使用此选项卡直接转到受影响的需求。 |
附件 | 查看:
|
先决条件:在 Orchestrator 或 Test Manager 中针对所需测试集启用活动覆盖率。
- 打开测试集,选择“更多选项”,然后选择“执行自动化”。
- 转到“测试结果”并打开您执行的测试集。
- 转到“活动覆盖率”选项卡,并调查有关测试执行期间所涵盖活动的信息。
作为应用程序生命周期管理工具集成的一部分,您可以将执行结果与外部工具同步。执行期间收集的信息(例如结果、日志、时间戳和其他详细信息)将与您与 Test Manager 集成的工具同步。
请注意,目前每个项目只能有一个整体上启用缺陷同步的连接。
- 要同步缺陷,您需要在 Test Manager 中配置连接器。查看 Test Manager 中的可用连接。
- 您需要先执行测试集。
您可以在“测试结果”页面中访问测试用例日志时创建缺陷。
系统将创建缺陷并将其与您的外部工具同步。您可以导航到具有同步缺陷的测试执行结果,直接在工具中打开缺陷(例如 Atlassian Jira)。
在 AI(人工智能)的支持下,“失败的测试报告”为您提供测试结果的实际摘要。您可以通过选择一组特定的测试结果来生成此报告。系统会存储您创建的每个报告,并且您可以随时通过“测试结果”下的“见解”选项卡进行访问。
该报告最多可以包含五个部分,每个部分都显示自动化测试中遇到的问题。 选择“显示”以查看受影响的测试用例并进行搜索。
名称 | 描述 |
---|---|
概述 | 为报告选择的测试结果的概述,显示有关平均失败率、测试集失败率以及按严重性划分的错误百分比的信息。 |
失败最多的测试 | 显示失败最频繁的测试用例,您可以直接访问这些用例。 |
常见错误 | 突出显示测试执行期间遇到的最常见错误。 |
错误模式 | 对错误进行分类,并可让您据此识别故障模式。这有助于更轻松地进行故障排除和解决。 |
建议 | 提供最佳实践,以防止出现在所选测试执行中遇到的错误。 |
- 在 Test Manager 中打开项目。
- 转到“测试结果”,然后选择“生成见解”。
- 在“结果”表格中,选择要包含在报告中的测试结果。
- (可选)您可以按以下方式筛选测试结果:
- 关键字 - 使用搜索栏。
- 执行类型 - 执行的类型。
- 执行已完成 - 执行完成时间。
- 状态 - 执行状态。
- 选择“生成报告”。
生成流程完成后,您将收到有关其状态的应用内通知和电子邮件:“就绪”或“失败”。
- 如果报告已准备就绪,请在电子邮件通知中选择“Insights 报告已就绪”通知或“打开报告”,以访问报告。如果报告失败,您可以重新生成报告。
- 为报告的每个部分选择“显示”,以查看受特定错误或建议影响的测试用例。
- 导航至“测试结果”中的“见解”选项卡。
- (可选)要重命名 Insights 报告,请选择“更多选项”,然后选择“重命名”。
- 选择“下载” 按钮。
“失败的测试报告”将以 DOCX 文件格式下载。
AI Trust Layer 监管策略允许您在组织内管理 AI 驱动的功能的使用。尽管所有成员都默认具有对这些功能的访问权限,但您可以根据需要使用此策略来限制访问。AI Trust Layer 监管策略使您能够在用户、组或租户级别限制用户对某些 AI 驱动的功能或全部功能的访问。此外,它还使您能够决定用户可以访问哪些 AI 产品。您可以在 AutomationOps 中创建、修改和实施此监管策略。
如果您想部署 AI Trust Layer 监管策略并仍使用 AI 驱动的测试功能,请确保在策略的“功能切换”中,将“启用 Test Manager 功能”选择为“是”。
查看以下资源,了解如何为组织创建、配置和部署监管策略。