Test Suite

2023.4

False

Test Suite-Benutzerhandbuch

Letzte Aktualisierung 28. Feb. 2024

Testergebnisse

Wenn Sie mit der Ausführung eines Testsatzes beginnen, durchläuft der Test Manager Folgendes:

Eine Testausführung wird im Abschnitt Testergebnisse vom Test Manager erstellt. Dieser dient als Container für die Testergebnisse.
Für jeden Testfall im ausgeführten Testsatz wird ein leeres Testfallprotokoll generiert. Dieses Protokoll ist an die Testausführung angehängt und enthält die zugehörigen Testergebnisse.
Während die Ausführung fortgesetzt wird, füllt der Test Manager jedes Testfallprotokoll mit den Ergebnissen und zugehörigen Protokollinformationen aus.

Hinweis: Jedes Mal, wenn eine Testausführung erstellt wird, werden Testfallprotokolle für alle zugehörigen Testfälle aus dem ursprünglichen Testsatz hinzugefügt. Das bedeutet, dass vorhandene Testausführungen konsistent bleiben, unabhängig von Aktualisierungen oder Löschungen, die am ursprünglichen Testsatz vorgenommen werden.

Das folgende Diagramm zeigt den Prozess der Ausführung eines Testsatzes im Test Manager.

Dies hat zur Folge, dass nach der Ausführung eines Testsatzes Änderungen am Testsatz oder an den zugehörigen Testfällen keine Auswirkungen auf die Ergebnisse früherer Ausführungen haben. Auch wenn ein Testsatz gelöscht wird, bleiben alle Testausführungen unverändert.

Wer kann Projekte sehen?

Alle Benutzerrollen können Testergebnisse sehen.

Weitere Informationen finden Sie unter Benutzer- und Gruppenzugriffsverwaltung.

Testergebnisse analysieren

Um Testausführungen anzuzeigen, öffnen Sie Testergebnisse in Test Manager. Die Ausführung jedes Tests wird als Testausführungseintrag aufgelistet. Wie die Testausführung hinter den Kulissen funktioniert, können Sie unter Testergebnisse nachlesen.

Durch die Analyse Ihrer Testausführung können Sie die folgenden Aktionen ausführen:

Suchen Sie Testergebnisse, die manuell oder automatisch über den Orchestrator ausgeführt wurden.
Überprüfen Sie den Fortschritt bei der Ausführung von Testausführungen.
Öffnen Sie den ausgeführten Testsatz.
Untersuchen Sie Protokolle und Anhänge.
Erstellen Sie Defekte in Ihrem Defektverwaltungssystem direkt über den Test Manager, wenn Sie ein Application Lifecycle Management-Tool integriert haben. Weitere Informationen finden Sie unter ALM Tool-Integration.

Standardmäßig werden die Testausführungen basierend auf dem Datum sortiert, an dem die Ausführung abgeschlossen wurde. Aktuell laufende und noch nicht abgeschlossene Vorgänge werden ganz oben angezeigt.

Anhand der Farbcodes, die jeder Testausführung zugewiesen sind, können Sie den Status wie folgt erkennen:

Grün: Bestandene Testfälle.
Rot: Fehlgeschlagene Testfälle.
Grey: Testfälle ohne endgültiges Ergebnis, wie z. B. solche, die noch nicht ausgeführt wurden, aber Teil eines Testsatzes sind, der gerade ausgeführt wird.

Ergebnisse von automatisierten Tests

Die Ergebnisse der automatisierten Testausführungen werden automatisch aus dem Orchestrator importiert. Damit Ihre automatisierten Tests in den Test Manager importiert werden können, müssen Sie die folgenden Bedingungen erfüllen:

Integrieren Sie Test Manager in den Orchestrator.
Der automatisierte Test muss Teil eines Testsatzes in Ihrem Test Manager-Projekt sein. Weitere Informationen finden Sie unter Automatisierte Tests.

Hinweis: Wenn eine Testausführung vom Orchestrator Ergebnisse für Testfälle aus mehreren Projekten in Test Manager enthält, wird die Testausführung in Test Manager aufgeteilt. Die Ergebnisse werden in den Projekten angezeigt, in denen sich die Testfälle befinden.

Navigation & Suche

Um Ihre Testergebnisse schnell zu finden, verwenden Sie die Suchfunktion und die Filter. Navigieren Sie über die Seite durch Verwenden und Konfigurieren der Paginierung. Alternativ können Sie die Breadcrumbs verwenden, um zwischen den Seiten zu navigieren.

Filter – Sie können den Filter verwenden, um Ihre Suche einzugrenzen. Sie können beispielsweise nach Testergebnissen nach Ausführungstyp, Zeitpunkt der Ausführung oder Status suchen. Die Filter werden automatisch gespeichert und aktiv gehalten, bis Sie sie löschen.
Suche – Verwenden Sie die Suchleiste, um Testergebnisse nach Schlüssel, Ausführungstyp oder Status zu suchen (erfordert vollständige Übereinstimmung des Suchbegriffs). Sie können die Suchleiste oben auf der Seite verwenden, um nach Testergebnissen zu suchen.

Arbeiten mit Testausführungsergebnissen

Um detaillierte Ergebnisse aus einer Testausführung abzurufen, wechseln Sie zu Testergebnisse und klicken Sie auf einen Eintrag, um die detaillierte Ansicht zu öffnen. Eine typische Detailansicht einer Testausführung zeigt Informationen über den Beginn der Ausführung, die Dauer und Ausführungsprotokolle.

Mit dem Filter Meldedatum können Sie ein einziges Datum für alle Ergebnisse der Testausführung festlegen. Dies ist nützlich, wenn Sie Tests über Nacht ausführen, wo einige Testfälle vor und nach Mitternacht ausgeführt werden. Andernfalls werden die Ergebnisse in den Berichten auf verschiedene Daten verteilt.

Im Abschnitt „Ergebnisse“ können Sie alle Testfälle untersuchen, die innerhalb des Testsatzes ausgeführt wurden. Sie können für jeden Testfall Aktionen ausführen. Weitere Informationen finden Sie im Ausführungsprotokoll.

Sie können den ausgeführten Testsatz auch öffnen, indem Sie mit der rechten Maustaste auf einen Eintrag auf der Seite Testsätze klicken und Testsatz öffnenauswählen, oder direkt in der Testausführung.

Ausführungsprotokoll

Ausführungsprotokolle enthalten als Teil der Testberichterstattung Informationen wie Ausführungsdetails (z. B. Datenvariationen und Screenshots), fehlgeschlagene und bestandene Assertionen sowie ein detailliertes Protokoll der Ausführungsereignisse.

Um ein Testfallprotokoll zu öffnen, wechseln Sie zu Testergebnisse, öffnen Sie eine Testausführung und klicken Sie dann auf einen Testfallschlüssel.

In der folgenden Tabelle können Sie den Informationstyp anzeigen, der während der Testfallausführung gesammelt wird.

Testausführungsberichte	Beschreibung
Assertionen	Zeigen Sie fehlgeschlagene oder bestandene Assertionen an (z. B. „Verify Expression“-Aktivität) sowie zugehörige Screenshots, sofern während der Ausführung des Testfalls welche gemacht wurden. Um sicherzustellen, dass der Orchestrator während der Ausführung Screenshots erstellt, besuchen Sie die folgenden Ressourcen: Standardrollen im Orchestrator – Um zu überprüfen, ob den Standardrollen die Berechtigung für Artefakte der Testfallausführung zugewiesen ist. Falls die Standardrollen nicht über diese Berechtigung verfügen, können Sie eine benutzerdefinierte Rolle mit dieser Berechtigung erstellen. Verwalten von Rollen im Orchestrator – Erfahren Sie, wie Sie eine Rolle im Orchestrator erstellen, bearbeiten oder importieren.
Protokolle	Zeigen Sie Protokolle auf INFO-Ebene als Teil von `RobotLogs`an, mit Informationen zu Prozessen, Ausführungsroboter und Ereignisprotokollen, einschließlich Fehlern. Wählen Sie die Symbol, um zur Registerkarte Protokolle des ausgewählten Testfalls zu wechseln, um eine detaillierte Beschreibung des Fehlers zu erhalten.
Ausführungsdetails	Zeigen Sie Details zu den Argumenten wie Eingabe- und Ausgabewerte sowie Ausführungs- und Roboterdetails an (z. B. Projekt, Maschine, Roboter).
Betroffene Anforderungen	Zeigen Sie die Anforderungen an, die dem ausgeführten Testfall zugewiesen sind. Mit dieser Registerkarte können Sie direkt zur betroffenen Anforderung wechseln.
Anhänge (Attachments)	Ansicht: die Anhänge, die mit der Aktivität Attach Document hochgeladen wurden. die Anhänge eines Testfallergebnisses, das über den Orchestrator verknüpft ist.

Aktivitätsabdeckung anzeigen

Hinweis: Die Abdeckungsberechnung für Aktivitäten ist nur für Testsätze verfügbar, die im Orchestrator erstellt wurden und bei denen die Abdeckungsberechnung aktiviert ist. Informationen zum Aktivieren der Abdeckungsberechnung finden Sie unter Erstellen von Testsätzen im Orchestrator.

Voraussetzungen: Die Testfälle, die Sie im Orchestrator veröffentlicht haben, verknüpfen sie auch mit dem Test Manager. Denn für die Anzeige der Aktivitätsabdeckung im Test Manager müssen die Testfälle sowohl mit dem Orchestrator als auch dem Test Manager verknüpft sein.

Wählen Sie Abdeckungsberechnung aktivieren für einen Testsatz aus, wenn Sie ihn im Orchestrator erstellen oder bearbeiten.
Öffnen Sie den Test Manager und verknüpfen Sie den Testsatz im Orchestrator.
Öffnen Sie den Testsatz und wählen Sie Weitere Optionen und dann Automatisiert ausführen aus.
Die Aktivitätsabdeckung ist nur für automatisierte Testausführungen verfügbar.
Wechseln Sie zu Testergebnisse und öffnen Sie den ausgeführten Testsatz.
Gehen Sie zur Registerkarte Aktivitätsabdeckung und überprüfen Sie die Informationen zu den Aktivitäten, die während der Testausführung abgedeckt wurden.

Fehler aus Testergebnissen erstellen

Sie können Defektberichte inklusive des Ausführungsprotokolls für Ihr externes Defektverwaltungssystem erstellen, wenn Sie es bereits im Test Manager integriert haben. Weitere Informationen finden Sie unter ALM Tool-Integration.

Um einen Defekt aus einem Ausführungsprotokoll zu erstellen, müssen Sie ein Testfallprotokoll öffnen, auf Aufgaben klicken und dann Defekt erstellen auswählen. Nachdem der Defekt erstellt wurde, ist im Ausführungsprotokoll ein Link verfügbar, mit dem Sie auf das integrierte externe Tool zugreifen können.

Synchronisierung von Defekten

Sie können Ausführungsergebnisse im Rahmen der Integration von Application Lifecycle Management-Tools mit externen Tools synchronisieren. Informationen, die während der Ausführung gesammelt werden, z. B. Ergebnisse, Protokolle, Zeitstempel und andere Details, werden mit dem Tool synchronisiert, das Sie in Test Manager integriert haben.

Bitte beachten Sie, dass derzeit pro Projekt insgesamt nur eine Verbindung für die Defektsynchronisation aktiviert sein kann.

Hinweis:

Um Fehler zu synchronisieren, müssen Sie einen Connector in Test Manager konfigurieren. Sie können verfügbare Verbindungen im Test Manager anzeigen.
Sie müssen zuerst einen Testsatz ausgeführt haben.

Wer kann Fehler synchronisieren?

Alle Benutzerrollen außer schreibgeschützt können Fehler synchronisieren.

Weitere Informationen finden Sie unter Benutzer- und Gruppenzugriffsverwaltung.

Defekt erstellen

Sie können Defekte erstellen, wenn Sie auf die Testfallprotokolle auf der Seite Testergebnisse zugreifen.

Zu den Testergebnissen navigieren
Öffnen Sie ein Testergebnis und klicken Sie auf den Testfallschlüssel, um die Protokolle zu öffnen.
Klicken Sie auf Aufgaben und wählen Sie Defekt erstellen aus.

Der Defekt wird erstellt und mit Ihrem externen Tool synchronisiert. Sie können den Defekt direkt im Tool öffnen (z. B. Atlassian Jira), indem Sie zum Ergebnis der Testausführung navigieren, das einen synchronisierten Defekt hat.

Verknüpfung mit Defekt aufheben

Wenn Sie die Verknüpfung von Fehlern mit einem externen Tool aufheben, bleibt der im Tool erstellte Eintrag unverändert. Im Test Manager wird das Ergebnis der Testausführung nicht mit einem externen Tool verknüpft.