- Erste Schritte mit der Test Suite
- Studio
- Orchestrator
- Testing Robots
- Test Manager
Testergebnisse
Wenn Sie mit der Ausführung eines Testsatzes beginnen, durchläuft der Test Manager Folgendes:
- Eine Testausführung wird im Abschnitt Testergebnisse vom Test Manager erstellt. Dieser dient als Container für die Testergebnisse.
- Für jeden Testfall im ausgeführten Testsatz wird ein leeres Testfallprotokoll generiert. Dieses Protokoll ist an die Testausführung angehängt und enthält die zugehörigen Testergebnisse.
- Während die Ausführung fortgesetzt wird, füllt der Test Manager jedes Testfallprotokoll mit den Ergebnissen und zugehörigen Protokollinformationen aus.
Das folgende Diagramm zeigt den Prozess der Ausführung eines Testsatzes im Test Manager.
Dies hat zur Folge, dass nach der Ausführung eines Testsatzes Änderungen am Testsatz oder an den zugehörigen Testfällen keine Auswirkungen auf die Ergebnisse früherer Ausführungen haben. Auch wenn ein Testsatz gelöscht wird, bleiben alle Testausführungen unverändert.
Wer kann Projekte sehen?
Alle Benutzerrollen können Testergebnisse sehen.
Weitere Informationen finden Sie unter Benutzer- und Gruppenzugriffsverwaltung.
Um Testausführungen anzuzeigen, öffnen Sie Testergebnisse im Test Manager. Die Ausführung jedes Testsatzes wird als Testausführungseintrag aufgelistet. Wie die Testausführung hinter den Kulissen funktioniert, können Sie unter Testergebnisse nachlesen.
Durch die Analyse Ihrer Testausführung können Sie die folgenden Aktionen ausführen:
- Suchen Sie Testergebnisse, die manuell oder automatisch über den Orchestrator ausgeführt wurden.
- Überprüfen Sie den Fortschritt bei der Ausführung von Testausführungen.
- Öffnen Sie den ausgeführten Testsatz.
- Untersuchen Sie Protokolle und Anhänge.
- Erstellen Sie Defekte in Ihrem Defektverwaltungssystem direkt über den Test Manager, wenn Sie ein Application Lifecycle Management-Tool integriert haben. Weitere Informationen finden Sie unter ALM Tool-Integration.
Standardmäßig werden die Testausführungen basierend auf dem Datum sortiert, an dem die Ausführung abgeschlossen wurde. Aktuell laufende und noch nicht abgeschlossene Vorgänge werden ganz oben angezeigt.
Anhand der Farbcodes, die jeder Testausführung zugewiesen sind, können Sie den Status wie folgt erkennen:
- Grün: Bestandene Testfälle.
- Rot: Fehlgeschlagene Testfälle.
- Grey: Testfälle ohne endgültiges Ergebnis, wie z. B. solche, die noch nicht ausgeführt wurden, aber Teil eines Testsatzes sind, der gerade ausgeführt wird.
Die Ergebnisse der automatisierten Testausführungen werden automatisch aus dem Orchestrator importiert. Damit Ihre automatisierten Tests in den Test Manager importiert werden können, müssen Sie die folgende Bedingung erfüllen: Der automatisierte Test muss Teil eines Testsatzes in Ihrem Test Manager-Projekt sein. Weitere Informationen finden Sie unter Automatisierte Tests.
Das Überschreiben der Ergebnisse eines Testfalls kann in Szenarien helfen, in denen das aktuelle Testergebnis das tatsächliche Verhalten der Anwendung nicht genau widerspiegelt und eine erneute Ausführung keine effektive Lösung darstellt. Sie können die Testergebnisse eines Testfalls überschreiben und dann den Vorgang bei Bedarf löschen.
- Navigieren Sie zu Testergebnisse und öffnen Sie ein Testergebnis.
- Öffnen Sie auf der Registerkarte Ergebnisse ein Testfallprotokoll.
- Wählen Sie auf der Registerkarte Assertionen die Option Aufgaben > Ergebnis überschreiben aus.
- Konfigurieren Sie im Fenster Testergebnis überschreiben die folgenden Felder:
- Ergebnis ändern in – Auswählen, ob Sie das Ergebnis mit dem umgekehrten Status überschreiben möchten (Bestanden/Fehlgeschlagen) oder das Ergebnis auf Keines festlegen.
- Kommentar – Geben Sie den Grund ein, warum Sie das Ergebnis überschreiben.
- Wählen Sie Bestätigen aus.
Bei Testergebnissen, die Sie überschrieben haben, steht das folgende Symbol neben dem Testergebnisstatus: . Wählen Sie das Symbol aus, um die Überschreibungsdetails anzeigen.
- Wenn Sie den Überschreibungsvorgang löschen möchten, wählen Sie optional die Option neben dem Ergebnisstatus eines Testfallprotokolls.
- Wählen Sie im Fenster Überschreibungsdetails die Option Überschreibung löschen aus.
- Wählen Sie im Fenster Überschreibungsdetails die Option Überschreibung löschen aus.
- Wenn Sie den Überschreibungsvorgang bearbeiten möchten, können Sie optional die neben dem Ergebnisstatus eines Testfallprotokolls auswählen.
- Führen Sie die Änderungen aus und klicken Sie auf Bestätigen.
Um Ihre Testergebnisse schnell zu finden, verwenden Sie die Suchfunktion und die Filter. Navigieren Sie über die Seite durch Verwenden und Konfigurieren der Paginierung. Alternativ können Sie die Breadcrumbs verwenden, um zwischen den Seiten zu navigieren.
- Filter – Sie können den Filter verwenden, um Ihre Suche einzugrenzen. Sie können beispielsweise nach Testergebnissen nach Ausführungstyp, Zeitpunkt der Ausführung oder Status suchen. Die Filter werden automatisch gespeichert und aktiv gehalten, bis Sie sie löschen.
- Suche – Verwenden Sie die Suchleiste, um Testergebnisse nach Schlüssel, Ausführungstyp oder Status zu suchen (erfordert vollständige Übereinstimmung des Suchbegriffs). Sie können die Suchleiste oben auf der Seite verwenden, um nach Testergebnissen zu suchen.
Um detaillierte Ergebnisse aus einer Testausführung abzurufen, wechseln Sie zu Testergebnisse und klicken Sie auf einen Eintrag, um die detaillierte Ansicht zu öffnen. Eine typische Detailansicht einer Testausführung zeigt Informationen über den Beginn der Ausführung, die Dauer und Ausführungsprotokolle.
Mit dem Filter Meldedatum können Sie ein einziges Datum für alle Ergebnisse der Testausführung festlegen. Dies ist nützlich, wenn Sie Tests über Nacht ausführen, wo einige Testfälle vor und nach Mitternacht ausgeführt werden. Andernfalls werden die Ergebnisse in den Berichten auf verschiedene Daten verteilt.
Im Abschnitt „Ergebnisse“ können Sie alle Testfälle untersuchen, die innerhalb des Testsatzes ausgeführt wurden. Sie können für jeden Testfall Aktionen ausführen. Weitere Informationen finden Sie im Ausführungsprotokoll.
Sie können den ausgeführten Testsatz auch öffnen, indem Sie mit der rechten Maustaste auf einen Eintrag auf der Seite Testsätze klicken und Testsatz öffnenauswählen, oder direkt in der Testausführung.
Ausführungsprotokolle enthalten als Teil der Testberichterstattung Informationen wie Ausführungsdetails (z. B. Datenvariationen und Screenshots), fehlgeschlagene und bestandene Assertionen sowie ein detailliertes Protokoll der Ausführungsereignisse.
Um ein Testfallprotokoll zu öffnen, wechseln Sie zu Testergebnisse, öffnen Sie eine Testausführung und klicken Sie dann auf einen Testfallschlüssel.
In der folgenden Tabelle können Sie den Informationstyp anzeigen, der während der Testfallausführung gesammelt wird.
Testausführungsberichte |
Beschreibung |
---|---|
Assertionen | Zeigen Sie fehlgeschlagene oder bestandene Assertionen an (z. B. „Verify Expression“-Aktivität) sowie zugehörige Screenshots, sofern während der Ausführung des Testfalls welche gemacht wurden.
Um sicherzustellen, dass der Orchestrator während der Ausführung Screenshots erstellt, besuchen Sie die folgenden Ressourcen:
|
Protokolle | Zeigen Sie Protokolle auf INFO-Ebene als Teil von RobotLogs an, mit Informationen zu Prozessen, Ausführungsroboter und Ereignisprotokollen, einschließlich Fehlern.
Wählen Sie die Symbol, um zur Registerkarte Protokolle des ausgewählten Testfalls zu wechseln, um eine detaillierte Beschreibung des Fehlers zu erhalten. |
Ausführungsdetails | Zeigen Sie Details zu den Argumenten wie Eingabe- und Ausgabewerte sowie Ausführungs- und Roboterdetails an (z. B. Projekt, Maschine, Roboter). |
Betroffene Anforderungen | Zeigen Sie die Anforderungen an, die dem ausgeführten Testfall zugewiesen sind. Mit dieser Registerkarte können Sie direkt zur betroffenen Anforderung wechseln. |
Anhänge (Attachments) | Ansicht:
|
Voraussetzungen: Aktivieren Sie die Aktivitätsabdeckung für die gewünschten Testsätze entweder im Orchestrator oder im Test Manager.
- Öffnen Sie den Testsatz, wählen Sie Weitere Optionen . aus und dann Automatisiert ausführen.
- Wechseln Sie zu Testergebnisse und öffnen Sie den ausgeführten Testsatz.
- Gehen Sie zur Registerkarte Aktivitätsabdeckung und überprüfen Sie die Informationen zu den Aktivitäten, die während der Testausführung abgedeckt wurden.
Sie können Defektberichte inklusive des Ausführungsprotokolls für Ihr externes Defektverwaltungssystem erstellen, wenn Sie es bereits im Test Manager integriert haben. Weitere Informationen finden Sie unter ALM Tool-Integration.
Um einen Defekt aus einem Ausführungsprotokoll zu erstellen, müssen Sie ein Testfallprotokoll öffnen, auf Aufgaben klicken und dann Defekt erstellen auswählen. Nachdem der Defekt erstellt wurde, ist im Ausführungsprotokoll ein Link verfügbar, mit dem Sie auf das integrierte externe Tool zugreifen können.
Sie können Ausführungsergebnisse im Rahmen der Integration von Application Lifecycle Management-Tools mit externen Tools synchronisieren. Informationen, die während der Ausführung gesammelt werden, z. B. Ergebnisse, Protokolle, Zeitstempel und andere Details, werden mit dem Tool synchronisiert, das Sie im Test Manager integriert haben.
Bitte beachten Sie, dass derzeit pro Projekt insgesamt nur eine Verbindung für die Defektsynchronisation aktiviert sein kann.
- Um Defekte zu synchronisieren, müssen Sie einen Connector in Test Manager konfigurieren. Sie können verfügbare Verbindungen im Test Manager anzeigen.
- Sie müssen zuerst einen Testsatz ausgeführt haben.
Alle Benutzerrollen außer schreibgeschützt können Fehler synchronisieren.
Weitere Informationen finden Sie unter Benutzer- und Gruppenzugriffsverwaltung.
Sie können Defekte erstellen, wenn Sie auf die Testfallprotokolle auf der Seite Testergebnisse zugreifen.
Der Defekt wird erstellt und mit Ihrem externen Tool synchronisiert. Sie können den Defekt direkt im Tool öffnen (z. B. Atlassian Jira), indem Sie zum Ergebnis der Testausführung navigieren, das einen synchronisierten Defekt hat.
Wenn Sie die Verknüpfung von Fehlern mit einem externen Tool aufheben, bleibt der im Tool erstellte Eintrag unverändert. Im Test Manager wird das Ergebnis der Testausführung nicht mit einem externen Tool verknüpft.
- Zu den Testergebnissen navigieren
- Öffnen Sie ein Testergebnis und klicken Sie dann auf Aufgaben.
- Wählen Sie Verknüpfung mit Defekt aufheben aus.
- Testergebnisse analysieren
- Ergebnisse von automatisierten Tests
- Überschreiben von Testergebnissen
- Navigation & Suche
- Arbeiten mit Testausführungsergebnissen
- Ausführungsprotokoll
- Aktivitätsabdeckung anzeigen
- Fehler aus Testergebnissen erstellen
- Ähnliche Artikel
- Synchronisierung von Defekten
- Wer kann Fehler synchronisieren?
- Defekt erstellen
- Verknüpfung mit Defekt aufheben