Analyser les résultats de test

Pour afficher les exécutions de test, ouvrez Exécution dans Test Manager. L’exécution de chaque test est répertoriée sous la forme d’une entrée d’exécution de test. Pour comprendre comment les exécutions de test fonctionnent en arrière-plan, consultez Exécution.

En analysant l'exécution de vos tests, vous pouvez effectuer les actions suivantes :

• Recherchez les résultats de test qui ont été exécutés manuellement ou automatiquement via Orchestrator.
• Vérifiez la progression de l'exécution des exécutions de tests.
• Ouvrez l’ensemble de tests qui a été exécuté.
• Examinez les journaux et les pièces jointes.
• Créez des défauts dans votre système de gestion des défauts directement à partir de Test Manager, si vous disposez d’une intégration d’outil de gestion du cycle de vie des applications. Pour plus d’informations, consultez Intégration ALM Tool.

Par défaut, les exécutions de tests sont triées en fonction de la date à laquelle chaque exécution s'est terminée. Les exécutions en cours et en attente sont placées en premier.

Vous pouvez identifier le statut grâce aux codes couleur attribués à chaque exécution de test, comme suit :

• Vert : cas de test qui ont réussi.
• Rouge : cas de test qui ont échoué.
• Gris : cas de test sans résultats définitifs, tels que des cas de test qui n'ont pas encore été exécutés mais qui font partie d'un ensemble de test en cours d'exécution.

Résultats de test automatisés

Les résultats des exécutions de tests automatisés sont automatiquement importés à partir d’Orchestrator. Pour que vos tests automatisés soient importés dans Test Manager, vous devez remplir les conditions suivantes :

• Le test automatisé doit faire partie d’un ensemble de test par rapport à votre projet Test Manager. Pour plus d’informations, consultez la section Tests automatisés.
  Remarque : si une exécution de test d’Orchestrator contient des résultats pour des cas de test de plusieurs projets dans Test Manager, l’exécution de test est divisée dans Test Manager. Les résultats apparaissent dans les projets où se trouvent les cas de test.

Remplacer les résultats de test

Le remplacement des résultats d’un cas de test peut être utile dans les cas où le résultat du test actuel ne reflète pas avec précision le comportement réel de l’application et où le fait d’exécuter à nouveau le test ne constitue pas une solution efficace. Vous pouvez remplacer les résultats de test d’un cas de test, puis vous pouvez effacer l’opération, le cas échéant.

1. Accédez à Exécution et ouvrez un résultat de test.
2. Dans l'onglet Résultats (Results), ouvrez un journal de cas de test.
3. Dans l'onglet Assertions, sélectionnez Tâches (Tasks) > Remplacer le résultat (Override result).
4. Dans la fenêtre Remplacer le résultat du test (Override test result), configurez les champs suivants :
   1. Remplacer le résultat par (Change result to) : déterminez si vous souhaitez remplacer le résultat par le statut opposé (Réussi (Passed)/Échec (Failed)) ou définissez le résultat sur Aucun (None).
   2. Commentaire : saisissez la raison pour laquelle vous remplacez le résultat.
5. Sélectionnez Confirmer (Confirm).

   Les résultats de test que vous avez remplacés présentent l'icône suivante à côté du statut du résultat du test : . Sélectionnez l'icône pour afficher les détails du remplacement.

   Figure 1. Le message « Résultat du test remplacé avec succès »
   

   

   
   
6. À titre facultatif, si vous souhaitez effacer l'opération de remplacement, vous pouvez sélectionner l'élément à côté du statut du résultat d'un journal de cas de test.
   1. Dans la fenêtre Détails du remplacement (Override details), sélectionnez Effacer le remplacement (Clear override).
      Figure 2. Le menu Remplacer les détails ( Override details )
      

      

      
      
7. À titre facultatif, si vous souhaitez modifier l'opération de remplacement, vous pouvez sélectionner l'élément à côté du statut du résultat d'un journal de cas de test.
   1. Effectuez les modifications et cliquez sur Confirmer.

Navigation et recherche

Pour rechercher rapidement vos éléments de test, utilisez la fonction de recherche ainsi que les filtres. Naviguez dans la page en utilisant et en configurant l’outil de pagination. Vous pouvez également utiliser le fil d'Ariane pour naviguer entre les pages.

1. Filtres : vous pouvez utiliser les filtres pour affiner votre recherche. Vous pouvez par exemple rechercher des résultats de test selon les critères suivants :
   1. Libellés
   2. ExecutionType
   3. Exécution terminée
   4. État (Status)

   Les filtres sont automatiquement enregistrés et restent actifs jusqu'à ce que vous les effaciez.

2. Rechercher - Utilisez la barre de recherche pour trouver des cas de test selon leur clé, leur nom ou leur libellé (nécessite une correspondance complète des termes de recherche). Vous pouvez utiliser la barre de recherche en haut de la page pour rechercher les résultats des tests.

Utiliser les résultats d'exécution de tests

Pour afficher les résultats de test détaillés, accédez à Exécution.

Dans l’onglet Résultats, sélectionnez Afficher par et choisissez l’affichage de votre choix pour les résultats de test. Vous pouvez sélectionner l’une des vues suivantes :

• Ensemble de tests : les résultats des tests sont regroupés par exécution de test (ensemble de test).
• Cas de test : pour une analyse croisée des exécutions lors du filtrage des résultats, selon des critères excluant les attributs des exécution des tests.
  
  

  

  
  

Sélectionnez une entrée afin d’ouvrir la vue détaillée. Une vue détaillée d’exécution de test type affiche des informations sur le début des exécutions, leur durée et les journaux d’exécution.

Vous pouvez accéder au journal d'exécution d'un cas de test à partir de la vue Cas de test (Test Case) en sélectionnant la puce de résultat pertinente. Si la postcondition d’un cas de test n’a pas été remplie lors d’une exécution manuelle, le journal de cas de test affiche une exception avec une icône Info . Le message d'exception indique : Exception lors de l'exécution. Consultez les journaux pour en savoir plus. En sélectionnant ce message, vous accédez à l'onglet Détails de l'exécution ( Execution details ) du journal de cas de test correspondant.

Vous pouvez utiliser le filtre Date de rapport (Reporting Date) pour définir une date unique pour tous les résultats de l’exécution de test. Cela est utile lorsque vous exécutez des tests au cours de la nuit et que certains cas de test sont exécutés avant et après minuit, en empêchant les résultats d’être divisés en deux dates distinctes.

Dans l’onglet Résultats , vous pouvez examiner tous les cas de test exécutés dans l’ensemble de test et effectuer des actions sur n’importe lequel d’entre eux, si nécessaire. Pour plus d’informations, consultez la section Journal d’exécution .

Vous pouvez également ouvrir l'ensemble de tests exécuté en cliquant avec le bouton droit sur une entrée de la page Ensembles de tests ( Test Sets ) et en sélectionnant Ouvrir l'ensemble de tests ( Open Test Set) , ou directement dans l'exécution du test.

Journal d'exécution

Dans le cadre des rapports de test, les journaux d'exécution contiennent des informations telles que les détails d'exécution (par exemple, la variation des données et les captures d'écran), les assertions échouées et réussies, et un journal détaillé des événements d'exécution.

Pour ouvrir un journal de cas de test, accédez à Exécutions(Executions), ouvrez une exécution de test, puis sélectionnez une Clé ( Key) de cas de test ou un résultat.

Graphique 3. Présentation des détails d'exécution d'un journal de cas de test

Dans la table suivante, vous pouvez afficher le type d'informations collectées lors de l'exécution du cas de test.

Rapport d'exécution de test	Description
Assertions	Affichez les assertions échouées ou réussies (via l'activité Vérifier l'expression (Verify expression), par exemple) et les captures d'écran associées qui ont éventuellement été prises lors de l'exécution du cas de test. Pour vous assurer qu’Orchestrator prend des captures d’écran lors des exécutions, consultez les ressources suivantes : Rôles par défaut dans Orchestrator : pour vérifier si les rôles par défaut disposent de l’autorisation Artefacts d’exécution des cas de test. Si les rôles par défaut ne disposent pas de cette autorisation, vous pouvez créer un rôle personnalisé ayant cette autorisation. Gestion des rôles dans Orchestrator : pour apprendre à créer, modifier ou importer un rôle dans Orchestrator.
Journaux (Logs)	Affichez les journaux de niveau INFO dans le cadre de RobotLogs, avec des informations sur les processus, le robot d'exécution et les journaux d'événements, y compris les échecs. Sélectionnez le pour accéder à l'onglet Journaux (Logs) du cas de test sélectionné, afin d'obtenir une description détaillée de l'échec.
Détails de l'exécution	Affichez les détails des arguments tels que les valeurs d'entrée et de sortie, ainsi que les détails d'exécution et de Robot (par exemple, projet, machine, Robot). Cette section indique également si la postcondition a été remplie ou non par le cas de test.
Exigences concernées	Affichez les exigences affectées au cas de test qui a été exécuté. Vous pouvez utiliser cet onglet pour accéder directement à l'exigence concernée.
Pièces jointes (Attachments)	Vous pouvez afficher les éléments suivants : Pièces jointes téléchargées à l’aide de l’activité Joindre un document (Attach Document) . Les pièces jointes d'un résultat de cas de test lié à partir d'Orchestrator.

Télécharger les journaux d'exécution

• Pour télécharger les journaux de l'ensemble de vos exécutions de test : dans Exécution, sélectionnez Exporter vers Excel.
• Pour télécharger les journaux des cas de test pour une exécution de test spécifique : dans Exécution, sélectionnez une exécution de test, puis sélectionnez Exporter vers Excel.

Consultez la page Exporter des données pour vérifier davantage de détails sur l'exportation des journaux vers des fichiers Excel.

Détails de l'exécution

L'onglet Détails de l'exécution ( Execution details ) d'un journal de cas de test fournit des informations sur les préconditions et les postconditions d'un cas de test.

Si la postcondition n'a pas été remplie lors de l'exécution du test, l'onglet affiche l'avertissement Condition non satisfaite (Condition not met), que vous pouvez enquêter.

Graphique 4. L'avertissement Condition non satisfaite (Condition not met)

Affichage de la couverture des activités

Remarque : la couverture d'activité est disponible uniquement pour les exécutions de tests automatisés.

Prérequis : permet d’activer la couverture des activités pour les ensembles de tests souhaités, soit dans Orchestrator, soit dans Test Manager.

1. Ouvrez l'ensemble de tests, sélectionnez Autres options puis Execute Automated.
2. Accédez à Exécution (Execution) et ouvrez l'ensemble de tests que vous avez exécuté.
3. Accédez à l'onglet Couverture de l'activité (Activity Coverage) et recherchez les informations relatives aux activités couvertes lors de l'exécution du test.
   Graphique 5. Aperçu d’un exemple de couverture de l’activité
   

   

   
   

Créer des défauts à partir des résultats

Vous pouvez créer des rapports de défauts, y compris le journal d’exécution, dans votre système de gestion des défauts externe, si vous l’avez déjà intégré à Test Manager. Pour plus d’informations, consultez Intégration ALM Tool.

Pour créer un défaut à partir d’un journal d’exécution, vous devez ouvrir un journal de cas de test, cliquer sur Tâches, puis sélectionner Créer un défaut. Une fois le défaut créé, un lien est disponible dans le journal d’exécution, vous permettant ainsi d’accéder à l’outil externe intégré.

Articles associés

• Opérations en bloc
• Exporter des données