Comprendre la validation des extractions et des performances d'extraction

La page Validation affiche un aperçu des performances des extractions et vous aide à explorer les performances individuelles de chaque extraction.

Vous pouvez accéder aux détails de la validation dans l'onglet Extractions depuis Validation. L’onglet Extractions n’est disponible que si vous avez des champs d’extraction définis sur votre ensemble de données.​

Aperçu des performances

La page par défaut de l'onglet Extractions de Validation est une vue d'ensemble utilisant le filtre Tout . Cette page fournit les statistiques récapitulatives suivantes sur les performances globales des extractions de l'ensemble de données :

• Score F1 moyen des extractions

• Précision moyenne des extractions

• Rappel moyen des extractions

  

Remarque :

Un score de moyenne d’extraction faible est un signe de mauvaises performances d’extraction.

Extractions individuelles

Sélectionnez des libellés individuels pour afficher les performances des extractions individuelles, c'est-à-dire le libellé et ses champs d'extraction associés.

Pour chaque extraction, vous pouvez remarquer les valeurs suivantes :

• Score F1
• Précision
• Rappel

Pour tous les champs d’extraction du libellé, vous pouvez remarquer les valeurs suivantes :

• Score F1 moyen
• Précision moyenne
• Rappel moyen

Pour les champs d'extraction individuels, vous pouvez remarquer les valeurs suivantes :

• Score F1

• Précision

• Rappel

  

Niveaux de confiance et LLM

Le fonctionnement des niveaux de confiance varie en fonction du modèle LLM sous-jacent que vous utilisez.

Si vous utilisez le LLM UiPath Helix Extractor 1.0 (IXP-Comms)

Si vous utilisez l'extracteur UiPath Helix pour le LLM Comms, le modèle attribue un ensemble de scores de confiance pour chaque prédiction (%).

UiPath Helix Extractor pour Comms calcule et renvoie les éléments suivants :

• Confiance d'occurrence : la probabilité que l'occurrence détectée corresponde au libellé attribué.
• Confiance d’extraction : la confiance dans l’exactitude du contenu extrait.

Ces valeurs de confiance permettent aux automatisations en aval de filtrer les extractions avec des niveaux de confiance inférieurs à un seuil de libellé défini. Si vous définissez un seuil approprié, vous pouvez vous assurer que seules les prédictions qui répondent à un niveau de confiance souhaité sont utilisées dans les workflows.

Si vous utilisez le LLM d’extraction générative

Le LLM d’extraction générative pour l’extraction générative fournit une seule valeur de confiance d’occurrence de libellé pour chaque extraction, remplaçant à la fois la confiance d’occurrence et la confiance d’extraction. Cette approche diffère de UiPath Helix Extractor pour Comms, qui renvoie des valeurs de confiance distinctes pour chaque extraction.

Remarque :

Le renvoi de la confiance de libellé aide à filtrer les extractions en aval si nécessaire, permettant aux utilisateurs d'améliorer la précision de certains résultats.

Automatisation avec Extraction générative

Remarque :

Si vous avez déjà créé des automatisations avec des champs généraux et que vous prévoyez de créer des automatisations à l’aide de l’extraction générative, le point de terminaison de l’API et les activités requises sont différents de ceux que vous avez précédemment utilisés.​

Cette section décrit les sorties de l’activité Obtenir les résultats de flux . Pour de plus amples informations, consultez la section Infrastructure de Communications Mining™ pour le répartiteur.​

Pour automatiser avec l’extraction générative, vous devez d’abord comprendre le contenu des sorties de vos extractions.​

La confiance d’occurrence fait référence à la confiance du modèle concernant le nombre d’instances où une requête peut se produire sur un message, c’est-à-dire le nombre de fois où une extraction peut se produire. ​

Par exemple, pour traiter un relevé de comptes dans un système en aval, vous avez toujours besoin d'un ID de compte, d'un numéro de bon de commande, du montant du paiement et de la date d'échéance.

Consultez l’exemple de confiance d’occurrence dans l’image suivante. Il montre comment le modèle peut identifier en toute confiance qu’il existe deux occurrences potentielles pour lesquelles vous devez faciliter ce processus en aval.

Confiance de l'extraction

La confiance d’extraction correspond à la confiance du modèle concernant ses prédictions. Cela comprend la précision même dans la prédiction de l'instance d'un libellé et de ses champs associés. Cela inclut également la confiance du modèle dans la prédiction correcte si un champ est manquant.

Prenons le même exemple qu’avant. Pour traiter un relevé de comptes dans un système en aval, vous avez toujours besoin d'un ID de compte, d'un numéro de bon de commande, du montant du paiement et de la date d'échéance.

Cependant, cette fois, le numéro de bon de commande n'est pas présent sur le message, ou la date d'échéance, mais uniquement la date de début.

La confiance d’extraction de cet exemple est la confiance du modèle concernant l’identification si les valeurs de chaque champ associé au libellé sont présentes. Cela inclut également la confiance du modèle dans la prédiction correcte si un champ est manquant.

Dans ce cas ici, vous ne disposez pas de tous les champs dont vous avez besoin pour pouvoir extraire entièrement tous les champs requis.

Exemple de charge utile

Consultez l’exemple de sortie suivant de ce que renvoie l’activité Obtenir les résultats de flux :

Le flux fait référence au seuil que vous avez défini dans Communications Mining, et si le message dépasse ce seuil.

Au lieu de filtrer les prédictions en fonction de seuils, cette route renvoie la confiance de prédiction qui a atteint les seuils.

En d’autres termes, si vos seuils ont été atteints, le flux est renvoyé. Si ce n’est pas le cas, cette valeur est vide.​

Remarque :

• L'image précédente contient un exemple d'extrait pour expliquer les différents composants, et non le résultat complet d'une réponse d'extraction générative. ​De plus, lorsqu’il y a plusieurs extractions, elle est conditionnelle aux extractions qui la précèdent.​ Pour les libellés sans champs d'extraction, la confiance d'occurrence équivaut à la confiance de libellé que vous pouvez afficher dans l'interface utilisateur.
• Si le modèle n’a pas réussi à extraire tous les champs d’un message parce qu’il y a trop de champs, il renverra une extraction dans la réponse du flux qui a un niveau de confiance d’occurrence et un niveau de confiance d’extraction avec des valeurs de zéro.​