Configuration du modèle

Vue d'ensemble (Overview)

Vous pouvez configurer le LLM sous-jacent ainsi que ses paramètres dans l'option Configuration du modèle de l'onglet Créer.

Les paramètres disponibles sont les suivants :

• Prétraitement intelligent :
  • Aucun (None)
  • Modèle de table - mini
  • Modèle de table
• Modèle d'extraction :
  • GPT-4o
  • Gemini
• Options avancées :
  • Attribution
  • Température
  • Premier p
  • Amorçage
  • Pénalité de fréquence
  • Remplacement d’invite

Ajustez ces paramètres pour améliorer la précision des prédictions du modèle et améliorer ses performances.

Prétraitement intelligent

Les options de prétraitement intelligentes améliorent les performances de prédiction lorsque les documents sont difficiles à interpréter pour les modèles en raison d'un formatage complexe.

Cela inclut les options suivantes :

• Aucun : cette option par défaut convient à la plupart des documents qui ne contiennent pas de contenu tabulaire.
• Modèle de tableau – mini – Optimisé pour le contenu tabulaire et la latence. Cette option est la mieux adaptée aux documents contenant des tableaux simples ou multiples.
• Modèle de tableau – Optimisé pour un contenu tabulaire plus complexe. Cette option est mieux adaptée aux documents contenant des tableaux imbriqués complexes, des tableaux avec des cellules fusionnées, des points à puces ou des tableaux s'étendant sur plusieurs pages.
  Remarque :

  • Bien que cela fonctionne mieux sur les tableaux complexes, cela augmente la latence des prédictions.
  • Cette fonctionnalité s'appuie sur des modèles Gemini via AI Trust Layer.

Exemple de prétraitement intelligent

L’image suivante contient un exemple d’extraction interrogant le LLM sans utiliser le mode Modèle Table, dans lequel les valeurs de la colonne this period sont confondues avec celles de la colonne year to date.

L’image suivante contient un exemple d’extraction utilisant le mode Modèle de tableau, dans lequel les valeurs des deux colonnes this period et year to date sont extraites correctement.

Modèles d'extraction

L'option Modèle d'extraction représente le LLM sous-jacent utilisé pour l'extraction.

Les modèles disponibles sont les suivants :

• GPT-4o
• Gemini

Choisir le modèle le plus approprié

Différents modèles fonctionneront différemment selon les cas d'utilisation, mais il est recommandé d'utiliser Gemini dans la mesure du possible. Plusieurs autres fonctionnalités de pré-traitement et de post-traitement, qui contribuent à optimiser les performances et l'expérience utilisateur, sont également basées sur Gemini.

GPT-4o a une restriction de 50 pages et ne peut en traiter plus qu’à l’aide de la fonctionnalité d’appel itératif en aperçu privé.

Gemini peut traiter des documents dans Extraction et traitement intelligents (IXP) jusqu'à 500 pages en un seul appel avec un nombre de pages plus élevé pris en charge dans l'aperçu.La limite Gemini peut varier légèrement en fonction de la densité des valeurs des champs dans le document. Le modèle Gemini a une limite d'entrée de 500 pages par défaut par comparaison avec la limite d'entrée de 50 pages de GPT-4o.En outre, Gemini dispose d'une fenêtre de contexte de sortie plus longue, ce qui lui permet de gérer plus de valeurs de champ.

Basculer d'un modèle à un autre

Pour basculer d'un modèle à un autre, utilisez la liste déroulante de l'option Modèle d'extraction et sélectionnez Enregistrer. Cela déclenche la création d'une nouvelle version de projet et la génération automatique de nouvelles prédictions.

Important : pour les projets matures, les taxonomies, notamment les instructions et les prédictions confirmées, en particulier pour les champs déduits, sont généralement optimisées pour un type de modèle plutôt que l'autre. Il est probable qu'après le changement de modèle, les scores de performances puissent chuter, car il peut être nécessaire de modifier les instructions et de réexaminer les prédictions pour annuler les optimisations spécifiques au modèle qui peuvent avoir un impact sur les performances de l'autre modèle.

Si vous devez changer de modèle pour des raisons de performances, vérifiez d'abord si le modèle alternatif peut résoudre le problème de base que le modèle actuel ne peut pas résoudre. Si c'est le cas, optimisez le nouveau modèle pour améliorer les mesures de performances dans Measure.

Limites de traitement des documents

En pratique, IXP peut extraire de manière fiable jusqu'à environ 1 200 valeurs de champ par document.

Cela signifie que si un document nécessite plus de 1 200 valeurs de champ pour être extrait, le modèle peut atteindre sa limite de jetons. Cela peut se produire même si le document est bien dans les limites de page répertoriées dans cette section. Un travail de recherche et de développement est en cours pour prendre en charge des limites de valeur de champ plus élevées dans les versions futures.

Si les limites de jetons sont dépassées, les prédictions peuvent être incomplètes ou vides, quel que soit le nombre de pages. Par exemple, un document de 80 pages avec 1 400 valeurs de champ extraites peut déclencher un avertissement de limite de jeton dans l'interface utilisateur. Au moment du runtime, lorsque la limite de jetons sera dépassée, la réponse de l’API l’affichera en renvoyant des valeurs de confiance d’occurrence et d’extraction de 0.

Si les limites de pages sont dépassées, seules les pages dans les limites spécifiées ci-dessous sont traitées. Ces deux comportements s'appliquent à la fois à Gemini et à GPT-4o.

Les limites de runtime incluent :

• Nombre de pages par document :
  • Pour Gemini, jusqu'à 500 pages.
  • Pour GPT-4o, 50 pages et jusqu'à 150 pages à l'aide de la fonctionnalité d'aperçu privé de l'appel itératif.
• Limites de jetons : les documents lourds de données avec plus de 200 extractions, tels que des tableaux de bord longs, atteindront probablement le jour de la limite de jetons. Si GPT4-o atteint sa limite, vous pouvez utiliser la fonctionnalité d’aperçu privé de l’appel itératif pour augmenter la sortie du champ. Gemini, cependant, a une limite de jetons de sortie plus élevée par défaut, de sorte que les deux modèles peuvent renvoyer des quantités similaires de valeurs de champ : Gemini dans un seul appel, et GPT via plusieurs appels.

Remarque : pour demander l'accès à la fonctionnalité d'aperçu privé de l'appel itératif, contactez votre gestionnaire de compte.

Options avancées

Les options avancées vous permettent de personnaliser les paramètres de vos modèles, de sélectionner la méthode d'attribution à utiliser et d'utiliser la fonction de remplacement de requête.

Remarque : L'utilisation du remplacement de requête n'est recommandée que dans des cas exceptionnels.

Développez le paramètre pour afficher toutes les options disponibles :

• Attribution : méthode utilisée pour attribuer des prédictions à la section ou au texte pertinent du document. Sélectionnez l'une des options suivantes :
  • Basé sur des règles : utilise un ensemble complet de règles et d'heuristiques pour faire correspondre les segments corrects d'une page aux valeurs prédites du modèle. Il s'agit d'une option à faible latence, mais elle sacrifie les performances en matière d'attributions réussies par rapport à l'option basée sur un modèle.
  • Basé sur un modèle – Utilise un appel LLM supplémentaire pour faire correspondre les valeurs prédites aux plages correctes de la page, car ces valeurs peuvent souvent être répétées dans différentes parties de la page. Il s'agit de l'option la plus performante en matière de réussite des attributions, mais elle ajoute une certaine latence aux prédictions. Cette option repose sur l'utilisation de modèles Gemini.
• Température – La température d'échantillonnage à utiliser. Sélectionnez un nombre compris entre 0,0 et 2,0. Des valeurs plus élevées rendent la sortie plus aléatoire.
• Top P – Échantillons uniquement à partir de jetons avec la masse de probabilité top_p​. Sélectionnez un nombre entre 0,0 et 1,0.
• Référence : si spécifié, les requêtes répétées avec la même référence et les mêmes paramètres doivent renvoyer le même résultat​.
• Pénalité de fréquence : sélectionnez un nombre compris entre -2,0 et 2,0. Les valeurs positives réduisent la probabilité que le modèle répète des jetons qui sont déjà apparus dans le texte.
• Remplacement de requête : remplace la requête système par défaut par une nouvelle valeur. Cette option est désactivée par défaut. Une fois activées, les options Ajouter une requête d'instructions de tâche et Ajouter une requête d'instructions de champ sont activées pour la configuration.

Remarque : L'équipe UiPath® a étudié et optimisé les paramètres par défaut des modèles tels que Température, Top P et Fréquence. Vous n'avez donc pas besoin d'ajuster ces valeurs, sauf si vous connaissez les paramètres spécifiques dont vous avez besoin.