Content Generation

Description

Générer une réponse de chat pour la requête fournie à l’aide de modèles de saisie semi-automatique de chat.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Nom du modèle (Model name) : le nom ou l'ID du modèle ou du déploiement à utiliser. Cette activité utilise par défaut le modèle dont la sortie présente la qualité la plus élevée. Vous pouvez cependant sélectionner un modèle différent en fonction des sorties et des tests souhaités. Le fait de changer de modèle peut avoir un impact sur la sortie.
• Invite : l’invite de l’utilisateur pour la demande de complétion de chat. Ce champ prend en charge les entrées de type String.
  Remarque : pour joindre une image à une invite personnalisée, utilisez l’activité Analyse des images (Image Analysis).
• Détection des PII : indique s’il faut détecter les informations personnelles (PII) à partir de l’invite d’entrée. Valeur booléenne. La valeur par défaut est Faux (False).
  • Filtrage des PII : si cette option est définie sur Vrai (True), toutes les informations personnelles (PII/PHI) détectées sont masquées avant d’être envoyées au LLM. La qualité de la sortie peut en être altérée. Si elle est définie sur Faux (False), les informations personnelles détectées sont incluses dans l’invite. Dans les deux cas, les informations personnelles détectées sont disponibles dans la sortie. Ce champ s’affiche si la détection des PII est définie sur Vrai (True).
  • Langue des PII : la langue de l’entrée et de la sortie de l’invite pour rechercher des informations personnelles. Sélectionnez une langue dans la liste déroulante proposée. Ce champ s’affiche si la détection des PII est définie sur Vrai (True).
  • Catégorie de PII/PHI : la ou les catégorie(s) facultative(s) d’informations personnelles (PII/PHI) à analyser. Si ce champ n’est pas défini, toutes les catégories sont analysées. Ce champ s’affiche si la détection des PII est définie sur Vrai (True).
• Invite système : l’invite système ou l’instruction contextuelle pour la demande de complétion de chat. Ce champ prend en charge les entrées de type String.
• Ancrage dans le contexte : ancrez l’invite dans son contexte afin d’augmenter la qualité et la précision de la sortie. Cette fonctionnalité vous permet d’insérer une logique métier et des connaissances propriétaires dans l’invite. Vous pouvez référencer un compartiment Orchestrator où des documents ont été chargés ou télécharger un fichier directement dans le cas d'une utilisation unique. Sélectionnez l’une des options disponibles dans le menu déroulant : Aucun, Index existant ou Ressource de fichier.
  • Option d'index existant :
    • Orchestrator folder path - The Orchestrator folder containing the index to to context ground with. This must be a Shared folder. Search by name or select from the dropdown list of permissioned Orchestrator folders in that tenant. Use the Force refresh button to retrieve the latest folders. This field supports String type input.
    • Index : le nom ou l'ID de l'index dans lequel ancrer l'invite. Sélectionnez un index dans la liste déroulante disponible.
  • Option de ressource de fichier :
    • Fichier : cliquer pour utiliser une variable. Ce champ prend en charge les entrées de type IResource.
      Remarque : ce champ a une limite de taille de fichier de 30 Mo. Pour les fichiers plus volumineux, téléchargez des données sur Orchestrator et créez un index à l'aide de AI Trust Layer. Formats pris en charge : PDF, JSON, CSV, DOC, JSON, TXT.
• Nombre de résultats : indique le nombre de résultats à renvoyer. Ce champ prend en charge les entrées de type Int64.

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés ( Manage Properties ) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les propriétés supplémentaires ( Show additional properties ) (dans Studio Web).

Propriétés supplémentaires

• Score de confiance des PII : le score de confiance minimum requis pour que les informations soient définies comme informations personnelles et soumises au caviardage. Ce champ s’affiche si la détection des PII est définie sur Vrai (True).
• Nombre maximal de jetons : le nombre maximal de jetons à générer lors de la complétion. La somme du nombre de jetons de votre invite et de ceux du résultat/de la complétion ne peut pas dépasser la valeur fournie pour ce champ. Nous recommandons de définir une valeur inférieure au nombre maximal du modèle afin de garder de la place pour le nombre de jetons d’invite. La valeur par défaut est 1024. Si ce champ n’est pas défini, l’activité utilisera par défaut les jetons nécessaires pour répondre à la requête ou le nombre maximal de jetons autorisés par le modèle. Ce champ prend en charge les entrées de type Int64.
• Température : la valeur du facteur de créativité ou de la température d’échantillonnage à utiliser. Plus les valeurs seront élevées, plus le modèle prendra de risques. Essayez 0,9 pour des réponses ou des complétions plus créatives, ou 0 (également appelé échantillonnage argmax) pour celles disposant d’une réponse bien définie ou plus exacte. Il est recommandé de modifier par rapport à la valeur par défaut soit cette valeur, soit l’échantillon Nucleus, mais pas les deux à la fois. La valeur par défaut est 0.
• Pénalité de fréquence : nombre compris entre −2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.
• Pénalité de présence : nombre compris entre −2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils apparaissent ou non dans le texte, augmentant ainsi la probabilité pour le modèle d'aborder de nouveaux sujets. La valeur par défaut est 0.
• Nombre de choix de complétion : le nombre de choix de complétion à générer pour la requête. Plus la valeur de ce champ est élevée, plus le nombre de jetons utilisés sera élevé. Comme cela implique un coût plus élevé, vous devez en être conscient en définissant la valeur de ce champ. La valeur par défaut est 1.
• Arrêter la séquence : jusqu'à quatre séquences au cours desquelles l'API cessera de générer d'autres jetons. Le texte renvoyé ne contient pas la séquence d'arrêt. La valeur par défaut est Null.

Sortie

• Premier texte généré : le texte généré.
• Texte masqué : l'invite d’entrée où toutes les potentielles informations personnelles (PII) ont été remplacées par des espaces réservés masqués.
• Génération de contenu : cette sortie contient l’objet de réponse imbriqué complet, comprenant des détails supplémentaires sur la complétion, le modèle utilisé et les résultats de la détection des PII.
• Chaîne de citations : la chaîne de citations d’ancrage dans le contexte.

Comment utiliser la génération de contenu

L’activité de génération de contenu (Content Generation) offre davantage de flexibilité dans la façon dont vous interagissez et insérez des réponses générées par LLM aux invites personnalisées dans Studio, Studio Web ou Apps. En insérant des arguments et des variables dans l’invite, vous pouvez réaliser un modèle d’invite dynamique qui extrait les données des applications métier populaires via des connecteurs, des éléments de file d’attente Orchestrator, etc. Cela vous permet de créer des automatisations significatives et évolutives qui correspondent à des cas d’utilisation uniques.

Attention : vous pouvez sélectionner le modèle à utiliser pour la génération de contenu, créer l’invite, identifier et masquer les données PII/PHI et travailler avec des options de modèle avancées proposant des sorties plus ou moins déterministes. Attention : les modèles LLM ne sont pas déterministes. Vous devez parcourir les invites et surveiller les sorties via la journalisation, les tâches de validation externes (Action Center) et les tests. L’activité de génération de contenu est hautement configurable, mais elle nécessite une phase de test et de surveillance avant de pouvoir être déployée en production.

Le paramètre Ancrage dans le contexte permet d’activer l’ancrage dans le contexte. Vous pouvez sélectionner l'une des deux options suivantes :

• Index existant : référencez le nom d'index d'un index créé. Cela va réaliser une RAG sur l’ensemble de données de cet index. Il s’agit du cas d’utilisation le plus classique, c’est-à-dire une requête sur plusieurs documents ou fichiers.
• Ressource de fichier : utilisez un fichier chargé « juste à temps » dans l’activité. L’ancrage dans le contexte permet à une RAG « juste à temps » ou en mémoire d’interroger ce document spécifique. Vous ne pouvez ici charger qu’un seul document, ce qui est idéal pour les cas d’utilisation basés sur les résumés.

Le paramètre Nombre de résultats indique le nombre de bons résultats trouvés et récupérés par l’ancrage dans le contexte en se fondant sur un score de similarité sémantique. Ces résultats représentent des segments des données (des pages) qui sont ensuite transmis dans la fenêtre contextuelle de l’invite comme élément de contexte pour l’invite et la génération associée. Vous pouvez augmenter ce nombre jusqu’à la limite définie dans la fenêtre du contexte du modèle. Cela peut être nécessaire si la sortie ne produit pas les résultats attendus ou des résultats de qualité.

Pour en savoir plus sur l’utilisation de l’ancrage dans le contexte, consultez la section À propos de l’ancrage dans le contexte.