Content Generation

Description

Générez une réponse de chat pour la requête saisie à l'aide de modèles de complétion de chat.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Nom du modèle ( Model Name) : le modèle ou l'ID d'IA génératif à utiliser. Cette activité utilise par défaut le modèle avec la sortie observée de la meilleure qualité. Cependant, vous pouvez sélectionner un modèle différent en fonction des sorties et des tests souhaités. Le changement de modèle peut avoir un impact sur la sortie.
• Invite : l'invite de l'utilisateur pour la demande de complétion de chat. Ce champ prend en charge le type d'entrée String .
  Remarque : pour joindre une image à une invite personnalisée, utilisez l’activité Analyse des images ( Image Analysis) .
• Détection des informations personnelles (PII Detection ) - Indique si les informations personnelles doivent être détectées à partir de l'invite d'entrée. Valeur booléenne. La valeur par défaut est Faux.
  • Filtrage PII - Si défini sur True, tout PII/PHI détecté est masqué avant d'être envoyé au LLM. La qualité de la sortie peut être altérée. Si défini sur Faux (False), les informations personnelles détectées sont incluses dans l'invite. Dans les deux cas, les IIP détectés sont disponibles dans la sortie. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
  • Langue des informations personnelles ( PII language ) : la langue de l'entrée et de la sortie de l'invite pour rechercher les informations personnelles. Sélectionnez une langue dans la liste déroulante disponible. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
  • Catégorie PII/PHI : la ou les catégories facultatives en PII/PHI à analyser. Si elle n’est pas définie, toutes les catégories seront révisées. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
• Invite du système - L'invite du système ou l'instruction contextuelle pour la demande de complétion de chat. Ce champ prend en charge le type d'entrée String .
• Ancrage dans le contexte (aperçu public) : insérez le contexte dans l’invite à partir d’un index existant (compartiment Orchestrator) ou à partir d’un fichier. Sélectionnez l'une des options disponibles dans le menu déroulant : Aucun, Index existant ou Ressource de fichier.
  • Index (Aperçu public) : le nom de l’index à référencer. Ce champ s'affiche si l'Ancrage dans le contexte est défini sur Index existant. Ce champ prend en charge une entrée de type String .
  • Fichier (File) : cliquez pour utiliser la variable. Ce champ prend en charge une entrée de type IResource . Ce champ s'affiche si l'Ancrage dans le contexte est défini sur Ressource de fichier ( File resource).
    Remarque : ce champ a une limite de taille de fichier de 30 Mo. Pour les fichiers plus volumineux, téléchargez des données vers Orchestrator et créez un index à l'aide de l'activité Indexer et ingérer (aperçu public) (Index and Ingest (Public Preview)) .

    Formats actuellement pris en charge : PDF, JSON, CSV.

  • Nombre de résultats (aperçu public) : indique le nombre de résultats à renvoyer. Ce champ prend en charge une entrée de type Int64 .

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés ( Manage Properties ) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les propriétés supplémentaires ( Show additional properties ) (dans Studio Web).

Propriétés supplémentaires

• Score de confiance PII - Le score de confiance minimum requis pour être considéré comme PII et être caviardé. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
• Nombre maximal de jetons : le nombre maximal de jetons à générer lors de l'achèvement. La somme du nombre de jetons de votre invite et de ceux du résultat/de l’achèvement ne peut pas dépasser la valeur fournie pour ce champ. Nous recommandons de définir une valeur inférieure au nombre maximal du modèle afin de garder de la place pour le nombre de jetons d’invite. La valeur par défaut est 1 024. Si ce champ n’est pas défini, l’activité utilisera par défaut les jetons nécessaires pour répondre à la requête ou au nombre maximal de jetons autorisés par le modèle. Ce champ prend en charge une entrée de type Int64 .
• Temperature - The value of the creativity factor or sampling temperature to use. Higher values mean the model will take more risks. Try 0.9 for more creative responses or completions, or 0 (also called argmax sampling) for ones with a well-defined or more exact answer. The general recommendation is to alter, from the default value, this or the Nucleus Sample value, but not both values. Default value is 0.
• Pénalité de fréquence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.
• Pénalité de présence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils apparaissent ou non dans le texte, augmentant ainsi la probabilité pour le modèle d'aborder de nouveaux sujets. La valeur par défaut est 0.
• Nombre de choix de complétion ( Completion choices ) : le nombre de choix de complétion à générer pour la requête. Plus la valeur de ce champ est élevée, plus le nombre de jetons qui seront utilisés est élevé. Cela entraîne un coût plus élevé, vous devez donc en être conscient lors de la définition de la valeur de ce champ. La valeur par défaut est de 1.
• Arrêter la séquence (Stop sequence ) : jusqu'à quatre séquences au cours desquelles l'API cessera de générer d'autres jetons. Le texte renvoyé ne contient pas la séquence d'arrêt. La valeur par défaut est null.

Sortie

• Premier texte généré : le texte généré.
• Test masqué : l'invite d'entrée où toutes les potentielles informations personnelles (PII) ont été remplacées par des espaces réservés masqués.
• Génération de contenu : cette sortie contient l’objet de réponse imbriqué complet, y compris des détails supplémentaires sur l’achèvement, le modèle utilisé et les résultats de la détection des PII.
• Citations string (Public Preview) - The Context grounding citations string.

Comment utiliser la génération de contenu

L'activité de génération de contenu offre davantage de flexibilité dans la façon dont vous interagissez et insérez des réponses générées par LLM aux invites personnalisées dans Studio, Studio Web ou Apps. En insérant des arguments et des variables dans l'invite, vous pouvez réaliser un modèle d'invite dynamique qui extrait les données des applications métier populaires via des connecteurs, des éléments de file d'attente Orchestrator, etc. Cela vous aide à créer des automatisations significatives et évolutives qui correspondent à des cas d'utilisation uniques.

Attention : vous pouvez sélectionner le modèle à utiliser pour la génération de contenu, créer l’invite, identifier et masquer les données d’IPI/PHI et travailler avec des options de modèle avancées qui offrent des sorties plus ou moins déterministe. Attention : Les LLM ne sont pas déterministe. Vous devez parcourir les invites et surveiller les sorties via la journalisation, les tâches de validation externe (Action Center) et les tests. La génération de contenu est hautement configurable, mais elle nécessite des tests et une surveillance avant d'être déployée en production.

The Context grounding (Preview) parameter enables Context grounding. You can select one of two options:

• Index existant: référencez le nom d'index d'un index créé à l'aide de l'activité Indexer et ingérer (aperçu public) (Index and Ingest (Public Preview)) . Cela effectue un RAG sur l'ensemble de données de cet index. Il s'agit du cas d'utilisation typique : une requête sur plusieurs documents ou fichiers.
• File resource: Use a file uploaded just-in-time to the activity and Context grounding enables a just-in-time or in-memory RAG to query that specific document. You can only upload one document here, good for summarization-based use cases.

The Number of Results parameter represents the number of top results that are searched and retrieved by Context grounding based on a semantic similarity score. These results represent chunks of the data (pages) that then are passed into the context window of the prompt as evidence to ground the prompt and associated generation. You may increase this number to the limit of the model context window. This may be necessary if the output is not producing expected/ high quality results.

To learn more about using Context grounding, refer to About Context grounding.