Content Generation

Description

Générez une réponse de chat pour la requête saisie à l'aide de modèles de complétion de chat.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Nom du modèle ( Model Name) : le modèle ou l'ID d'IA génératif à utiliser. Cette activité utilise par défaut le modèle avec la sortie observée de la meilleure qualité. Cependant, vous pouvez sélectionner un modèle différent en fonction des sorties et des tests souhaités. Le changement de modèle peut avoir un impact sur la sortie.
• Invite : l'invite de l'utilisateur pour la demande de complétion de chat. Ce champ prend en charge le type d'entrée String .
  Remarque : pour joindre une image à une invite personnalisée, utilisez l’activité Analyse des images ( Image Analysis) .
• Détection des informations personnelles (PII Detection ) - Indique si les informations personnelles doivent être détectées à partir de l'invite d'entrée. Valeur booléenne. La valeur par défaut est Faux.
  • Filtrage PII - Si défini sur True, tout PII/PHI détecté est masqué avant d'être envoyé au LLM. La qualité de la sortie peut être altérée. Si défini sur Faux (False), les informations personnelles détectées sont incluses dans l'invite. Dans les deux cas, les IIP détectés sont disponibles dans la sortie. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
  • Langue des informations personnelles ( PII language ) : la langue de l'entrée et de la sortie de l'invite pour rechercher les informations personnelles. Sélectionnez une langue dans la liste déroulante disponible. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
  • Catégorie PII/PHI : la ou les catégories facultatives en PII/PHI à analyser. Si elle n’est pas définie, toutes les catégories seront révisées. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
• Invite du système - L'invite du système ou l'instruction contextuelle pour la demande de complétion de chat. Ce champ prend en charge le type d'entrée String .
• Ancrage dans le contexte (aperçu public) : insérez le contexte dans l’invite à partir d’un index existant (compartiment Orchestrator) ou à partir d’un fichier. Sélectionnez l'une des options disponibles dans le menu déroulant : Aucun, Index existant ou Ressource de fichier.
  • Index (Aperçu public) : le nom de l’index à référencer. Ce champ s'affiche si l'Ancrage dans le contexte est défini sur Index existant. Ce champ prend en charge une entrée de type String .
  • Fichier (File) : cliquez pour utiliser la variable. Ce champ prend en charge une entrée de type IResource . Ce champ s'affiche si l'Ancrage dans le contexte est défini sur Ressource de fichier ( File resource).
    Remarque : ce champ a une limite de taille de fichier de 30 Mo. Pour les fichiers plus volumineux, téléchargez des données vers Orchestrator et créez un index à l'aide de l'activité Indexer et ingérer (aperçu public) (Index and Ingest (Public Preview)) .

    Formats actuellement pris en charge : PDF, JSON, CSV.

  • Nombre de résultats (aperçu public) : indique le nombre de résultats à renvoyer. Ce champ prend en charge une entrée de type Int64 .

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés ( Manage Properties ) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les propriétés supplémentaires ( Show additional properties ) (dans Studio Web).

Propriétés supplémentaires

• Score de confiance PII - Le score de confiance minimum requis pour être considéré comme PII et être caviardé. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
• Nombre maximal de jetons : le nombre maximal de jetons à générer lors de l'achèvement. La somme du nombre de jetons de votre invite et de ceux du résultat/de l’achèvement ne peut pas dépasser la valeur fournie pour ce champ. Nous recommandons de définir une valeur inférieure au nombre maximal du modèle afin de garder de la place pour le nombre de jetons d’invite. La valeur par défaut est 1 024. Si ce champ n’est pas défini, l’activité utilisera par défaut les jetons nécessaires pour répondre à la requête ou au nombre maximal de jetons autorisés par le modèle. Ce champ prend en charge une entrée de type Int64 .
• Température (Temperature) - Valeur du facteur de créativité ou de la fenêtre d'échantillon à utiliser. Des valeurs plus élevées signifient que le modèle prendra plus de risques. Essayez 0,9 pour des réponses ou des complétions plus créatives, ou 0 (également appelé échantillon argmax) pour celles dont la réponse est bien définie ou plus exacte. Il est recommandé de modifier la valeur par défaut de cette valeur ou de la valeur de l' Échantillon Nucléus, mais pas les deux. La valeur par défaut est de 1.
• Pénalité de fréquence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.
• Pénalité de présence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils apparaissent ou non dans le texte, augmentant ainsi la probabilité pour le modèle d'aborder de nouveaux sujets. La valeur par défaut est 0.
• Nombre de choix de complétion ( Completion choices ) : le nombre de choix de complétion à générer pour la requête. Plus la valeur de ce champ est élevée, plus le nombre de jetons qui seront utilisés est élevé. Cela entraîne un coût plus élevé, vous devez donc en être conscient lors de la définition de la valeur de ce champ. La valeur par défaut est de 1.
• Arrêter la séquence (Stop sequence ) : jusqu'à quatre séquences au cours desquelles l'API cessera de générer d'autres jetons. Le texte renvoyé ne contient pas la séquence d'arrêt. La valeur par défaut est null.

Sortie

• Top generated text - The generated text.
• Masked test - The input prompt where any potential PII data has been replaced with masked placeholders.
• Content Generation - This output contains the full nested response object including additional details about the completion, model used, and PII detection results.
• Citations string (Public Preview) - The Context Grounding citations string.

Comment utiliser la génération de contenu

L'activité de génération de contenu offre davantage de flexibilité dans la façon dont vous interagissez et insérez des réponses générées par LLM aux invites personnalisées dans Studio, Studio Web ou Apps. En insérant des arguments et des variables dans l'invite, vous pouvez réaliser un modèle d'invite dynamique qui extrait les données des applications métier populaires via des connecteurs, des éléments de file d'attente Orchestrator, etc. Cela vous aide à créer des automatisations significatives et évolutives qui correspondent à des cas d'utilisation uniques.

Attention : vous pouvez sélectionner le modèle à utiliser pour la génération de contenu, créer l’invite, identifier et masquer les données d’IPI/PHI et travailler avec des options de modèle avancées qui offrent des sorties plus ou moins déterministe. Attention : Les LLM ne sont pas déterministe. Vous devez parcourir les invites et surveiller les sorties via la journalisation, les tâches de validation externe (Action Center) et les tests. La génération de contenu est hautement configurable, mais elle nécessite des tests et une surveillance avant d'être déployée en production.

Le paramètre Ancrage dans le contexte (aperçu) (Context Anchoring (Preview)) active l'ancrage dans le contexte. Vous pouvez sélectionner l'une des deux options suivantes :

• Index existant: référencez le nom d'index d'un index créé à l'aide de l'activité Indexer et ingérer (aperçu public) (Index and Ingest (Public Preview)) . Cela effectue un RAG sur l'ensemble de données de cet index. Il s'agit du cas d'utilisation typique : une requête sur plusieurs documents ou fichiers.
• Ressource de fichier: utilisez un fichier téléchargé juste à temps sur l'activité. L'ancrage en contexte permet à un RAG juste à temps ou en mémoire d'interroger ce document spécifique. Vous ne pouvez télécharger qu’un seul document ici, idéal pour les cas d’utilisation basés sur la synthèse.

Le paramètre Nombre de résultats (Number of Results) représente le nombre de meilleurs résultats recherchés et récupérés par l'ancrage en contexte (Context Grid) basé sur un score de similarité sémantique. Ces résultats représentent des segments des données (pages) qui sont ensuite transmises dans la fenêtre contextuelle de l’invite comme preuve d’ancrage de l’invite et de la génération associée. Vous pouvez augmenter ce nombre à la limite de la fenêtre de contexte du modèle. Cela peut être nécessaire si la sortie ne produit pas de résultats attendus ou de haute qualité.

Pour en savoir plus sur l'utilisation de l'ancrage dans le contexte, consultez À propos de l'ancrage dans le contexte.