Générer un objet Complétion de chat

Description

Générez une réponse de chat pour la requête saisie à l'aide de modèles de complétion de chat.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Nom du modèle ( Model Name ) : le nom ou l'ID du modèle ou du déploiement à utiliser pour la complétion de chat. Sélectionnez une option dans la liste déroulante disponible, comprenant plusieurs modèles Azure OpenAI et Google Vertex.
• Invite : l'invite de l'utilisateur pour la demande de complétion de chat. Ce champ prend en charge le type d'entrée String .
• Détection des informations personnelles ( PII Detection) - Où détecter les informations d’identification dès l’invite d’entrée. Valeur booléenne. la valeur par défaut est Faux.
  • Filtrage PII - Si défini sur True, tout PII/PHI détecté est masqué avant d'être envoyé au LLM. Si False, le PII détecté est inclus dans l'invite. Dans les deux cas, les IIP détectés sont disponibles dans la sortie. Si elles sont définies comme vrai, la qualité de la sortie peut être altérée. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
  • Langue des informations personnelles ( PII language ) : la langue de l'entrée et de la sortie de l'invite pour rechercher les informations personnelles. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
  • Catégorie PII/PHI : la ou les catégories facultatives en PII/PHI à analyser. Si elle n’est pas définie, toutes les catégories seront révisées. Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
• Invite du système - L'invite du système ou l'instruction contextuelle de la demande de complétion de chat. Ce champ prend en charge le type d'entrée String . Ce champ s'affiche si la détection des informations d’identification est définie sur Vrai (True).
• Mise à la masse du contexte (Contextgrounding ) : insère un contexte dans l'invite à partir d'un index existant (compartiment Orchestrator) ou à partir d'un fichier. Sélectionnez l'une des options disponibles dans le menu déroulant : Aucun, Index existant, Ressource de fichier.
  • Index : le nom de l'index à référencer. Ce champ s'affiche si la mise à la masse du contexte est définie sur Index existant.
  • Fichier (File) : cliquez pour utiliser la variable. Ce champ prend en charge l'entrée de type IResource. Ce champ s'affiche si la mise à la masse du contexte est définie sur Ressource de fichier.
  • Nombre de résultats : indique le nombre de résultats à renvoyer.

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés (Manage Properties) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les options supplémentaires ( Show additional options ) (dans Studio Web).

Options supplémentaires

• Nombre maximum de jetons ( Maximum tokens count ) : le nombre maximum de jetons à générer dans la complétion. Le nombre de jetons de votre invite plus ceux du résultat/de l'achèvement ne peut pas dépasser la valeur fournie pour ce champ. Il est préférable de définir cette valeur pour qu'elle soit inférieure au nombre maximal du modèle afin d'avoir de la place pour le nombre de jetons d'invite. La valeur par défaut est de 1024. Ce champ prend en charge le type d'entrée Int64 .
• Température (Temperature) - Valeur du facteur de créativité ou de la fenêtre d'échantillon à utiliser. Des valeurs plus élevées signifie que le modèle prendra plus de risques. Essayez 0,9 pour des réponses ou des complétions plus créatives, ou 0 (également appelé échantillon argmax) pour celles dont la réponse est bien définie ou plus exacte. Il est recommandé de modifier la valeur par défaut de cette valeur ou de l'échantillon Nucleus, mais pas les deux. La valeur par défaut est de 1.
• Nombre de choix de complétion ( Completion choices ) : le nombre de choix de complétion à générer pour la requête. Plus la valeur de ce champ est élevée, plus le nombre de jetons qui seront utilisés est élevé. Cela entraîne un coût plus élevé, et l'utilisateur doit donc en être conscient lors de la définition de la valeur de ce champ. La valeur par défaut est de 1.
• Arrêter la séquence (Stop sequence ) : jusqu'à quatre séquences au cours desquelles l'API cessera de générer d'autres jetons. Le texte renvoyé ne contient pas la séquence d'arrêt. La valeur par défaut est null.
• Pénalité de présence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils apparaissent ou non dans le texte, augmentant ainsi la probabilité pour le modèle d'aborder de nouveaux sujets. La valeur par défaut est 0.
• Pénalité de fréquence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.

Sortie

• Premier texte généré : le texte généré. Variable de sortie générée automatiquement.
• Générer un complétion de chat : variable de sortie générée automatiquement.