Générer un objet Complétion de chat

Description

Générez une réponse de chat pour la requête saisie à l'aide de modèles de complétion de chat.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Nom du modèle ( Model Name ) : le nom ou l'ID du modèle ou du déploiement à utiliser pour la complétion de chat. Sélectionnez une option dans la liste déroulante disponible, comprenant plusieurs modèles Azure OpenAI et Google Vertex.
• Invite : l'invite de l'utilisateur pour la demande de complétion de chat. Ce champ prend en charge le type d'entrée String .

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés (Manage Properties) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les options supplémentaires ( Show additional options ) (dans Studio Web).

Options supplémentaires

• Invite du système - L'invite du système ou l'instruction contextuelle de la demande de complétion de chat. Ce champ prend en charge le type d'entrée String .
• Nombre maximum de jetons ( Maximum tokens count ) : le nombre maximum de jetons à générer dans la complétion. Le nombre de jetons de votre invite plus ceux du résultat/de l'achèvement ne peut pas dépasser la valeur fournie pour ce champ. Il est préférable de définir cette valeur pour qu'elle soit inférieure au nombre maximal du modèle afin d'avoir de la place pour le nombre de jetons d'invite. La valeur par défaut est de 1024. Ce champ prend en charge le type d'entrée Int64 .
• Température (Temperature) - Valeur du facteur de créativité ou de la fenêtre d'échantillon à utiliser. Des valeurs plus élevées signifie que le modèle prendra plus de risques. Essayez 0,9 pour des réponses ou des complétions plus créatives, ou 0 (également appelé échantillon argmax) pour celles dont la réponse est bien définie ou plus exacte. Il est recommandé de modifier la valeur par défaut de cette valeur ou de l'échantillon Nucleus, mais pas les deux. La valeur par défaut est de 1.
• Nombre de choix de complétion ( Completion choices ) : le nombre de choix de complétion à générer pour la requête. Plus la valeur de ce champ est élevée, plus le nombre de jetons qui seront utilisés est élevé. Cela entraîne un coût plus élevé, et l'utilisateur doit donc en être conscient lors de la définition de la valeur de ce champ. La valeur par défaut est de 1.
• Arrêter la séquence (Stop sequence ) : jusqu'à quatre séquences au cours desquelles l'API cessera de générer d'autres jetons. Le texte renvoyé ne contient pas la séquence d'arrêt. La valeur par défaut est null.
• Pénalité de présence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils apparaissent ou non dans le texte, augmentant ainsi la probabilité pour le modèle d'aborder de nouveaux sujets. La valeur par défaut est 0.
• Pénalité de fréquence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.

Sortie

• Premier texte généré : le texte généré. Variable de sortie générée automatiquement.
• Générer un complétion de chat : variable de sortie générée automatiquement.