Générer un objet Complétion de texte

Description

Générer une réponse de complétion de texte à partir d'une invite et d'autres entrées telles que l'ID de modèle, etc.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Entrée : l'entrée est l'invite pour générer des complétions. La méthode jetonise l'entrée en interne. Il est recommandé de ne pas laisser d'espaces de fin. Ce champ prend en charge le type d'entrée String .
• ID de modèle ( Model ID ) - L'ID du modèle à utiliser pour la génération de texte. Sélectionnez un modèle dans la liste déroulante disponible.

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés (Manage Properties) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les options supplémentaires ( Show additional options ) (dans Studio Web).

Options supplémentaires

• Pénalité de répétition : valeur qui représente la pénalité pour pénaliser les jetons déjà générés ou appartenant au contexte. Ce champ prend en charge le type d'entrée Double .
• Température (Temperature) : valeur utilisée pour moduler les probabilités de jeton suivantes. La plage s'étend entre 0,00 et 1,00. Une valeur définie sur 0,00 la rendrait déterministe. Ce champ prend en charge le type d'entrée Double .
• Nombre max de nouveaux jetons ( Max new tokens ) : le nombre maximal de nouveaux jetons à générer. La valeur par défaut est 150. Ce champ prend en charge le type d'entrée Int64 .
• Min new tokens : le nombre minimum de nouveaux jetons à générer. La valeur par défaut est 50. Ce champ prend en charge le type d'entrée Int64 .
• Séquences d'arrêt (Stop sequences ) : une séquence d'arrêt est une chaîne d'un ou plusieurs caractères. Si vous spécifiez des séquences d'arrêt, le modèle cessera automatiquement de générer de la sortie après l'apparition de l'une des séquences d'arrêt que vous spécifiez dans la sortie générée. Ce champ prend en charge le type d'entrée String[] .
• Méthode de décodage (Decoding method ) : le processus qu'un modèle utilise pour choisir les jetons dans la sortie générée, comme par exemple ou comme gloutonne. Ce champ prend en charge le type d'entrée String .

Sortie

• Texte généré le plus élevé : le texte généré avec le score de confiance le plus élevé. Variable de sortie générée automatiquement. Vous pouvez l'utiliser tel quel ou l'enregistrer avec un nom différent.
• Générer un objet Complétion de texte ( Generate Text Completion ) - Variable de sortie générée automatiquement. Vous pouvez l'utiliser tel quel ou l'enregistrer avec un nom différent.