Générer un objet Complétion de chat

Description

À partir d'une invite et d'autres entrées, génère une réponse de complétion de chat.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Messages - Les messages que vous souhaitez utiliser pour la génération de complétion(s) de chat. Fournissez au modèle un contexte de dialogue ou de « chat » en saisissant une chaîne, puis revenez en arrière. Le nombre de chaînes d'entrée doit être impair pour que l'activité fonctionne. La première entrée correspondra à l'utilisateur, la seconde au modèle, etc. Ce champ prend en charge le type d'entrée String .
• ID de modèle : Le modèle LLM (Large Language Model) à utiliser pour la demande de complétion. Sélectionnez l'une des options disponibles : Baison-002, Bisé-001.

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés (Manage Properties) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les options supplémentaires ( Show additional options ) (dans Studio Web).

Options supplémentaires

• Contexte : les informations contextuelles dans l'invite guident la réponse du modèle et permettent de limiter l'étendue de sa réponse en fonction du contexte fourni. Ce champ prend en charge le type d'entrée String .
• Jetons de sortie maximum : le nombre maximum de jetons autorisés pour l'invite et la réponse générée. Moins de jetons sont moins coûteux. La plupart des modèles prennent en charge un maximum de 1024 jetons. La valeur par défaut est 1024.
• Température : un nombre compris entre 0 et 1. Des valeurs plus élevées comme 0.8 rendent la sortie plus aléatoire, tandis que des valeurs plus faibles comme 0.2 la rendent plus ciblée et déterministe. La valeur par défaut est 0.8.
• Top p - Un nombre compris entre 0 et 1. Plus le nombre est bas, plus le caractère aléatoire du résultat est faible. La valeur par défaut est 0.8.
• Top k - Un nombre compris entre 1 et 40. Plus le nombre est élevé, plus la diversité du texte généré est élevée. La valeur par défaut est 40.
• Exemples : paires de messages structurés, comprenant un message d'entrée du type "Pour qui travaillez-vous ?" et sa réponse idéale correspondante « Je travaille pour Ned » (I work for Ned), sont des exemples essentiels pour entraîner le modèle à répondre efficacement dans le cadre de diverses conversations. Ce champ prend en charge le type d'entrée String .

Sortie

• Premier texte généré : le premier chat généré. Variable de sortie générée automatiquement.
• Complétion de chat : variable de sortie générée automatiquement.