Générer un objet Complétion de chat

Description

À partir d'une invite et d'autres entrées, génère une réponse de complétion de chat.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• Connexion : la connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.
• Messages : les messages que vous souhaitez utiliser pour la génération de complétion(s) de chat. Fournissez au modèle un contexte de dialogue ou de « chat » en saisissant une chaîne, puis revenez en arrière. Le nombre de chaînes d'entrée doit être impair pour que l'activité fonctionne. La première entrée correspondra à l'utilisateur, la seconde au modèle, etc. Ce champ prend en charge une entrée de type String .
• ID de modèle : le modèle LLM à utiliser pour la demande de saisie semi-automatique. Sélectionnez l’une des options disponibles : Bson-002, Bson-001.

Gérer les propriétés

Utilisez l'assistant Gérer les propriétés pour configurer ou utiliser l'un des champs standard ou personnalisés de l'objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin d’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (dans Studio Desktop) ou sous Afficher les propriétés supplémentaires (dans Studio Web).

Propriétés supplémentaires

• Contexte : les informations contextuelles dans l'invite guident la réponse du modèle et permettent de limiter l'étendue de sa réponse en fonction du contexte fourni. Ce champ prend en charge une entrée de type String .
• Nombre maximum de jetons de sortie : le nombre maximal de jetons autorisés pour l'invite et la réponse générée. Un nombre moins élevé de jetons coûtera moins cher. La plupart des modèles prennent en charge 1 024 jetons maximum. La valeur par défaut est 1024.
• Température : un nombre compris entre 0 et 1. Des valeurs plus élevées comme 0.8 rendent la sortie plus aléatoire, tandis que des valeurs plus faibles comme 0.2 la rendent plus ciblée et déterministe. La valeur par défaut est 0.8.
• Premier p : un nombre compris entre 0 et 1. Plus le nombre est bas, plus le caractère aléatoire du résultat est faible. La valeur par défaut est 0.8.
• Premier k : un nombre compris entre 1 et 40. Plus le nombre est élevé, plus la diversité du texte généré est élevée. La valeur par défaut est 40.
• Exemples : Paires de messages structurés, comprenant un message d’entrée comme « Pour qui travaillez-vous ? » et sa réponse idéale correspondante « Je travaille pour Ned », sont des exemples essentiels pour entraîner le modèle à répondre efficacement dans le cadre de diverses conversations. Ce champ prend en charge une entrée de type String .

Sortie

• Premier texte généré : le premier chat généré. Variable de sortie générée automatiquement.
• Complétion de chat : variable de sortie générée automatiquement.