Get Text Completion using Llama2

Description

Génère une réponse sous forme de saisie semi-automatique de texte en fonction d'une invite donnée via des modèles Meta Llama 2.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Modèle (Model) : le modèle à utiliser pour la génération de saisie(s) semi-automatique(s) de texte. Sélectionnez l'une des options disponibles dans la liste déroulante : Lama2 13B, Llata2 70B.
• Invite ( Prompt ) : invite à utiliser pour la génération de saisie(s) semi-automatique(s) de texte. Ce champ prend en charge le type d'entrée String .

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés ( Manage Properties ) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les propriétés supplémentaires ( Show additional properties ) (dans Studio Web).

Propriétés supplémentaires

• Nombre maximal de jetons : le nombre maximal de jetons autorisés pour l'invite et la réponse générée. Moins de jetons coûtent moins cher. La valeur par défaut est de 256. Ce champ prend en charge le type d'entrée Int32 .
• Température (Temperature) : nombre entre 0 et 2. Des valeurs plus élevées rendent la sortie plus aléatoire, tandis que des valeurs plus faibles la rendent plus ciblée et déterministe. Par défaut, ce champ est défini sur 0.2. Ce champ prend en charge le type d'entrée Double .
• Premier p : un nombre entre 0 et 1. Plus le nombre est bas, plus le nombre de jetons pris en compte est faible. Ce champ prend en charge le type d'entrée Int32 .

Sortie

• Achèvement : la première complétion de texte généré. Variable de sortie générée automatiquement.
• Objet de réponse de complétion de texte : l'objet de réponse complet pour la complétion de texte. Variable de sortie générée automatiquement.