Générer un objet Complétion de texte

UiPath.OpenAI.IntegrationService.Activities.GenerateTextCompletion

Description

À partir d'une invite et d'autres entrées telles que l'ID de modèle, etc., cette activité génère une réponse de complétion de texte. Cette fonctionnalité prend en charge plusieurs modèles de génération de texte. En savoir plus sur les différences entre les modèles et la saisie semi-automatique de texte.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• Connexion : la connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.
• Invite : l'invite que vous souhaitez utiliser pour la génération de la saisie semi-automatique de texte. Vous pouvez en savoir plus sur les invites ici.

Gérer les propriétés

Utilisez l'assistant Gérer les propriétés pour configurer ou utiliser l'un des champs standard ou personnalisés de l'objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin d’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (dans Studio Desktop) ou sous Afficher les propriétés supplémentaires (dans Studio Web).

Propriétés supplémentaires

• Nom du modèle : le modèle LLM que vous souhaitez utiliser pour la complétion de texte. Sélectionnez l’une des options disponibles dans la liste déroulante. La saisie semi-automatique n'est pas prise en charge par tous les modèles. Veuillez vous assurer que le modèle sélectionné est compatible avec cette opération. Pour en savoir plus sur les différences entre ces modèles, consultez la documentation OpenAI.
• Nombre maximum de jetons : le nombre maximal de jetons autorisés pour l'invite et la réponse générée. Un nombre moins élevé de jetons coûtera moins cher. Si la plupart des modèles prennent en charge 4 096 jetons maximum, certains modèles ne prennent en charge que 2 048 jetons. La valeur par défaut est 1920. En savoir plus sur les jetons.
• N : le nombre de choix de complétion que vous souhaitez que l’IA renvoie. La valeur minimale de ce champ est 1. La valeur par défaut est 1.
• Température : un nombre compris entre 0 et 2. Des valeurs plus élevées comme 0.8 rendent la sortie plus aléatoire, tandis que des valeurs plus faibles comme 0.2 la rendent plus ciblée et déterministe. La valeur par défaut est 1.
• Premier p : un nombre compris entre 0 et 1. Plus le nombre est bas, plus le nombre de jetons pris en compte est faible. La valeur par défaut est 1.
• Suffixe : le suffixe qui vient après la complétion du texte inséré. La valeur par défaut est null.
• Flux : spécifie si la progression partielle doit être diffusée. Si cette option est définie, les jetons sont envoyés en tant qu'événements envoyés par le serveur de données uniquement dès qu'ils sont disponibles, le flux étant terminé par un message data:[DONE] . La valeur par défaut est false.
• Probabilités de journalisation : incluez les probabilités de journalisation sur les jetons les plus probables du logprob, ainsi que les jetons choisis. Par exemple, si logprobs est égal à 5, l'API renvoie une liste des 5 jetons les plus probables. L'API renvoie toujours le logprob du jeton échantillonné, il peut donc y avoir jusqu'à logprobs+1 éléments dans la réponse. La valeur maximale de logprobs est 5. La valeur par défaut est null.
• Écho : en plus de la complétion, si ce champ est défini sur true, répète l'invite. La valeur par défaut est false.
• Arrêter : jusqu'à 4 séquences au cours desquelles l'API arrête de générer d'autres jetons. Le texte renvoyé ne contient pas la séquence d'arrêt. La valeur par défaut est null.
• Pénalité de présence : un nombre compris entre −2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils apparaissent ou non dans le texte, augmentant ainsi la probabilité pour le modèle d'aborder de nouveaux sujets. La valeur par défaut est 0.
• Pénalité de fréquence : nombre compris entre −2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.
• Meilleur : génère best_of complétions côté serveur et renvoie la best . Les résultats ne peuvent pas être diffusées. Lorsqu'il est utilisé avec N, best_of contrôle le nombre de complétions de candidatures et N spécifie le nombre à renvoyer – best_of doit être supérieur à N. La valeur par défaut est 1.
  • Étant donné que ce paramètre génère de nombreuses complétions, il peut rapidement consommer votre quota de jetons. Utilisez-le avec précaution et assurez-vous que vous avez des paramètres raisonnables pour Max Tokens et Stop.
• Utilisateur : un identifiant unique représentant votre utilisateur final, qui peut aider OpenAI à surveiller et détecter les abus. La valeur par défaut est null.

Sortie

• Premier texte généré : la première chaîne de complétion de texte générée. Si vous souhaitez ne renvoyer qu’une seule réponse (c’est-à-dire N=1, soit la valeur par défaut), ce sera la sortie que vous utiliserez le plus probablement. Il s’agit d’un type de données Text facile à attribuer une variable et à utiliser directement dans d’autres activités/entrées de texte.
• Générer un objet Complétion de texte : variable de sortie générée automatiquement. L'objet GenerateTextCompletion complet qui comprend :
  • Choix : ou réponses du modèle. Vous pouvez définir le nombre total de réponses que vous souhaitez renvoyer depuis le modèle à l'aide du champ « N » dans les options supplémentaires de l'activité, où la valeur par défaut est 1. Elle sera renvoyée sous la forme d’un tableau avec le premier objet commençant à 0. Par exemple Référencement d'un seul objet dans un tableau à l'intérieur d'un contrôle 'For Each': Response.Choices(0).Text. Pour plus d'informations sur d'autres parties de l'objet de réponse de saisie semi-automatique, veuillez consulter la documentation Créer une complétion .