Générer un objet Complétion de texte

UiPath.OpenAI.IntegrationService.Activities.GenerateTextCompletion

Description

À partir d'une invite et d'autres entrées telles que l'ID de modèle, etc., cette activité génère une réponse de complétion de texte. Cette fonctionnalité utilise les modèles de génération de texte GPT-3 hérités tels que Curie, Ada et Verbbage. En savoir plus sur les différences entre les modèles et la complétion de texte.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Invite - L'invite que vous souhaitez utiliser pour la génération de la complétion de texte. Vous pouvez en savoir plus sur les invites ici.

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés ( Manage Properties ) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les propriétés supplémentaires ( Show additional properties ) (dans Studio Web).

Propriétés supplémentaires

• • Nom du modèle : le modèle LLM (Large Language Model) que vous souhaitez utiliser pour la complétion de texte. Vous pouvez en savoir plus sur les différences entre ces modèles dans la documentation OpenAI.
  • Jetons max. ( Max Tokens ) - Le nombre maximal de jetons autorisés pour l'invite et la réponse générée. Moins de jetons coûtent moins cher. Si la plupart des modèles prennent en charge 4096 jetons maximum, certains modèles ne prennent en charge que 2048. La valeur par défaut est 1920. En savoir plus sur les jetons.
  • N : le nombre de choix d'achèvement que vous souhaitez que l'IA renvoie. La valeur minimale de ce champ est 1. La valeur par défaut est 1.
  • Température : un nombre entre 0 et 2. Des valeurs plus élevées comme 0.8 rendent la sortie plus aléatoire, tandis que des valeurs plus faibles comme 0.2 la rendent plus ciblée et déterministe. La valeur par défaut est 1.
  • Top P - Un nombre entre 0 et 1. Plus le nombre est bas, moins les jetons pris en compte sont importants. La valeur par défaut est 1.
  • Suffixe - Le suffixe qui vient après la complétion du texte inséré. La valeur par défaut est null.
  • Flux (Stream ) : spécifie s'il faut diffuser en arrière la progression partielle. Si cette option est définie, les jetons sont envoyés en tant qu'événements envoyés par le serveur de données uniquement dès qu'ils sont disponibles, le flux étant terminé par un message data:[DONE] . La valeur par défaut est false.
  • Log Probs : incluez les probabilités de journal sur les jetons les plus probables de logprob, ainsi que les jetons choisis. Par exemple, si logprobs est 5, l'API renvoie une liste des 5 jetons les plus probables. L'API renvoie toujours le logprob du jeton échantillonné, il peut donc y avoir jusqu'à logprobs+1 éléments dans la réponse. La valeur maximale pour logprobs est 5. La valeur par défaut est null.
  • Écho : en plus de l'achèvement, si ce champ est défini sur true, renvoie l'invite. La valeur par défaut est false.
  • Arrêter (Stop) - Jusqu'à 4 séquences où l'API arrête de générer d'autres jetons. Le texte renvoyé ne contient pas la séquence d'arrêt. La valeur par défaut est null.
  • Pénalité de présence : un nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils sont apparus ou non dans le texte jusqu'à présent, augmentant ainsi la probabilité du modèle de parler de nouveaux sujets. La valeur par défaut est 0.
  • Pénalité de fréquence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte jusqu'à présent, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.
  • Meilleur de - Génère best_of complétions côté serveur et renvoie best (celui avec la probabilité de journalisation la plus élevée par jeton). Les résultats ne peuvent pas être transmis. Lorsqu'il est utilisé avec N, best_of contrôle le nombre de réponses complétées et N spécifie le nombre à renvoyer – best_of doit être supérieur à N. La valeur par défaut est 1.

    • Étant donné que ce paramètre génère de nombreuses complétions, il peut rapidement consommer votre quota de jetons. Utilisez-le avec précaution et assurez-vous que vous avez des paramètres raisonnables pour Max Tokens et Stop.

  • Utilisateur (User ) - Un identifiant unique représentant votre utilisateur final, qui peut aider OpenAI à surveiller et à détecter les abus. La valeur par défaut est null.

Sortie

• Premier texte généré ( Top Generated Text ) - La première chaîne de complétion de texte généré. Si vous souhaitez ne renvoyer qu'une seule réponse (c'est-à-dire, N=1, qui est la valeur par défaut), ce sera la sortie que vous utiliserez le plus probablement. Il s'agit d'un type de données Text auquel il est facile d'attribuer une variable et de l'utiliser directement dans d'autres activités/entrées de texte.
• Générer un objet Complétion de texte ( Generate Text Completion ) - Variable de sortie générée automatiquement. L'objet GenerateTextCompletion complet qui comprend :
  • Choix : ou réponses du modèle. Vous pouvez définir le nombre total de réponses que vous souhaitez récupérer à partir du modèle à l'aide du champ « N » dans les options supplémentaires de l'activité, dont la valeur par défaut est 1. Cela renverra sous la forme d'un tableau avec le premier objet commençant à 0. Ex. : Référencement d'un objet unique dans un tableau dans une commande 'For Each' : Response.Choices(0).Text. Pour plus d'informations sur d'autres parties de l'objet Réponse de la saisie semi-automatique, veuillez consulter la documentation Créer une complétion .