Générer un objet Complétion de texte

UiPath.MicrosoftAzureOpenAI.IntegrationService.Activities.GenerateTextCompletion

Description

À partir d'une invite et d'autres entrées telles que l'ID du modèle, etc., génère une réponse de saisie semi-automatique

Compatibilité du Projet

Windows | Multiplate-forme

Configuration

• ConnectionId : la connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions. Ce champ ne prend en charge que les chaînes ou les variables String .
• Invite - L'invite que vous souhaitez utiliser pour la génération de la complétion de texte.

Avancé

Options

• Modèle (Model) - Nom ou ID du modèle utilisé pour la génération des saisies de texte.
  Remarque : cette activité permet aux utilisateurs de sélectionner n'importe quel modèle GPT-3 déployé dans votre instance Azure. Si un modèle n'apparaît pas dans la liste déroulante, veuillez contacter votre administrateur Azure et vous assurer que le modèle a été déployé en production.
• Jetons max ( Max Tokens ) : le nombre maximal de jetons à générer dans la complétion. Le nombre de jetons de votre invite plus max_tokens ne peut pas dépasser la longueur du contexte du modèle. La plupart des modèles ont une longueur de contexte de 2048 jetons (à l'exception des modèles les plus récents, qui prennent en charge 4096). Vous pouvez en savoir plus sur les jetons ici.
• N : le nombre de choix d'achèvement que vous souhaitez que l'IA renvoie. La valeur minimale de ce champ est 1. La valeur par défaut est 1.
• Température : la valeur de la température d'échantillonnage à utiliser. Des valeurs plus élevées signifient que le modèle prend plus de risques. Essayez 0.9 pour des réponses ou des complétions plus créatives, et 0 (également appelé échantillonnage argmax) pour celles avec une réponse bien définie ou plus exacte. La recommandation générale est de modifier, à partir de la valeur par défaut, cette valeur ou la valeur d'échantillon Nucleus, mais pas les deux valeurs. La valeur par défaut est 1.
• Top P - Un nombre entre 0 et 1. Plus le nombre est bas, moins les jetons pris en compte sont importants. La valeur par défaut est 1.
• Flux (Stream ) : spécifie s'il faut diffuser en arrière la progression partielle. Si cette option est définie, les jetons sont envoyés en tant qu'événements envoyés par le serveur de données uniquement dès qu'ils sont disponibles, le flux étant terminé par un message data:[DONE] . La valeur par défaut est false.
• Log Probs : incluez les probabilités de journal sur les jetons les plus probables de logprob, ainsi que les jetons choisis. Par exemple, si logprobs est 5, l'API renvoie une liste des 5 jetons les plus probables. L'API renvoie toujours le logprob du jeton échantillonné, il peut donc y avoir jusqu'à logprobs+1 éléments dans la réponse. La valeur maximale pour logprobs est 5. La valeur par défaut est null.
• Écho : en plus de l'achèvement, si ce champ est défini sur true, renvoie l'invite. La valeur par défaut est false.
• Arrêter (Stop) - Jusqu'à 4 séquences où l'API arrête de générer d'autres jetons. Le texte renvoyé ne contient pas la séquence d'arrêt. La valeur par défaut est null.
• Pénalité de présence : un nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils sont apparus ou non dans le texte jusqu'à présent, augmentant ainsi la probabilité du modèle de parler de nouveaux sujets. La valeur par défaut est 0.
• Pénalité de fréquence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte jusqu'à présent, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.
• Meilleur de - Génère best_of complétions côté serveur et renvoie best (celui avec la probabilité de journalisation la plus élevée par jeton). Les résultats ne peuvent pas être transmis. Lorsqu'il est utilisé avec N, best_of contrôle le nombre de réponses complétées et N spécifie le nombre à renvoyer – best_of doit être supérieur à N. La valeur par défaut est 1.

Sortie

• Réponse : l'objet GenerateTextCompletion complet qui inclut :
  • Choix (Choices) - ou réponses du modèle. Vous pouvez définir le nombre total de réponses que vous souhaitez récupérer à partir du modèle à l'aide du champ « N » dans les options supplémentaires de l'activité, qui est définie par défaut sur 1. Cela renverra un tableau avec le premier objet commençant à 0. Par ex. Référencement d’un seul objet d’un tableau à l’intérieur d’un contrôle « For Each » : Response.Choices(0).Text.

    Pour plus d'informations sur d'autres parties de l'objet réponse de la saisie semi-automatique, veuillez consulter cette page.

• Top Generated Text - Chaîne de saisie semi-automatique de texte généré en haut. Si vous souhaitez ne renvoyer qu'une seule réponse (c'est-à-dire N=1, qui est la valeur par défaut), ce sera la sortie que vous souhaiterez probablement utiliser. Il s'agit d'un type de données « Texte » auquel il est facile d'attribuer une variable et à utiliser directement dans d'autres activités/entrées de texte.