Générer un objet Complétion de chat

UiPath.MicrosoftAzureOpenAI.IntegrationService.Activities.GenerateChatCompletion

Description

Générer une réponse de complétion de chat à partir d'une invite utilisateur, d'une instruction facultative et d'autres entrées facultatives telles que l'ID de modèle. Cette fonctionnalité reprend les capacités populaires de ChatGPT. Cette activité permet aux utilisateurs d'interagir avec les modèles GPT-3.5 et GPT-4, et de simuler une expérience de dialogue avec le modèle en fonction du contexte et des rôles d'utilisateur.

Compatibilité du Projet

Windows | Multiplate-forme

Configuration

• Connexion (Connection ) : connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions. Ce champ ne prend en charge que les chaînes ou les variables String .
• Invite ( Prompt ) : l'invite que vous souhaitez utiliser pour la génération de la complétion de chat. Vous pouvez en savoir plus sur les invites ici.

Avancé

Options

• Instruction : instructions sur la façon dont vous souhaitez que l'IA génère la réponse de complétion de chat. C'est l'équivalent du « rôle système » mentionné dans la documentation d'OpenAI. Le rôle « Assistant » n’est pas disponible actuellement dans cette activité. Pour plus d'informations, consultez cette page.
• Nom du modèle - Le modèle LLM (Large Language Model) à utiliser pour la complétion de chat. Vous pouvez choisir entre gpt-35-turbo et gpt-4. Vous pouvez en savoir plus sur les différences entre ces modèles ici. Par défaut, gpt-4 est sélectionné.
  Remarque : cette activité permet aux utilisateurs de sélectionner n'importe quel modèle GPT-3.5 ou GPT-4 déployé dans votre instance Azure. Si un modèle n'apparaît pas dans la liste déroulante, veuillez contacter votre administrateur Azure et vous assurer que le modèle a été déployé en production.
• Jetons max. ( Max Tokens ) - Le nombre maximal de jetons autorisés pour l'invite et la réponse générée. Moins de jetons coûtent moins cher. Si la plupart des modèles prennent en charge 4096 jetons maximum, certains modèles ne prennent en charge que 2048. La valeur par défaut est 1920. Vous pouvez lire plus d'informations sur les jetons ici.
• N : le nombre de choix d'achèvement que vous souhaitez que l'IA renvoie. La valeur minimale de ce champ est 1. La valeur par défaut est 1.
• Température : un nombre entre 0 et 2. Des valeurs plus élevées comme 0.8 rendent la sortie plus aléatoire, tandis que des valeurs plus faibles comme 0.2 la rendent plus ciblée et déterministe. La valeur par défaut est 1.
• Top P - Un nombre entre 0 et 1. Plus le nombre est bas, moins les jetons pris en compte sont importants. La valeur par défaut est 1.
• Flux (Stream ) : spécifie s'il faut diffuser en arrière la progression partielle. Si cette option est définie, les jetons sont envoyés en tant qu'événements envoyés par le serveur de données uniquement dès qu'ils sont disponibles, le flux étant terminé par un message data:[DONE] . La valeur par défaut est false.
• Pénalité de présence : un nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils sont apparus ou non dans le texte jusqu'à présent, augmentant ainsi la probabilité du modèle de parler de nouveaux sujets. La valeur par défaut est 0.
• Pénalité de fréquence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte jusqu'à présent, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.

Sortie

• Réponse : l'objet GenerateChatCompletion complet qui inclut :
  • Choix (Choices) - ou réponses du modèle. Vous pouvez définir le nombre total de réponses que vous souhaitez récupérer à partir du modèle à l'aide du champ « N » dans les options supplémentaires de l'activité, qui est définie par défaut sur 1. Cela renverra un tableau avec le premier objet commençant à 0. Par ex. Référencement d’un seul objet d’un tableau à l’intérieur d’une commande « For Each » : Response.Choices(0).Text

    Pour plus d'informations sur d'autres parties de l'objet réponse de la complétion de chat, veuillez consulter cette page.

• Top Generated Text - La chaîne d'achèvement de chat la plus générée. Si vous souhaitez ne renvoyer qu'une seule réponse (c'est-à-dire N=1, qui est la valeur par défaut), ce sera la sortie que vous souhaiterez probablement utiliser. Il s'agit d'un type de données « Texte » auquel il est facile d'attribuer une variable et à utiliser directement dans d'autres activités/entrées de texte.