Générer un objet Complétion de chat

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

Description

Si une invite utilisateur et des options supplémentaires telles que les instructions (qui peuvent inclure l'historique des conversations) sont indiquées, cette activité générera une réponse sous forme de saisie semi-automatique de texte. Cette activité est définie par défaut sur GPT-3.5-Turbo modèle, mais permet également l'accès à GPT-4. Ces deux modèles sont optimisés pour le chat, d'où le nom de l'activité. En savoir plus sur l ' API de complétions de chat.

Veuillez noter que cette activité, bien que permettant aux utilisateurs d'ajouter un historique des conversations, ne conserve pas réellement les requêtes et les réponses précédentes du modèle en mémoire. Il est sans état. Chaque activité OpenAI Chat nécessitera que l'utilisateur fournisse l'historique complet de la boîte de dialogue sous forme de contexte dans l'invite.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Nom du modèle : le modèle LLM (Large Language Model) à utiliser pour la complétion de chat. Sélectionnez l'une des options disponibles dans la liste déroulante : GPT-4, GPT-3.5, GPT-4V. La valeur par défaut est GPT-4. Vous pouvez en savoir plus sur les différences entre ces modèles dans la documentation OpenAI.
• Invite ( Prompt ) : l'invite que vous souhaitez utiliser pour la génération de la complétion de chat. En savoir plus sur l'ingénierie des invites.
• Image type - The type of image to send along with a message if image analysis is needed. This field is displayed if you select the GPT-4V model. Select one of the available options: Image file, Image URL.
  • Image file - Select an image file using a variable. This field supports IResource type input.
  • Image URL - The image URL to send along with a message if image analysis is needed. This field supports String type input.

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés (Manage Properties) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les options supplémentaires ( Show additional options ) (dans Studio Web).

Options supplémentaires

• Instruction : instructions sur la façon dont vous souhaitez que l'IA génère la réponse de complétion de chat. C'est l'équivalent du rôle système mentionné dans la documentation d'OpenAI. Le rôle d' Assistant n'est pas disponible actuellement dans cette activité.
• Nom du modèle - Le modèle LLM (Large Language Model) à utiliser pour la complétion de chat. Vous pouvez choisir entre gpt-3.5-turbo et gpt-4.Par défaut, gpt-4 est sélectionné.
• Jetons max. ( Max Tokens ) - Le nombre maximal de jetons autorisés pour l'invite et la réponse générée. Moins de jetons coûtent moins cher. Si la plupart des modèles prennent en charge 4096 jetons maximum, certains modèles ne prennent en charge que 2048. La valeur par défaut est de 1920. En savoir plus sur les jetons.
• N : le nombre de choix d'achèvement que vous souhaitez que l'IA renvoie. La valeur minimale de ce champ est 1. La valeur par défaut est 1.
• Température : un nombre entre 0 et 2. Des valeurs plus élevées comme 0.8 rendent la sortie plus aléatoire, tandis que des valeurs plus faibles comme 0.2 la rendent plus ciblée et déterministe. La valeur par défaut est 1.
• Top P - Un nombre entre 0 et 1. Plus le nombre est bas, moins les jetons pris en compte sont importants. La valeur par défaut est 1.
• Flux (Stream ) : spécifie s'il faut diffuser en arrière la progression partielle. Si cette option est définie, les jetons sont envoyés en tant qu'événements envoyés par le serveur de données uniquement dès qu'ils sont disponibles, le flux étant terminé par un message data:[DONE] . La valeur par défaut est false.
• Arrêter (Stop) - Jusqu'à 4 séquences où l'API arrête de générer d'autres jetons. Le texte renvoyé ne contient pas la séquence d'arrêt. La valeur par défaut est null.
• Pénalité de présence : un nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils sont apparus ou non dans le texte jusqu'à présent, augmentant ainsi la probabilité du modèle de parler de nouveaux sujets. La valeur par défaut est 0.
• Pénalité de fréquence : nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte jusqu'à présent, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.
• Utilisateur (User ) - Un identifiant unique représentant votre utilisateur final, qui peut aider OpenAI à surveiller et à détecter les abus. La valeur par défaut est null.

Sortie

• Premier texte généré ( Top Generated Text ) : la première chaîne de complétion de chat générée. Si vous souhaitez ne renvoyer qu'une seule réponse (c'est-à-dire, N=1, qui est la valeur par défaut), ce sera la sortie que vous souhaiterez probablement utiliser. Il s'agit d'un type de données Text auquel il est facile d'attribuer une variable et de l'utiliser directement dans d'autres activités/entrées de texte.
• Générer un objet Complétion de chat ( Generate Chat Completion ) - Variable de sortie générée automatiquement. La première chaîne de complétion de chat générée. Si vous souhaitez ne renvoyer qu'une seule réponse (c'est-à-dire, N=1, qui est la valeur par défaut), ce sera la sortie que vous souhaiterez probablement utiliser. Il s’agit d’un type de données « Texte » auquel il est facile d’attribuer une variable et de l’utiliser directement dans d’autres activités/entrées de texte.
  • Choix : ou réponses du modèle. Vous pouvez définir le nombre total de réponses que vous souhaitez récupérer à partir du modèle à l'aide du champ « N » dans les options supplémentaires de l'activité, dont la valeur par défaut est 1. Cela renverra sous la forme d'un tableau avec le premier objet commençant à 0. Ex. : Référencement d'un seul objet dans un tableau à l'intérieur d'un contrôle For Each : Response.Choices(0).Text. Pour plus d'informations, consultez la documentation de l' objet Complétion de chat (Chat Completion ).