Générer un objet Complétion de chat

Description

Générer une réponse de complétion de chat à partir d'une invite utilisateur, d'une instruction facultative et d'autres entrées facultatives telles que l'ID de modèle. Cette fonctionnalité reprend les capacités populaires de ChatGPT. Cette activité permet aux utilisateurs d'interagir avec les modèles GPT-3.5 et GPT-4, et de simuler une expérience de dialogue avec le modèle en fonction du contexte et des rôles d'utilisateur.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• ID de connexion ( Connection ID) - La connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.

• Modèle (Model) : le modèle LLM (Large Language Model) à utiliser pour la complétion de chat. Vous pouvez choisir entre gpt-35-turbo et gpt-4. Vous pouvez en savoir plus sur les différences entre ces modèles dans la documentation Microsoft.
  Remarque : cette activité permet aux utilisateurs de sélectionner n'importe quel modèle GPT-3.5 ou GPT-4 déployé dans votre instance Azure. Si un modèle n'apparaît pas dans la liste déroulante, veuillez contacter votre administrateur Azure et vous assurer que le modèle a été déployé en production.
• Invite ( Prompt ) : entrée à utiliser pour la demande de complétion de chat. En savoir plus sur Inviter l’ingénierie. Ce champ prend en charge l'entrée de type String .
• Base de connaissances : Indique si la complétion de chat sera exécutée ou non avec un contexte unique stocké dans une base de données de vecteurs. Si cette option est sélectionnée, d'autres champs seront nécessaires. Valeur booléenne. La valeur par défaut est Faux.
• BD de vecteurs - BD de vecteurs à utiliser comme base de connaissances interne. Sélectionnez une option dans le menu déroulant. Pour l'instant, seul Pinecone est disponible. Ce champ s'affiche si vous définissez Base de connaissances sur Vrai.
• Clé API dePinecone - Si vous utilisez votre propre instance d'une base de données de vecteurs Pinecone pour obtenir une complétion de chat avec génération augmentée de récupération, vous devez fournir la clé API. Cela peut être stocké en tant que ressource si la sécurité est un problème. Ce champ prend en charge le type d'entrée String . Ce champ s'affiche si vous sélectionnez Pinecone pour le champ AI Center.
• EnvironnementPinecone  : environnement dans lequel la base de données Pinecone est hébergée. Veuillez consulter votre instance. Ce champ est obligatoire si la génération augmentée de récupération est souhaitée. Sélectionnez une option dans la liste déroulante disponible.
• IndexPinecone - L'index Pinecone pour rechercher un contenu pertinent. Sélectionnez une option dans la liste déroulante disponible. Ce champ est facultatif.
• Espace de nomsPinecone - L'espace de noms Pinecone spécifique à rechercher dans le contexte pertinent. Sélectionnez une option dans la liste déroulante disponible. Ce champ est facultatif.

Gérer les propriétés

Utilisez l’assistant Gérer les propriétés ( Manage Properties ) pour configurer ou utiliser l’un des champs standard ou personnalisés de l’objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin de l’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (Properties) (dans Studio Desktop) ou sous Afficher les propriétés supplémentaires ( Show additional properties ) (dans Studio Web).

Propriétés supplémentaires

• Version de l'API ( API version ) : la version de l'API à utiliser pour cette opération. il suit le format JJ-MM-AAAA. Ce champ prend en charge le type d'entrée String .
• Instruction : instructions qui guident l'IA pour qu'elle réponde d'une manière qui correspond à votre intention. La valeur par défaut est nulle. Ce champ prend en charge le type d'entrée String .
• Jetons max. ( Max Tokens ) - Le nombre maximal de jetons autorisés pour l'invite et la réponse générée. Moins de jetons coûtent moins cher. Si la plupart des modèles prennent en charge 4096 jetons maximum, certains modèles ne prennent en charge que 2048. La valeur par défaut est 3 840. En savoir plus sur les jetons.
• Température (Temperature) : un nombre entre 0 et 2. Des valeurs plus élevées comme 0.8 rendent la sortie plus aléatoire, tandis que des valeurs plus faibles comme 0,2 la rendent plus ciblée et déterministe. La valeur par défaut est 1.
• N - Le nombre de choix d'achèvement que vous souhaitez que l'IA renvoie. La valeur minimale de ce champ est de 1. La valeur par défaut est 1.
• Premier P : un nombre entre 0 et 1. Plus le nombre est bas, plus le nombre de jetons pris en compte est faible. La valeur par défaut est de 1.
• Flux : indique si la progression partielle doit être diffusée. Si cette option est définie, les jetons sont envoyés en tant qu'événements envoyés par le serveur de données uniquement dès qu'ils deviennent disponibles, le flux étant terminé par un message data:[DONE] . La valeur par défaut est Faux (False).
• Pénalité de présence ( Presence Péalty ) - Un nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils apparaissent ou non dans le texte, augmentant ainsi la probabilité pour le modèle d'aborder de nouveaux sujets. La valeur par défaut est 0.
• Pénalité de fréquence - Nombre compris entre -2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.

Sortie

• Premier texte généré ( Top Generated Text ) : la première chaîne de complétion de chat générée. Si vous souhaitez ne renvoyer qu'une seule réponse (c'est-à-dire, N=1, qui est la valeur par défaut), ce sera la sortie que vous souhaiterez probablement utiliser. Il s'agit d'un type de données Text auquel il est facile d'attribuer une variable et de l'utiliser directement dans d'autres activités/entrées de texte.
• Achèvement du chat - L'objet ChatCompletion complet qui inclut :
  • Choix : ou réponses du modèle. Vous pouvez définir le nombre total de réponses que vous souhaitez récupérer à partir du modèle à l'aide du champ « N » dans les options supplémentaires de l'activité, dont la valeur par défaut est 1. Cela renverra sous la forme d'un tableau avec le premier objet commençant à 0. Ex. : Référencement d'un objet unique dans un tableau dans une commande 'For Each' : Response.Choices(0).Text. Pour plus d'informations, consultez la documentation de l'objet Complétion de chat (Chat Completion object).