Générer un objet Complétion de chat

Description

Générer une réponse de complétion de chat à partir d'une invite utilisateur, d'une instruction facultative et d'autres entrées facultatives telles que l'ID de modèle. Cette fonctionnalité reprend les capacités populaires de ChatGPT. Cette activité permet aux utilisateurs d'interagir avec les modèles GPT-3.5 et GPT-4, et de simuler une expérience de dialogue avec le modèle en fonction du contexte et des rôles d'utilisateur.

Compatibilité du projet

Windows | Multiplate-forme

Configuration

• Connexion : la connexion établie dans Integration Service. Accédez au menu déroulant pour choisir, ajouter ou gérer des connexions.
• Modèle : le modèle LLM à utiliser pour la complétion de chat. Vous pouvez choisir entre gpt-35-turbo et gpt-4. Pour en savoir plus sur les différences entre ces modèles, consultez la documentation Microsoft .
  Remarque :

  Cette activité permet aux utilisateurs de sélectionner n'importe quel modèle GPT-3.5 ou GPT-4 déployé dans votre instance Azure. Si un modèle n'apparaît pas dans la liste déroulante, veuillez contacter votre administrateur Azure et vous assurer que le modèle a été déployé en production.

• Invite : l’entrée à utiliser pour la demande de complétion de chat. En savoir plus sur l'ingénierie des requêtes. Ce champ prend en charge une entrée de type String .
• Base de connaissances : indique si la complétion de chat sera exécutée ou non avec un contexte unique stocké dans une base de données de vecteurs. Si vous sélectionnez cette option, d'autres champs seront obligatoires. Valeur booléenne. La valeur par défaut est Faux.
• BD de vecteurs - le vecteur de données à utiliser comme base de connaissances interne. Sélectionnez une option dans le menu déroulant. Pour le moment, seul Pinecone est disponible. Ce champ s’affiche si vous définissez la Base de connaissances sur Vrai.
• Clé API Pinecone : si vous utilisez votre propre instance d'une base de données de vecteurs Pinecone pour obtenir une complétion de chat avec génération augmentée de récupération, vous devez fournir la clé API. Ils peuvent être stockés en tant que ressource si la sécurité est un problème. Ce champ prend en charge une entrée de type String . Ce champ s’affiche si vous sélectionnez Pinecone pour le champ BD de vecteurs.
• Environnement Pinecone : l'environnement dans lequel la base de données Pinecone est hébergée. Consultez votre instance. Il s'agit d'un champ obligatoire si la génération augmentée de récupération est souhaitée. Sélectionnez une option dans la liste déroulante disponible.
• Index Pinecone : l'index Pinecone à rechercher pour extraire le contenu pertinent. Sélectionnez une option dans la liste déroulante disponible. Ce champ est facultatif.
• Espace de noms Pinecone : l'espace de noms Pinecone spécifique à rechercher dans le contexte pertinent. Sélectionnez une option dans la liste déroulante disponible. Ce champ est facultatif.

Gérer les propriétés

Utilisez l'assistant Gérer les propriétés pour configurer ou utiliser l'un des champs standard ou personnalisés de l'objet. Vous pouvez sélectionner des champs et les ajouter à la zone de dessin d’activité. Les champs standard ou personnalisés ajoutés sont disponibles dans le panneau Propriétés (dans Studio Desktop) ou sous Afficher les propriétés supplémentaires (dans Studio Web).

Propriétés supplémentaires

• Version de l'API : la version de l'API à utiliser pour cette opération. cela suit le format AAAA-MM-JJ. Ce champ prend en charge une entrée de type String .
• Instruction : instructions qui guident l'IA pour qu'elle réponde d'une manière qui correspond à votre intention. La valeur par défaut est nulle. Ce champ prend en charge une entrée de type String .
• Nombre maximum de jetons : le nombre maximal de jetons autorisés pour l'invite et la réponse générée. Un nombre moins élevé de jetons coûtera moins cher. Si la plupart des modèles prennent en charge 4 096 jetons maximum, certains modèles ne prennent en charge que 2 048 jetons. La valeur par défaut est 3840. En savoir plus sur les jetons.
• Température : un nombre compris entre 0 et 2. Des valeurs plus élevées comme 0.8 rendent la sortie plus aléatoire, tandis que des valeurs plus faibles comme 0,2 la rendent plus ciblée et déterministe. La valeur par défaut est 1.
• N : le nombre de choix de complétion que vous souhaitez que l’IA renvoie. La valeur minimale de ce champ est 1. La valeur par défaut est 1.
• Premier p : un nombre compris entre 0 et 1. Plus le nombre est bas, plus le nombre de jetons pris en compte est faible. La valeur par défaut est 1.
• Flux : spécifie si la progression partielle doit être diffusée. Si cette option est définie, les jetons sont envoyés en tant qu'événements envoyés par le serveur de données uniquement dès qu'ils sont disponibles, le flux étant terminé par un message data:[DONE] . La valeur par défaut est « False ».
• Pénalité de présence : un nombre compris entre −2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons selon qu'ils apparaissent ou non dans le texte, augmentant ainsi la probabilité pour le modèle d'aborder de nouveaux sujets. La valeur par défaut est 0.
• Pénalité de fréquence : nombre compris entre −2,0 et 2,0. Les valeurs positives pénalisent les nouveaux jetons en fonction de leur fréquence existante dans le texte, réduisant ainsi la probabilité pour le modèle de répéter textuellement la même ligne. La valeur par défaut est 0.

Sortie

• Premier texte généré : la première chaîne de complétion de chat générée. Si vous souhaitez ne renvoyer qu'une seule réponse, ce sera la sortie que vous utiliserez le plus probablement. Il s’agit d’un type de données Text facile à attribuer une variable et à utiliser directement dans d’autres activités/entrées de texte.
• Complétion de chat : l’objet ChatCompletion complet qui comprend :
  • Choix : ou réponses du modèle. Vous pouvez définir le nombre total de réponses que vous souhaitez renvoyer depuis le modèle à l'aide du champ « N » dans les options supplémentaires de l'activité, où la valeur par défaut est 1. Elle sera renvoyée sous la forme d’un tableau avec le premier objet commençant à 0. Par exemple Référencement d'un seul objet dans un tableau à l'intérieur d'un contrôle 'For Each': Response.Choices(0).Text. Pour plus d'informations, consultez la documentation de l'objet Complétion de chat.