Générer un objet Complétion de chat

Description

À partir d'une invite utilisateur, cette activité génère une réponse de complétion de chat. L’invite peut inclure à la fois des instructions système et des instructions utilisateur, ainsi que des paramètres spécifiques à une tâche selon la configuration du modèle dans l’ API NIM NVIDIA.

Comment utiliser l’activité dans un processus agentique

Pour utiliser cette activité dans un processus agentique Maestro, procédez comme suit :

1. Ouvrez un processus agentique nouveau ou existant.
2. Ajoutez un élément de tâche de service à la zone de dessin et ouvrez le panneau Propriétés de la tâche.
3. Nommez la tâche de service Nvidia NIM Hello World.
4. Dans la section Implementation , dans la liste déroulante Action , sélectionnez Exécuter l'activité du connecteur.
5. Sélectionnez le connecteur NVIDIA NIM .
6. Sélectionnez une connexion existante ou créez-en une nouvelle. Pour plus d’informations, consultez l’authentification NVIDIA NIM.
7. Dans Activité, sélectionnez Générer un objet Complétion de chat.
8. Pour la Version du modèle, choisissez un modèle dans la liste des modèles disponibles dans le point de terminaison de l'API fourni sous l' URL lors de la création du connecteur. La version du modèle peut être modifiée pendant la génération et le débogage, et sera corrigée vers une version de processus lorsque l’automatisation sera publiée.
9. Pour Texte d' invite, utilisez l' éditeur d'expressions pour composer une invite qui inclut à la fois les instructions système et les variables de votre processus nécessaires à la tâche du modèle. Pour une brève vérification de la connectivité, une invite simple telle que "What can you do" est un bon début.
10. Connectez l'événement de début à la tâche de service et la tâche de service à un nœud d'événement de fin dans le canevas.
11. Sélectionnez Déboguer pour exécuter ce processus. Après une exécution réussie, examinez les variables globales et recherchez la réponse {:} de la source : NVIDIA NIM NVIDIA automatique. Notez la structure de la réponse.

La sortie de l'agent doit être affectée à une variable de processus afin qu'il puisse influencer la progression du processus Maestro, par exemple pour prendre une décision basée sur une évaluation booléenne, ou pour utiliser la réponse d'une tâche de classification.

1. En mode Conception, sélectionnez l'agent dans le canevas de conception.
2. Sélectionnez Propriétés.
3. Sous Sortie. Sélectionner + Ajouter nouveau
4. Sous Sortie, sélectionnez Add new et ajoutez une variable de type String avec le nom agent_reponse.
5. Pour Valeur: sélectionnez Variable et examinez les variables de sortie disponibles de l'agent NIM. Il s’agit probablement d’une variable de chaîne contenant la réponse complète du modèle.

Évaluation de la sortie

La sortie qui est destinée aux humains, par exemple les raisons d’une escalade, peut être facilement passée en texte naturel pour l’humain. La sortie attendue pour une action d’API/robot doit être strictement composée. Voici un exemple de requête système/utilisateur qui génère une sortie spécifique de la part d'un agent. Utilisez l' éditeur d'expressions dans Studio pour ajouter des variables selon vos besoins.

"What is the quantity on inventory of Order ID " + vars.orderId_1 + "respond only with a JSON object with the quantity in the key Order_Quantity. No explanations, only JSON"

L'agent répondra avec les informations suivantes :

{"Order_Quantity":"100"}

Faites particulièrement attention aux saisies de votre demande à l’agent et à la réponse réelle. Même si la réponse ressemble à du type JSON, elle peut être de type string.