Gerar conclusão de chat

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

Description

Given a user prompt and additional options like instruction (that may include conversation history), this activity generates a chat completion response. Read more about the Chat Completions API.

Observe que esta atividade, embora dê aos usuários a capacidade de adicionar o histórico de conversas, na verdade não mantém as solicitações e respostas anteriores do modelo na memória. É sem estado. Cada atividade OpenAI Chat exigiria que o usuário fornecesse o histórico completo de diálogos como contexto no prompt.

Compatibilidade do projeto

Windows | Multiplataforma

Configuração

• Conexão - A conexão estabelecida no Integration Service. Acesse o menu suspenso para escolher, adicionar ou gerenciar conexões.
• Nome do modelo – O modelo de linguagem abrangente (LLM) a ser usado para a conclusão do chat. Selecione uma das opções disponíveis na lista suspensa. A conclusão do chat não é compatível com todos os modelos. Verifique se o modelo selecionado é compatível com esta operação. Você pode ler mais sobre as diferenças entre esses modelos na documentação do OpenAI.
• Prompt – O prompt que você deseja usar para a geração da conclusão do chat. Leia mais sobre engenharia de prompts.
• Image type - The type of image to send along with a message if image analysis is needed. Select one of the available options:
  • Image file - Select an image file using a variable. This field supports IResource type input. Supported file formats: PNG (.png), JPEG (.jpeg and .jpg), WEBP (.webp), and non-animated GIF (.gif).
  • URL da imagem – A URL da imagem a ser enviada junto com uma mensagem se a análise de imagem for necessária. Esse campo é compatível com entrada do tipo String .

Gerenciar propriedades

Use o assistente Gerenciar Propriedades para configurar ou usar qualquer um dos campos padrão ou personalizados do objeto. Você pode selecionar campos para adicioná-los à tela de atividades. Os campos padrão ou personalizados adicionados estão disponíveis no painel Propriedades (no Studio Desktop) ou em Mostrar propriedades adicionais (no Studio Web).

Propriedades adicionais

• Instrução – Instruções sobre como você deseja que a IA gere a resposta de conclusão do chat. Isso é o equivalente à função do sistema analisada nos documentos do OpenAI. A função Assistant não está disponível nesta atividade atualmente.
• Max Tokens - O número máximo de tokens permitido para o prompt e a resposta gerada. Quanto menos tokens, mais barato fica. A maioria dos modelos suporta um máximo de 4096 tokens, no entanto, alguns modelos suportam apenas 2048. O valor padrão é 1920. Leia mais sobre tokens.
• N — o número de opções de conclusão que você deseja que a IA retorne. O valor mínimo deste campo é 1. O valor padrão é 1.
• Temperatura - Um número entre 0 e 2. Valores mais altos, como 0.8 tornam a saída mais aleatória, enquanto valores mais baixos, como 0.2 a tornam mais concentrada e determinista. O valor padrão é 1.
• P superior – Um número entre 0 e 1. Quanto menor for o número, menos tokens serão considerados. O padrão é 1.
• Fluxo - Especifica se o progresso parcial deve ser transmitido de volta. Se definido, os tokens são enviados como eventos server-sent somente de dados à medida que são disponibilizados, com a transmissão encerrada por uma mensagem data:[DONE] . O padrão é false.
• Parar — Até 4 sequências em que a API para de gerar mais tokens. O texto retornado não contém a sequência de parada. O padrão é null.
• Penalidade de presença - Um número entre -2.0 e 2.0. Os valores positivos penalizam novos tokens com base na possibilidade de eles aparecerem no texto até o momento, aumentando a probabilidade de o modelo falar sobre novos tópicos. O padrão é 0.
• Penalidade de frequência – Número entre -2.0 e 2.0. Valores positivos penalizam novos tokens com base na frequência existente no texto até o momento, diminuindo a probabilidade de o modelo repetir a mesma linha textual. O padrão é 0.
• Usuário - Um identificador exclusivo que representa seu usuário final, que pode ajudar o OpenAI a monitorar e detectar abusos. O padrão é null.

Saída

• Texto gerado superior - A string superior de conclusão do chat gerada. Se você estiver interessado em retornar apenas uma única resposta (ou seja, N=1, que é o padrão), esta será a saída que você provavelmente desejará usar. É um tipo de dados Text fácil de atribuir uma variável e usar diretamente em outras atividades/entradas de texto.
• Gerar conclusão do chat – Variável de saída gerada automaticamente. A principal string de conclusão do chat gerada. Se você estiver interessado em retornar apenas uma única resposta (ou seja, N=1, que é o padrão), esta será a saída que você provavelmente desejará usar. É um tipo de dados "Texto" o qual é fácil de atribuir uma variável e usar diretamente em outras atividades/entradas de texto.
  • Escolhas — ou respostas do modelo. Você pode definir o número total de respostas que deseja voltar do modelo usando o campo "N" nas opções adicionais da atividade, que é padronizado como 1. Isso retornará como uma matriz com o primeiro objeto começando em 0. Ex. Referenciando um único objeto em uma matriz dentro de um controle For Each: Response.Choices(0).Text. Para obter mais informações, consulte a documentação do objeto Conclusão de chat .