Gerar conclusão de chat

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

Description

Esta atividade recebe um aviso do usuário e opções adicionais como instruções (que podem incluir o histórico de conversas), e gera uma resposta de conclusão de texto. O padrão desta atividade é o GPT-3.5-turbo mas também permite o acesso ao GPT-4. Ambos os modelos são otimizados para o chat, daí o nome da atividade. Leia mais sobre a API de conclusões do chat.

Observe que esta atividade, embora dê aos usuários a capacidade de adicionar histórico de conversa, na verdade não mantém as solicitações e respostas anteriores do modelo na memória. É sem estado. Cada atividade OpenAI Chat exigiria que o usuário fornecesse o histórico completo de diálogos como contexto no prompt.

Compatibilidade do projeto

Windows | Multiplataforma

Configuração

• ID da conexão — a conexão estabelecida no Integration Service. Acesse o menu suspenso para escolher, adicionar ou gerenciar conexões.

• Nome do modelo - O modelo de linguagem abrangente (LLM) a ser usado para a conclusão do chat. Selecione uma das opções disponíveis na lista suspensa: GPT-4, GPT-3.5, GPT-4V. O valor padrão é GPT-4. Leia mais sobre as diferenças entre esses modelos na documentação do OpenAI.
• Solicitação — a solicitação que você deseja usar para gerar a conclusão do chat. Leia mais sobre a engenharia de prompt.
• Tipo de imagem - O tipo de imagem a ser enviado junto com uma mensagem, caso a análise de imagem seja necessária. Este campo é exibido se você selecionar o modelo GPT-4V. Selecione uma das opções disponíveis: Arquivo de imagem, URL da imagem. Formatos de arquivo compatíveis: PNG (.png), JPEG (.jpeg e .jpg), WEBP (.webp) e GIF não animado (.gif)
  • Arquivo de imagem - Selecione um arquivo de imagem usando uma variável. Este campo é compatível com IResource entrada do tipo.
  • URL da imagem - A URL da imagem a ser enviada com uma mensagem se a análise de imagem for necessária. Este campo é compatível com String entrada do tipo.

Gerenciar propriedades

Use o assistente Gerenciar Propriedades para configurar ou usar qualquer um dos campos padrão ou personalizados do objeto. Você pode selecionar campos para adicioná-los à tela da atividade. Os campos padrão ou personalizados adicionados ficam disponíveis no painel Propriedades (no Studio Desktop) ou em Mostrar propriedades adicionais (no Studio Web).

Propriedades adicionais

• Instrução — instruções sobre como você deseja que a IA gere a resposta de conclusão do chat. Isso é equivalente à função de sistema abordada nos documentos do OpenAI. A função Assistant não está disponível nesta atividade no momento.
• Nome do modelo - O Modelo de Linguagem Abrangente (LLM) a ser utilizado para a conclusão do chat. Você pode escolher entre gpt-3.5-turbo e gpt-4. Por padrão, gpt-4 é selecionado.
• Máx. de tokens — o número máximo de tokens permitidos para o aviso e a resposta gerada. Quanto menos tokens, mais barato fica. A maioria dos modelos suporta um máximo de 4096 tokens, no entanto, alguns modelos suportam apenas 2048. O valor padrão é 1920. Leia mais sobre tokens.
• N — O número de opções de conclusão que você deseja que a AI retorne. O valor mínimo desse campo é 1. O valor padrão é 1.
• Ambiente - Um número entre 0 e 2. Valores mais altos como 0.8 tornam a saída mais aleatória, enquanto valores mais baixos como 0.2 a tornam mais focada e de determinado tipo. O valor padrão é 1.
• P superior — um número entre 0 e 1. Quanto menor for o número, menos tokens são considerados. O padrão é 1.
• Fluxo — especifica se o fluxo de volta para o progresso parcial deve ser feito. Se definido, os tokens são enviados como eventos enviados pelo servidor somente de dados à medida que ficam disponíveis, com o fluxo encerrado por uma mensagem data:[DONE] . O padrão é false.
• Parar - Até 4 sequências em que a API para de gerar outros tokens. O texto retornado não contém a sequência de parada. O padrão é null.
• Penalidade de presença - Um número entre -2.0 e 2.0. Os valores positivos penalidadem novos tokens com base em se eles aparecem no texto até o momento, aumentando a probabilidade de o modelo falar sobre novos tópicos. O padrão é 0.
• Penalidade de frequência - Número entre -2.0 e 2.0. Valores positivos penalidader novos tokens com base em sua frequência existente no texto até agora, diminuindo a probabilidade do modelo repetir a mesma linha textual. O padrão é 0.
• Usuário - Um identificador exclusivo que representa seu usuário final, que pode ajudar a OpenAI a monitorar e detectar abusos. O padrão é null.

Saída

• Texto gerado superior - A string de conclusão do chat gerada superior. Se você estiver interessado em retornar apenas uma única resposta (ou seja, N=1, que é o padrão), esta será a saída que você provavelmente desejará usar. É um tipo de dados Text fácil de atribuir uma variável e usar diretamente em outras atividades/entradas de texto.
• Gerar conclusão do chat - Variável de saída gerada automaticamente. A principal string de conclusão do chat gerada. Se você estiver interessado em retornar apenas uma única resposta (ou seja, N=1, que é o padrão), esta será a saída que você provavelmente desejará usar. É um tipo de dados "Texto" ao qual é fácil atribuir uma variável e usá-la diretamente em outras atividades/entradas de texto.
  • Escolhas — ou respostas do modelo. Você pode definir o número total de respostas que deseja voltar do modelo usando o campo "N" nas opções adicionais da atividade, que tem o valor padrão de 1. Isso retornará como uma matriz com o primeiro objeto começando em 0. Ex. Referenciando um único objeto em uma matriz dentro de um controle For Each: Response.Choices(0).Text. Para mais informações, consulte a documentação do objeto Conclusão de chat .