Gerar conclusão de texto

UiPath.OpenAI.IntegrationService.Activities.GenerateTextCompletion

Description

Depois de um aviso e outras entradas, como ID do modelo, etc., essa atividade gera uma resposta de conclusão de texto. Essa funcionalidade utiliza modelos legados de geração de texto do GPT-3, como Curie, Ada e Jobim Robô. Leia mais sobre as diferenças entre modelos e conclusão de texto.

Compatibilidade do projeto

Windows | Multiplataforma

Configuração

• ID da conexão — a conexão estabelecida no Integration Service. Acesse o menu suspenso para escolher, adicionar ou gerenciar conexões.

• Solicitação — a solicitação que você deseja usar para gerar a conclusão de texto. Leia mais sobre prompts aqui.

Gerenciar propriedades

Use o assistente Gerenciar Propriedades para configurar ou usar qualquer um dos campos padrão ou personalizados do objeto. Você pode selecionar campos para adicioná-los à tela da atividade. Os campos padrão ou personalizados adicionados ficam disponíveis no painel Propriedades (no Studio Desktop) ou em Mostrar opções adicionais (no Studio Web).

Opções adicionais

• • Nome do modelo — o Modelo de Linguagem Abrangente (LLM) que deseja utilizar para a conclusão de texto. Leia mais sobre as diferenças entre esses modelos na documentação do OpenAI.
  • Máx. de tokens — o número máximo de tokens permitidos para o aviso e a resposta gerada. Quanto menos tokens, mais barato fica. A maioria dos modelos suporta um máximo de 4096 tokens, no entanto, alguns modelos suportam apenas 2048. O valor padrão é 1920. Leia mais sobre tokens.
  • N — O número de opções de conclusão que você deseja que a AI retorne. O valor mínimo desse campo é 1. O valor padrão é 1.
  • Ambiente - Um número entre 0 e 2. Valores mais altos como 0.8 tornam a saída mais aleatória, enquanto valores mais baixos como 0.2 a tornam mais focada e de determinado tipo. O valor padrão é 1.
  • P superior — um número entre 0 e 1. Quanto menor for o número, menos tokens são considerados. O padrão é 1.
  • Sufixo - O sufixo que vem após uma conclusão do texto inserido. O padrão é null.
  • Fluxo — especifica se o fluxo de volta para o progresso parcial deve ser feito. Se definido, os tokens são enviados como eventos enviados pelo servidor somente de dados à medida que ficam disponíveis, com o fluxo encerrado por uma mensagem data:[DONE] . O padrão é false.
  • Probs de log — inclua as probabilidades de log nos tokens mais prováveis do logprob, bem como os tokens escolhidos. Por exemplo, se logprobs for 5, a API retornará uma lista dos 5 tokens mais prováveis. A API sempre retorna o logprob do token de amostra, portanto, pode haver até logprobs+1 elementos na resposta. O valor máximo para logprobs é 5. O padrão é null.
  • Eco — além da conclusão, se este campo estiver definido como true , repetirá a solicitação. O valor padrão é false .
  • Parar - Até 4 sequências em que a API para de gerar outros tokens. O texto retornado não contém a sequência de parada. O padrão é null.
  • Penalidade de presença - Um número entre -2.0 e 2.0. Os valores positivos penalidadem novos tokens com base em se eles aparecem no texto até o momento, aumentando a probabilidade de o modelo falar sobre novos tópicos. O padrão é 0.
  • Penalidade de frequência - Número entre -2.0 e 2.0. Valores positivos penalidader novos tokens com base em sua frequência existente no texto até agora, diminuindo a probabilidade do modelo repetir a mesma linha textual. O padrão é 0.
  • Melhor de — gera best_of conclusões no lado do servidor e retorna best (aquela com a maior probabilidade de log por token). Não é possível transmitir os resultados. Quando usado com N, best_of controla o número de conclusões de candidatos e N especifica quantos devem ser retornados - best_of deve ser maior que N. O padrão é 1.

    • Como esse parâmetro gera muitas conclusões, ele pode consumir rapidamente sua cota de token. Use com cuidado e certifique-se de ter configurações dentro do necessário para o Máximo de Tokens e Parada.

  • Usuário - Um identificador exclusivo que representa seu usuário final, que pode ajudar a OpenAI a monitorar e detectar abusos. O padrão é null.

Saída

• Texto gerado superior - A string de conclusão de texto gerada superior. Se você estiver interessado em retornar apenas uma única resposta (ou seja, N=1, que é o padrão), esta será a saída que você provavelmente desejará usar. É um tipo de dados Text fácil de atribuir uma variável e usar diretamente em outras atividades/entradas de texto.
• Gerar conclusão de texto - Variável de saída gerada automaticamente. O objeto GenerateTextCompletion completo, que inclui:
  • Escolhas — ou respostas do modelo. Você pode definir o número total de respostas que deseja voltar do modelo usando o campo "N" nas opções adicionais da atividade, que tem o valor padrão de 1. Isso retornará como uma matriz com o primeiro objeto começando em 0. Ex. Referenciando um único objeto em uma matriz dentro de um controle "For Each": Response.Choices(0).Text. Para obter mais informações sobre outras partes do objeto de resposta de Conclusão de texto, consulte a documentação Criar conclusão .