Gerar conclusão de texto

UiPath.MicrosoftAzureOpenAI.IntegrationService.Activities.GenerateTextCompletion

Description

Quando fornecido a um prompt e outras entradas, como o ID do modelo, etc., gera uma resposta de conclusão de texto

Compatibilidade do Projeto

Windows | Multiplataforma

Configuração

• ConnectionId - A conexão estabelecida no Integration Service. Acesse o menu suspenso para escolher, adicionar ou gerenciar conexões. Este campo é compatível apenas com strings ou variáveis String.
• Solicitação - A solicitação que você deseja usar para a geração da conclusão do texto.

Avançado

Opções

• Modelo - O nome ou ID do modelo utilizado para a geração das conclusões de texto.
  Observação: essa atividade permite aos usuários selecionar qualquer modelo GPT-3 que tenha sido implantado na sua instância Azure. Se você não vir um modelo no menu suspenso, entre em contato com seu administrador do Azure e certifique-se de que ele implantou o modelo na produção.
• Máx. de tokens — o número máximo de tokens a serem gerados na conclusão. A contagem de tokens do seu prompt mais max_tokens não podem exceder o tamanho do contexto do modelo. A maioria dos modelos tem um comprimento de contexto de 2048 tokens (exceto os modelos mais recentes, que suportam 4096). Leia mais sobre tokens aqui.
• N — O número de opções de conclusão que você deseja que a AI retorne. O valor mínimo desse campo é 1. O valor padrão é 1.
• Ambiente - O valor datemperatura de amostra a ser usada. Valores mais altos significa que o modelo assume mais riscos. Tente 0.9 para mais respostas ou conclusões criativas, e 0 (também chamado de amostra de argmax) para aquelas com uma resposta bem definida ou mais exata. A recomendação geral é alterar, do valor padrão, esse ou o Valor de Exemplo do Nucleus, mas não ambos. O padrão é 1.
• P superior — um número entre 0 e 1. Quanto menor for o número, menos tokens são considerados. O padrão é 1.
• Fluxo — especifica se o fluxo de volta para o progresso parcial deve ser feito. Se definido, os tokens são enviados como eventos enviados pelo servidor somente de dados à medida que ficam disponíveis, com o fluxo encerrado por uma mensagem data:[DONE] . O padrão é false.
• Probs de log — inclua as probabilidades de log nos tokens mais prováveis do logprob, bem como os tokens escolhidos. Por exemplo, se logprobs for 5, a API retornará uma lista dos 5 tokens mais prováveis. A API sempre retorna o logprob do token de amostra, portanto, pode haver até logprobs+1 elementos na resposta. O valor máximo para logprobs é 5. O padrão é null.
• Eco — além da conclusão, se este campo estiver definido como true , repetirá a solicitação. O valor padrão é false .
• Parar - Até 4 sequências em que a API para de gerar outros tokens. O texto retornado não contém a sequência de parada. O padrão é null.
• Penalidade de presença - Um número entre -2.0 e 2.0. Os valores positivos penalidadem novos tokens com base em se eles aparecem no texto até o momento, aumentando a probabilidade de o modelo falar sobre novos tópicos. O padrão é 0.
• Penalidade de frequência - Número entre -2.0 e 2.0. Valores positivos penalidader novos tokens com base em sua frequência existente no texto até agora, diminuindo a probabilidade do modelo repetir a mesma linha textual. O padrão é 0.
• Melhor de — gera best_of conclusões no lado do servidor e retorna best (aquela com a maior probabilidade de log por token). Não é possível transmitir os resultados. Quando usado com N, best_of controla o número de conclusões de candidatos e N especifica quantos devem ser retornados - best_of deve ser maior que N. O padrão é 1.

Saída

• Resposta - O objeto GenerateTextCompletion completo, que inclui:
  • Escolhas - ou respostas do modelo. Você pode definir o número total de respostas que deseja voltar do modelo usando o campo 'N' nas opções adicionais da atividade que é padronizado como 1. Isso retornará como uma matriz com o primeiro objeto começando em 0. Ex.: Referenciando um único objeto em uma array dentro de um controle "For Each": Response.Choices(0).Text .

    Para obter informações sobre outras partes do objeto de resposta Conclusão de texto, consulte esta página.

• Texto Gerado Superior — a string de conclusão do texto gerado superior. Se você estiver interessado em retornar apenas uma única resposta (ou seja, N=1, que é o padrão), essa será a saída que você provavelmente precisará usar. É um tipo de dados "Texto" fácil de atribuir uma variável e usar diretamente em outras atividades/entradas de texto.