Gerar conclusão de texto

Gerar atividade Text Completion no conector Microsoft Azure OpenAI.

Description

Dado um prompt e outras entradas, como o ID do modelo, etc., gera uma resposta de conclusão de texto.

Compatibilidade do projeto

Windows | Multiplataforma

Configuração

• Conexão - A conexão estabelecida no Integration Service. Acesse o menu suspenso para escolher, adicionar ou gerenciar conexões.
• Modelo – O modelo de linguagem abrangente (LLM) a ser usado para as conclusões de texto.
  Observação:

  Essa atividade permite que os usuários selecionem qualquer modelo GPT-3 que tenha sido implantado na sua instância Azure. Se você não vir um modelo no menu suspenso, entre em contato com seu administrador do Azure e certifique-se de que ele implantou o modelo na produção.

• Prompt - O prompt que você deseja usar para a geração da conclusão do texto. Esse campo é compatível com entrada do tipo String .

Gerenciar propriedades

Use o assistente Gerenciar Propriedades para configurar ou usar qualquer um dos campos padrão ou personalizados do objeto. Você pode selecionar campos para adicioná-los à tela de atividades. Os campos padrão ou personalizados adicionados estão disponíveis no painel Propriedades (no Studio Desktop) ou em Mostrar propriedades adicionais (no Studio Web).

Propriedades adicionais

• Versão da API – A versão da API a ser usada para essa operação. este segue o formato AAAA-MM-DD. Esse campo é compatível com entrada do tipo String .
• Max Tokens - O número máximo de tokens a serem gerados na conclusão. A contagem de tokens da sua solicitação mais max_tokens não pode exceder o comprimento do contexto do modelo. A maioria dos modelos tem um comprimento de contexto de 2048 tokens (exceto os modelos mais recentes, que suportam 4096). Leia mais informações sobre tokens.
• N — o número de opções de conclusão que você deseja que a IA retorne. O valor mínimo deste campo é
  1. O valor padrão é 1.
• Temperatura – O valor da temperatura de amostra a ser usada. Valores mais altos significam que o modelo assumem mais riscos. Tente 0.9 para respostas ou conclusões mais criativas e 0 (também chamada de amostra de argmax) para uma resposta bem definida ou mais exata. A recomendação geral é alterar, do valor padrão, este valor ou o Valor de amostra de núcleo, mas não ambos. O padrão é 1.
• P superior – Um número entre 0 e 1. Quanto menor for o número, menos tokens serão considerados. O padrão é 1.
• Fluxo - Especifica se o progresso parcial deve ser transmitido de volta. Se definido, os tokens são enviados como eventos server-sent somente de dados à medida que são disponibilizados, com a transmissão encerrada por uma mensagem data:[DONE] . O padrão é false.
• Probabilidades de log - Inclua as probabilidades de log nos tokens mais prováveis de logprob, bem como os tokens escolhidos. Por exemplo, se logprobs for 5, a API retornará uma lista dos 5 tokens mais prováveis. A API sempre retorna o logprob do token de amostra, portanto, pode haver até logprobs+1 elementos na resposta. O valor máximo de logprobs é 5. O padrão é nulo.
• Eco — além da conclusão, se este campo estiver definido como true, retorna o prompt. O valor padrão é false.
• Parar — Até 4 sequências em que a API para de gerar mais tokens. O texto retornado não contém a sequência de parada. O padrão é nulo.
• Penalidade de presença - Um número entre -2.0 e 2.0. Os valores positivos penalizam novos tokens com base na possibilidade de eles aparecerem no texto até o momento, aumentando a probabilidade de o modelo falar sobre novos tópicos. O padrão é 0.
• Penalidade de frequência – Número entre -2.0 e 2.0. Valores positivos penalizam novos tokens com base na frequência existente no texto até o momento, diminuindo a probabilidade de o modelo repetir a mesma linha textual. O padrão é 0.
• Melhor de - Gera as conclusões best_of no lado do servidor e retorna a best (aquela com a maior probabilidade de log por token). Não é possível transmitir os resultados. Quando usado com N, best_of controla o número de conclusões de candidatos e N especifica quantos devem ser retornados - best_of deve ser maior que N. O padrão é 1.

Saída

• Texto gerado superior - A string de conclusão de texto gerada superior. Se você estiver interessado em retornar apenas uma única resposta (ou seja N=1, que é o padrão), esta será a saída que você provavelmente precisará usar. É um tipo de dados "Texto" o qual é fácil de atribuir uma variável e usar diretamente em outras atividades/entradas de texto.
• Gerar conclusão de texto - O objeto TextCompletion completo que inclui:
  • Escolhas ou respostas do modelo. Você pode definir o número total de respostas que deseja voltar do modelo usando o campo N nas opções adicionais da atividade, que tem como padrão 1. Isso retornará como uma matriz com o primeiro objeto começando em 0. Ex. Referenciando um único objeto em uma matriz dentro de um controle For Each: Response.Choices(0).Text. Leia mais sobre o objeto de resposta Text Completion.