Get Text Completion using Llama2

Description

Gera uma resposta de conclusão de texto com base em um aviso exibido usando modelos do Meta Llama 2.

Compatibilidade do projeto

Windows | Multiplataforma

Configuração

• ID da conexão — a conexão estabelecida no Integration Service. Acesse o menu suspenso para escolher, adicionar ou gerenciar conexões.

• Modelo — o modelo a ser usado para a geração de conclusão de texto. Selecione uma das opções disponíveis na lista suspensa: Llama2 13B, Llama2 70B.
• Solicitação — a solicitação a ser usada para a geração de conclusão de texto. Este campo é compatível com String entrada do tipo.

Gerenciar propriedades

Use o assistente Gerenciar Propriedades para configurar ou usar qualquer um dos campos padrão ou personalizados do objeto. Você pode selecionar campos para adicioná-los à tela da atividade. Os campos padrão ou personalizados adicionados ficam disponíveis no painel Propriedades (no Studio Desktop) ou em Mostrar opções adicionais (no Studio Web).

Opções adicionais

• Contagem máxima de tokens — o número máximo de tokens permitidos para o aviso e a resposta gerada. Quanto menos tokens, mais barato fica. O valor padrão é 256. Este campo é compatível com Int32 entrada do tipo.
• Temperatura — um número entre 0 e 2. Valores mais altos tornam a saída mais aleatória, enquanto valores mais baixos a tornam mais concentrada e determinista. Por padrão, este campo é definido como 0,2. Este campo é compatível com Double entrada do tipo.
• P superior - Um número entre 0 e 1. Quanto menor for o número, menos tokens serão considerados. Este campo é compatível com Int32 entrada do tipo.

Saída

• Conclusão - Conclusão de texto gerada superior. Variável de saída gerada automaticamente.
• Objeto de resposta de conclusão de texto — o objeto de resposta completo para a conclusão de texto. Variável de saída gerada automaticamente.