Gerar conclusão de chat

Description

Ao receber um aviso e outras entradas, gera uma resposta de conclusão do chat.

Compatibilidade do projeto

Windows | Multiplataforma

Configuração

• Conexão - A conexão estabelecida no Integration Service. Acesse o menu suspenso para escolher, adicionar ou gerenciar conexões.
• Mensagens - As mensagens que você deseja usar para a geração de conclusões do chat. Ofereça ao modelo uma caixa de diálogo ou contexto do "bate-papo" inserindo uma string e depois retorne. Deve haver um número ímpar de strings de entrada para a atividade funcionar. A primeira entrada será o “Usuário”, a segunda o “Modelo” e assim por diante. Esse campo é compatível com entrada do tipo String .
• ID do modelo – O modelo de linguagem abrangente (LLM) a ser utilizado para a solicitação de conclusão. Selecione uma das opções disponíveis: Bison-002, Bison-001.

Gerenciar propriedades

Use o assistente Gerenciar Propriedades para configurar ou usar qualquer um dos campos padrão ou personalizados do objeto. Você pode selecionar campos para adicioná-los à tela de atividades. Os campos padrão ou personalizados adicionados estão disponíveis no painel Propriedades (no Studio Desktop) ou em Mostrar propriedades adicionais (no Studio Web).

Propriedades adicionais

• Contexto – As informações contextuais no aviso orientam a resposta do modelo e ajudam a limitar o escopo de sua resposta com base no contexto fornecido. Esse campo é compatível com entrada do tipo String .
• Máximo de tokens de saída – O número máximo de tokens permitido para o prompt e a resposta gerada. Quanto menos tokens, mais barato fica. A maioria dos modelos aceita até 1.024 tokens. O valor padrão é 1024.
• Temperatura – Um número entre 0 e 1. Valores mais altos, como 0.8 tornam a saída mais aleatória, enquanto valores mais baixos, como 0.2 a tornam mais concentrada e determinista. O valor padrão é 0.8.
• P superior - Um número entre 0 e 1. Quanto menor o número, menor a aleatoriedade do resultado. O padrão é 0.8.
• k superior – Um número entre 1 e 40. Quanto maior o número, maior a diversidade do texto gerado. O padrão é 40.
• Exemplos – Pares de mensagens estruturadas, incluindo uma mensagem de entrada como "Para quem você trabalha?" e sua resposta ideal correspondente "Trabalho para o Ned" são exemplos essenciais para treinar o modelo para responder com eficácia a diversas conversas. Esse campo é compatível com entrada do tipo String .

Saída

• Texto gerado principal - O chat gerado principal. Variável de saída gerada automaticamente.
• Conclusão do chat – Variável de saída gerada automaticamente.