Gerar conclusão de chat

Description

Ao receber um aviso e outras entradas, gera uma resposta de conclusão do chat.

Compatibilidade do projeto

Windows | Multiplataforma

Configuração

• ID da conexão — a conexão estabelecida no Integration Service. Acesse o menu suspenso para escolher, adicionar ou gerenciar conexões.

• Mensagens - As mensagens que você deseja usar para a geração de conclusões do chat. Ofereça ao modelo uma caixa de diálogo ou contexto do "bate-papo" inserindo uma string e depois retorne. Deve haver um número ímpar de strings de entrada para a atividade funcionar. A primeira entrada será o "Usuário", a segunda o "Modelo" e assim por diante. Este campo é compatível com String entrada do tipo.
• ID do modelo - O Modelo de Linguagem Abrangente (LLM) a ser utilizado para a solicitação de conclusão. Selecione uma das opções disponíveis: Bison-002, Bison-001.

Gerenciar propriedades

Use o assistente Gerenciar Propriedades para configurar ou usar qualquer um dos campos padrão ou personalizados do objeto. Você pode selecionar campos para adicioná-los à tela da atividade. Os campos padrão ou personalizados adicionados ficam disponíveis no painel Propriedades (no Studio Desktop) ou em Mostrar opções adicionais (no Studio Web).

Opções adicionais

• Contexto — as informações contextuais no aviso orientam a resposta do modelo e ajudam a limitar o escopo de sua resposta com base no contexto fornecido. Este campo é compatível com String entrada do tipo.
• Máx. de tokens de saída — o número máximo de tokens permitidos para o prompt e a resposta gerada. Menos tokens são mais opções mais baratas. A maioria dos modelos suporta um máximo de 1024 tokens. O valor padrão é 1024.
• Tempo — um número entre 0 e 1. Valores mais altos como 0.8 tornam a saída mais aleatória, enquanto valores mais baixos como 0.2 a tornam mais focada e destrutiva. O valor padrão é 0.8.
• P superior - Um número entre 0 e 1. Quanto menor for o número, menor será a aleabilidade do resultado. O padrão é 0.8.
• K superior — um número entre 1 e 40. Quanto maior o número, maior a diversidade do texto gerado. O padrão é 40.
• Exemplos - Pares de mensagens estruturadas, incluindo uma mensagem de entrada como "Para quem você trabalha?" e sua resposta ideal correspondente, "Trabalho para o Ned", são exemplos essenciais para treinar o modelo para responder com eficácia a diversas conversas. Este campo é compatível com String entrada do tipo.

Saída

• Texto gerado superior - O chat gerado superior. Variável de saída gerada automaticamente.
• Conclusão do chat - variável de saída gerada automaticamente.