Comparação de LLMs CommPath e Preview

Para gerar suas extrações, você pode escolher entre os seguintes diferentes LLMs disponíveis:

• CommPath LLM
• Visualização do LLM

As seções a seguir descrevem algumas das considerações ao decidir sobre um LLM a ser usado. Se seu caso de uso exigir a extração de mais de 30 campos por mensagem, é recomendável usar o Preview LLM.

CommPath LLM

• Aproveita o LLM proprietário da UiPath®, ajustado para dados de Comunicação.
• Limitado a extração de aproximadamente 30 campos por mensagem.
• Menos latência do que o Preview LLM​.
• Você pode ajustá-lo com base em seus dados.
• Melhorar o desempenho para a CommPath, tanto em termos do número de campos que podem ser extraídos, quanto na velocidade de inferência para o modelo é uma alta prioridade.
• Fornece confiança de ocorrência específica em comparação com o Preview LLM.​ Para obter mais detalhes, consulte Automação com extração generativa.

Visualização do LLM​

• Aproveita o modelo GPT do Azure OpenAI como o LLM subjacente.
• A UiPath® não pode garantir o tempo de atividade, pois isso depende totalmente dos endpoints do Azure OpenAI. Se os endpoints estiverem inoperantes ou sobrecarregados, a UiPath não pode garantir a disponibilidade.
• Você pode extrair mais de 30 campos por mensagem.
• Maior quantidade de latência em comparação com o CommPath LLM.
• Limitado ao aprendizado no contexto.
  Observação: ao usar o aprendizado no contexto, a plataforma só pode aprender com o que você solicitar. O Communications Mining™ pode refinar automaticamente o prompt até certo ponto, mas o modelo não aprende com nenhuma validação orientada pelo usuário.

Use as configurações ilustradas nas imagens a seguir para selecionar qual LLM você deseja usar para a Extração Generativa.

O CommPath LLM está habilitado por padrão. Para habilitar o Preview LLM, certifique-se de habilitar Usar recursos de IA generativa e Usar modelo de extração generativo de visualização.

Se a alternância Usar modelo de extração generativa de visualização estiver desativada, significa que você está usando o CommPath LLM.

Ter as alternâncias Usar funcionalidades de IA generativa e Usar modelo de extração generativa de visualização ativadas significa que a plataforma usa o endpoint do UiPath Azure OpenAI no processo de extração.

Abordagem recomendada

1. Comece a treinar suas extrações com o CommPath LLM.
2. Se as extrações forem extraídas corretamente, continue a treinar as extrações usando o CommPath LLM. Se não, devido ao alto número de campos ou tabelas grandes em cada mensagem, mude para a Preview LLM. ​

   Para determinar se suas extrações prevêem corretamente, verifique as estatísticas de validação na guia Extração generativa , na página Validação . Se a precisão e recall das extrações forem adequadas para o seu caso de uso, continue a usar o CommPath LLM.

   Se algum ponto de dados não for extraído conforme o esperado com o CommPath LLM:

   1. Fixe a versão do modelo atual acessando modelos e selecione Fixar na versão do modelo mais recente.
   2. Entre em contato com o representante da UiPath®, anotando a versão do modelo em que as extrações não estavam com um bom desempenho. Seu representante da UiPath trabalhará diretamente com a equipe de produtos do Communications Mining™ para investigar e implementar melhorias.​
3. Se você usar o LLM de Visualização, continue a treinar seu modelo da mesma maneira que você treinou o LLM de CommPath. Examine isso e forneça exemplos corretos para cada uma de suas extrações.

Observação: quando você seleciona o modelo de Visualização, apenas esse modelo será treinado para Extração generativa — sem treinar simultaneamente um modelo CommPath. Isso resulta em treinamento e validação mais rápidos para usuários do modelo de Pré-visualização. Se você mudar para a CommPath, as previsões continuarão a ser fornecidas pelo Preview LLM até que uma versão do modelo CommPath seja treinada e vice-versa.