CommPath LLM vs. Preview LLM

Observação: para gerar suas extrações, existem dois LLMs disponíveis diferentes para você escolher:

1. CommPath LLM
2. Visualização do LLM

Abaixo está um resumo de algumas das considerações ao decidir sobre um LLM a ser usado. Se seu caso de uso exigir a extração mais de 30 campos por mensagem, recomendamos atualmente o uso do LLM de Visualização.

CommPath LLM

• Aproveita o LLM proprietário da UiPath®, ajustado para dados de Communications.
• Atualmente limitado à extração de aprox. 30 campos por mensagem​.
• Menos latência do que a versão de visualização LLM​.
• Pode ser ajustado com base nos seus dados.
• Improving performance for CommPath, both in terms of the number of fields which can be extracted and the inference speed for the model is a high priority.
• Provides specific occurrence confidences (check the Automating with GenEx section for more details) compared to the Preview LLM.​

Visualização do LLM​

• Aproveita o modelo GPT do Azure OpenAI como o LLM subjacente.
• A UiPath® não pode garantir tempo de atividade, pois isso depende inteiramente dos pontos de extremidade do Azure OpenAI. Se os endpoints estiverem inoperantes ou sobrecarregados, a UiPath® não pode garantir a disponibilidade​.
• Você pode extrair mais de 30 campos por mensagem.
• Maior quantidade de latência em comparação com o CommPath LLM​.
• Limitado ao aprendizado no contexto​.
  Observação: ao usar o aprendizado em contexto, a plataforma só pode aprender com o que você alerta. O Communications Mining pode refinar automaticamente o prompt até certo ponto, mas o modelo não aprende com nenhuma validação orientada pelo usuário.

Use as configurações ilustradas abaixo para selecionar qual LLM você deseja usar para a extração generativa.

O CommPath LLM está habilitado por padrão. Para ativar a Visualização LLM, são necessários os alternâncias da imagem a seguir.

Se a alternância do modelo Usar visualização generativa estiver desativada, significa que você está usando o CommPath LLM.

Ter as alternâncias Usar funcionalidades de IA generativas e Usar visualização de extração generativa ativadas significa que a plataforma usa o endpoint UiPath® Azure OpenAI no processo de extração.

Abordagem recomendada

1. Comece a treinar suas extrações com o CommPath LLM.
2. Se as extrações extrair corretamente, continue a treinar as extrações usando o CommPath LLM. Se não, devido ao grande número de campos ou grandes tabelas em cada mensagem, mude para o Preview LLM. ​

   Para determinar se suas extrações prevêem corretamente, verifique as estatísticas de validação na guia Extração generativa , na página Validação . Se a precisão e recall das extrações forem adequadas para o seu caso de uso, continue a usar o CommPath LLM.

   Se algum ponto de dados não for extraído conforme o esperado com o CommPath LLM:

   1. Fixe a versão do modelo atual acessando modelos e selecione fixar na versão do modelo mais recente.
   2. Entre em contato com seu representante da UiPath®, anotando a versão do modelo em que as extrações não estavam com um bom desempenho. Seu representante da UiPath® trabalhará diretamente com a equipe de produtos do Communications Mining para investigar e implementar melhorias.​
3. Se você usar o LLM de Visualização, continue a treinar seu modelo da mesma maneira que você treinou o LLM de CommPath. Examine isso e forneça exemplos corretos para cada uma de suas extrações.

Note: When you select the Preview model, only that model will be trained for Generative Extraction—without simultaneously training a CommPath model. This results in faster training and validation for Preview model users. If you switch to CommPath, predictions will continue to be provided by the Preview LLM until a CommPath model version has been trained (and vice versa).