Atividades do pacote Computer Vision

Esta seção inclui atividades relacionadas ao Computer Vision encontradas no pacote UiPath.UIAutomation.Activities.

• CV Check
• CV Click
• CV Dropdown Select
• CV Element Exists
• CV Extract Table
• CV Get Text
• CV Highlight
• CV Hover
• CV Refresh
• CV Screen Scope
• CV Type Into

Observação: as atividades de visão computacional não são compatíveis com o Windows 7.

As atividades do Computer Vision contêm atividades de Automação de Interface Gráfica fundamentais refatoradas, como Click, Type Intoou Get Text. A principal diferença entre as atividades do Computer Vision e seus homólogos clássicos é seu uso da rede neural Computer Vision desenvolvida internamente pelo nosso departamento de Machine Learning. A rede neural é capaz de identificar elementos da interface gráfica, como botões, campos de entrada de texto ou caixas de seleção, sem o uso de seletores.

Criadas principalmente para automação em ambientes de desktop virtuais, como máquinas Citrix, essas atividades ignoram o problema de seletores inexistentes ou não confiáveis, pois enviam imagens da janela que você está automatizando para a rede neural, onde é analisado e todos os elementos da IU são identificados e rotulados de acordo com o que são. As âncoras inteligentes são usadas para identificar a localização exata do elemento de interface gráfica com o qual você está interagindo, garantindo que a ação que você pretende realizar seja bem-sucedida.

Uso das atividades do Computer Vision

Todas as atividades de Visão Computacional funcionam apenas quando dentro de uma atividade CV Screen Scope , que estabelece a conexão real com o servidor de rede neural, permitindo que você analise a interface do usuário dos aplicativos que deseja automatizar.

Qualquer fluxo de trabalho usando as atividades de visão computacional deve começar arrastando uma atividade de escopo de tela de currículo para o painel do designer.

Feito isso, o botão Indicar na tela no corpo da atividade do escopo pode ser usado para selecionar a área da tela que você deseja trabalhar.

Observação: Clicar duas vezes na captura de tela informativa exibe a imagem que foi capturada e destaca em roxo todos os elementos da interface do usuário que foram identificados pela rede neural e pelo mecanismo de OCR.

Nota: A seleção de área também pode ser usada para indicar apenas uma parte da IU do aplicativo que você deseja automatizar. Isso é especialmente útil em situações em que há vários campos de texto com o mesmo rótulo e que não podem ser identificados corretamente.

Depois que uma atividade de Escopo de tela CV estiver configurada corretamente, você poderá começar a usar todas as outras atividades do pacote para criar sua automação.

Indicate on screen

The activities that perform actions on UI elements can be configured at design time by using the Indicate on screen button found in the activity card. The activities that have this feature are:

• CV Check
• CV Click
• CV Dropdown Select
• CV Element Exists
• CV Extract Table
• CV Get Text
• CV Highlight
• CV Hover
• CV Screen Scope
• CV Type Into

Clicking the Indicate on screen (hotkey: I) button opens the helper wizard.

Indicar

O campo Indicar especifica o que você está indicando no momento. Quando o helper é aberto pela primeira vez, o Alvo precisa ser indicado. Para cada alvo possível, o assistente seleciona automaticamente uma âncora, se houver uma disponível.

Mostrar elementos

O botão Mostrar Elementos (tecla de atalho: s) no assistente destaca todos os elementos da interface do usuário que foram identificados pela análise da Visão Computacional, tornando mais fácil para você escolher com o que interagir.

Atualização da tela

O botão Screen Refresh (atalho: F5) pode ser usado em tempo de design, caso algo mude no aplicativo de destino, permitindo que você envie uma nova imagem para o servidor Computer Vision para ser analisada novamente.

Atualização de tela atrasada

O botão Atualização de tela atrasada (tecla de atalho: F2) executa uma atualização do aplicativo de destino após aguardar 3 segundos. A direção de rolagem automática em tempo de execução também é capturada (propriedade ScrollDirection).

Relativo a

As atividades que possuem o assistente Indicar também incluem uma funcionalidade Relativo a , na qual o destino é um elemento estável e você arrasta uma distância relativa a ele. O destino principal, o estável, age como um proxy para o segundo destino, o relativo.

Isso é útil quando você deseja selecionar uma área que não corresponde aos elementos da interface do usuário que o mecanismo do Computer Vision identificou ou quando você deseja selecionar uma área geral na interface do usuário sem especificar um determinado elemento de interface gráfica.

O destino relativo pode ser um único ponto ou uma seleção de área no aplicativo que você está automatizando.

A seleção de ponto único é normalmente colocada em um local onde a detecção do Computer Vision não é precisa e pode não encontrar certos elementos. As atividades que usam a seleção de ponto único são CV Click, CV Hover e CV Type Into.

A seleção de área é usada por CV Get Text e é ativada automaticamente para esta atividade.

Nota: Tanto um ponto quanto uma área usada como alvo para Relativo a são escaláveis com a escala de resolução que você escolheu para sua tela. Se a escala do próprio aplicativo for variável, esse recurso perde sua confiabilidade.

Como regra geral, qualquer âncora que você adicionar deve ser encontrada no runtime, o que significa que, se pelo menos uma âncora não for encontrada, toda a seleção não será encontrada. Portanto, as âncoras precisam ser elementos estáveis que você tem certeza de que o Computer Vision pode detectar todas as vezes e que não mudam drasticamente na UI durante o runtime.

Digamos que você queira clicar no botão "X" na imagem abaixo. Você pode observar que o destino está no botão "X", mas o clique acontece no círculo verde; isso ocorre porque você escolheu clicar em relação ao botão "X". Portanto, a menos que o Computer Vision não possa detectar um determinado elemento de interface gráfica, não há necessidade de usar o recurso Relativo a .

Para selecionar o botão "X" e não uma área relativa a ele, certifique-se de que o botão "X" tenha um contorno verde nele.

Se o botão "X" não estiver estável, você pode clicar em relativo a um elemento estável.

Table indication

As atividades de Visão Computacional também oferecem suporte para tabelas de indicação. O direcionamento em tabelas pode ser feito selecionando uma célula com a qual você deseja interagir, o que solicita que a rede neural identifique automaticamente a coluna e a linha que definem a posição dessa célula, exibindo-as em uma grade.

Por padrão, os nomes da coluna e da linha são usados no descritor para identificar a localização da célula. Clicar nos índices de coluna e linha os adiciona automaticamente ao seu descritor. Isso pode ser útil em situações em que os nomes de coluna e linha são alterados, mas você deseja extrair a mesma posição de uma célula.

Após indicar o Targetcom sucesso, o wizard fecha e a atividade é configurada com o target selecionado.

Observação: lembre-se de que sempre que você optar por enviar erros no comportamento da rede neural, estará ajudando-a a aprender e, indiretamente, nos ajudando a oferecer um produto melhor. Envie o máximo de problemas possível, pois isso nos dá a oportunidade de reconhecê-los e corrigi-los.