- Visão geral
- Automação de Interface Gráfica
- Sobre o pacote de atividades UIAutomation
- Aplicativos e tecnologias automatizados com a Automação de Interface Gráfica
- Compatibilidade do projeto
- UI-ANA-016 - Extrair URL de navegador aberto
- UI-ANA-017 - ContinuarComErro verdadeiro
- UI-ANA-018 - Listar atividades de OCR/Imagem
- UI-DBP-006 - Uso do contêiner
- UI-DBP-013 - Uso Incorreto da Automação do Excel
- UI-DBP-030 - Uso de variáveis proibidas em seletores
- UI-DBP-031 - Verificação de atividades
- UI-PRR-001 - Simular clique
- UI-PRR-002 - Simular Digitação
- UI-PRR-003 - Uso incorreto do aplicativo aberto
- UI-PRR-004 - Atrasos Embutidos em Código
- UI-REL-001 - Idx grande em Seletores
- UI-SEC-004 - Dados de e-mail do seletor
- UI-SEC-010 — restrições de app/URL
- UI-USG-011 - Atributos não permitidos
- UX-SEC-010 — restrições de app/URL
- UX-DBP-029 - Uso de senha não segura
- UI-PST-001 - Nível de log de auditoria nas configurações do projeto
- Ferramenta de Migração de Navegador do UiPath
- Região do Recorte
- Computer Vision Recorder
- Índice de atividades
- Ativar
- Anchor Base
- Anexar Navegador
- Anexar Janela
- Block User Input
- Texto Explicativo
- Marcar
- Click
- Clicar na Imagem
- Click Image Trigger
- Click OCR Text
- Clicar no Texto
- Click Trigger
- Close Application
- Fechar Guia
- Close Window
- Context Aware Anchor
- Copy Selected Text
- Element Attribute Change Trigger
- Element Exists
- Element Scope
- Element State Change Trigger
- Export UI Tree
- Extrair Dados Estruturados
- Find Children
- Localizar Elemento
- Localizar Imagem
- Find Image Matches
- Find OCR Text Position
- Localizar Elemento Relativo
- Find Text Position
- Get Active Window
- Get Ancestor
- Get Attribute
- Get Event Info
- Get From Clipboard
- Obter Texto Completo
- Get OCR Text
- Get Password
- Get Position
- Get Source Element
- Get Text
- Obter Texto Visível
- Voltar
- Avançar
- Ir para a Página Inicial
- Google Cloud Vision OCR
- Hide Window
- Highlight
- Hotkey Trigger
- Hover
- Focalizar Imagem
- Hover OCR Text
- Focalizar Texto
- Imagem Existe
- Indicate On Screen
- Inject .NET Code
- Inject Js Script
- Invoke ActiveX Method
- Key Press Trigger
- Carregar Imagem
- Maximize Window
- Microsoft Azure Computer Vision OCR
- Microsoft OCR
- Microsoft Project Oxford Online OCR
- Minimize Window
- Monitorar eventos
- Mouse Trigger
- Move Window
- Navegar Para
- OCR Text Exists
- On Element Appear
- On Element Vanish
- Aparecer Na Imagem
- Desaparecer Na Imagem
- Abrir Aplicativo
- Abrir Navegador
- Atualizar Navegador
- Replay User Event
- Restore Window
- Save Image
- Select Item
- Select Multiple Items
- Enviar Tecla de Acesso
- Set Clipping Region
- Set Focus
- Set Text
- Set To Clipboard
- Set Web Attribute
- Show Window
- Iniciar Processo
- System Trigger
- Take Screenshot
- Tesseract OCR
- Texto Existe
- Dica de ferramenta
- Type Into
- Digitar Texto Seguro
- Use Foreground
- Wait Attribute
- Esperar Elemento Desaparecer
- Aguardar Imagem Desaparecer
- Verificação de acessibilidade
- Application event trigger
- Block User Input
- Check/Uncheck
- Check App State
- Check Element
- Click
- Click Event Trigger
- Drag and Drop
- Extract Table Data
- Localizar elementos
- For Each UI Element
- Get Browser Data
- Obter Área de Transferência
- Get Text
- Get URL
- Go To URL
- Highlight
- Hover
- Inject Js Script
- Keyboard Shortcuts
- Keypress Event Trigger
- Mouse Scroll
- Navigate Browser
- Select Item
- Set Browser Data
- Definir Área de Transferência
- Set Runtime Browser
- Set Focus
- Set Text
- Take Screenshot
- Type Into
- Unblock User Input
- Use Application/Browser
- Window operation
- Realize pesquisa no navegador e recupere resultados usando APIs de Automação de interface gráfica
- Navegação na Web
- Localizar imagens
- Clicar em imagens
- Disparar e monitorar eventos
- Criar e substituir arquivos
- Páginas HTML: extrair e manipular informações
- Manipulação de janelas
- Seleção automatizada de listas
- Localizar e manipular elementos de janela
- Gerenciar automação de texto
- Carregar e processar imagens
- Gerenciar ações ativadas pelo mouse
- Automatizar o runtime de aplicativos
- Execução automatizada de um aplicativo local
- Navegação em navegador
- Automação da Web
- Exemplo de escopo de disparador
- Habilitar o suporte de Automação de Interface Gráfica no DevExpress
- Computer Vision Local Server
- Automação Móvel
- Notas de versão
- Sobre a arquitetura de automação de dispositivos móveis
- Compatibilidade do projeto
- Get Log Types
- Get Logs
- Get Page Source
- Get Device Orientation
- Get Session Identifier
- Instalar Aplicativo
- Gerenciar Aplicativo Atual
- Manage Other App
- Open DeepLink
- Abrir URL
- Mobile Device Connection
- Deslizar Direcional
- Padrão de Desenho
- Positional Swipe
- Press Hardware Button
- Set Device Orientation
- Take Screenshot
- Obter parte da captura de tela
- Element Exists
- Execute Command
- Get Attribute
- Get Selected Item
- Get Text
- Set Selected Item
- Set Text
- Deslizar
- Tap
- Type Text
- Terminal
- Notas de versão
- Sobre o pacote de atividades Terminal
- Compatibilidade do projeto
- Melhores práticas
- Find Text
- Get Color At Position
- Get Cursor Position
- Get Field
- Obter Campo na Posição
- Obter Área da Tela
- Get Text
- Obter Texto na Posição
- Mover Cursor
- Mover cursor para o texto
- Enviar Tecla de Controle
- Send Keys
- Send Keys Secure
- Set Field
- Definir Campo na Posição
- Terminal Session
- Aguardar Texto do Campo
- Wait Screen Ready
- Aguardar Texto da Tela
- Aguardar Texto na Posição
- APIs de automação codificadas em terminais

Atividades do UIAutomation
Exemplo de uso de automação de imagem e COR
Como o OCR e a automação de imagem geralmente ocorrem juntos devido à dificuldade de automatizar em ambientes virtuais, criamos uma automação que recupera o e-mail e o número da fatura de um funcionário de uma fatura digitalizada. Em seguida, ela coloca as informações em um aplicativo de despesas fictício (ExpenseIt) em uma máquina virtual) e compara o total a partir da fatura com aquele no aplicativo:
- Crie uma nova Sequência.
- Abra a fatura digitalizada. A fatura usada no exemplo pode ser baixada aqui. Recomendamos usar o Adobe Acrobat Reader por razões de compatibilidade.
- Como explicado Relative Scraping, extraia o e-mail do funcionário usando a tecnologia OCR. É gerado um contêiner, Attach Window, renomeado neste exemplo para Attach PDF, que contém o seletor e permite que todas as outras atividades saibam onde executar as ações. Nele, há uma Find Image, que seleciona a âncora para a coleta relativa, uma Get OCR Text , que recupera o endereço de e-mail do funcionário, e duas atividades Set Clipping Region : uma para traduzir a primeira região de recorte para a segunda, e o outro para redefinir a região do recorte.
- No Painel de variáveis, crie uma nova variável GenericValue, chamada
email. - Insira a variável de e-mail na propriedade Text da atividade Get OCR Text gerada anteriormente.
- Nomeie a sequência acima Read Email.

Os mecanismos de OCR apresentados pelo UiPath Studio têm seus prós e contras. Usá-los depende das circunstâncias, e fazer testes para descobrir qual deles faz o melhor trabalho em cada situação é essencial para decidir qual usar. A alteração do mecanismo de OCR para diferentes tarefas pode melhorar seus resultados.
-
Como explicado em Extração relativa, extraia o número da fatura usando a tecnologia OCR. O gravador gera um contêiner, Attach Window, renomeado neste exemplo para Attach PDF, que contém o seletor e permite que todas as outras atividades saibam onde executar as ações. Dentro do contêiner, há um Find Image, que seleciona a âncora para a coleta relativa, um Get OCR Text que recupera o número da fatura do funcionário, e duas atividades Set Clipping Region : uma para traduzir a primeira região de recorte para a segunda, e um para redefinir a região do recorte.
-
No Painel de Variáveis, crie uma nova variável GenericValue chamada
invoiceNo. -
Insira a variável
invoiceNona propriedade Text da atividade Get OCR Text gerada anteriormente. -
Nomeie a sequência acima Read Invoice Number.

-
Como explicado Relative Scraping, coleta as despesas totais do funcionário usando a tecnologia OCR. O gravador gera um contêiner, Attach PDF, que tem o seletor e permite que todas as outras atividades saibam onde executar as ações. Dentro dele, há uma Find Image, que seleciona a âncora para a coleta relativa, uma Get OCR Text , que recupera as despesas totais do funcionário, e duas atividades Set Clipping Region , uma para traduzir a primeira região de recorte para a segunda, e um para redefinir a região de recorte.
-
No Painel de Variáveis, crie uma nova variável GenericValue chamada
totalValue. -
Insira a variável
totalValuena propriedade Text da atividade Get OCR Text gerada anteriormente. -
Nomeie a sequência acima como Read Total Expenses.
Observação:Uma prática recomendada ao abrir aplicativos em ambientes de máquinas virtuais é criar um atalho para o aplicativo que deve ser aberto na área de trabalho da máquina e atribuir a ele uma tecla de atalho. Às vezes, a tentativa de clicar no ícone do aplicativo usando o Click OCR Text pode falhar devido às alterações na cor em segundo plano ou no ícone que está sendo selecionado.
-
Crie um atalho para o aplicativo ExpenseIt na área de trabalho da máquina virtual.
-
Clique com o botão direito do mouse no atalho e selecione Propriedades no menu de contexto. A janela Propriedades do atalho é exibida.
-
Na guia Atalho, no campo Shortcut Key, atribua uma tecla de atalho ao aplicativo ao pressionar as teclas que você deseja usar, por exemplo, Alt + Ctrl + T.

-
Inicie uma nova sessão de gravação abrindo o Assistente de Gravação do Citrix.
-
Grave enviando para a janela da máquina virtual a tecla de atalho que foi anteriormente atribuída ao atalho do aplicativo.
-
Use Relative Scraping para clicar no campo Email no aplicativo ExpenseIt com base no local do seu rótulo.
-
No campo Email do aplicativo ExpenseIt, insira a variável
email. -
Use Relative Scraping para clicar no campo Employee Number no aplicativo ExpenseIt com base no local do seu rótulo.
-
Adicione a variável
invoiceNono campo Employee Number do aplicativo ExpenseIt. -
Clique em Salvar e Sair no Assistente de Gravação. O gravador gera um contêiner Anexar Janela que tem o seletor e permite todas as outras atividades saberem onde executar ações. Ele contém uma atividade Send Hotkey, uma atividade Click Image, que clica no campo à direita do rótulo Email, uma atividade Type Into, que digita a variável Email no campo, uma atividade Click Image, que clica no campo à direita do rótulo Employee Number, e uma atividade Type Into, que digita a variável
invoiceNono campo.
-
Inicie uma nova sessão de gravação abrindo o Assistente de Gravação do Citrix.
-
Grave ao clicar no botão Criar relatório de despesas no aplicativo ExpenseIt.
-
Use Extração Relativa para extrair o valor que corresponde ao rótulo Total Expenses ($).
-
Clique em Salvar e Sair no Assistente de Gravação. O gravador gera um contêiner Anexar Janela que tem o seletor e permite todas as outras atividades saberem onde executar ações. Ele contém uma Click OCR Text, que clica no botão Create Expense Report, uma Find Image, que define a âncora para a coleta relativa, uma Get OCR Text, que recupera o valor total de despesas, e duas atividades Set Clipping Region, uma para traduzir a primeira região de recorte para a segunda, e uma para redefinir a região de recorte.

-
No Painel de Variáveis, crie uma nova variável GenericValue chamada
totalExpense. -
Insira a variável
totalExpenseno campo propriedade Texto da atividade Get OCR Text gerada anteriormente. -
Arraste uma atividade If após a última sequência de gravação gerada.
-
Defina a propriedade Condition da atividade If como
totalExpense = totalValue. Isso significa que a automação verifica se o valor total da fatura é igual ao valor do aplicativo de despesa. -
Arraste uma atividade Message Box para a seção Then da atividade If.
-
No campo propriedade Texto da Caixa de Mensagens, escreva uma mensagem que indique que os valores são iguais, portanto, a fatura está correta.
-
Arraste uma atividade Message Box para a seção Else da atividade If.
-
No campo de propriedade Text da Message Box, escreva uma mensagem que indique que os valores não são iguais e, portanto, a fatura está incorreta.

-
Pressione F5 para executar a automação. Observe que a automação insere os dados do funcionário da fatura digitalizada no aplicativo ExpenseIt, compara o valor total da fatura com as despesas totais registradas e informa ao usuário se os valores são iguais ou não.
Como essa automação envolve se conectar a uma máquina virtual, carregar o projeto original é redundante, já que ele não funcionará em outra máquina. Incentivamos você a criar seu projeto seguindo as etapas acima.