- Überblick
- UI-Automatisierung (UI Automation)
- Über das UIAutomation-Aktivitätspaket
- Mit UI-Automatisierung automatisierte Anwendungen und Technologien
- Projektkompatibilität
- UI-ANA-016 – URL zum Öffnen eines Browsers abrufen
- UI-ANA-017 – ContinueOnError True
- UI-ANA-018 – OCR-/Bildaktivitäten auflisten
- UI-DBP-006 – Containernutzung
- UI-DBP-013 – Falscher Gebrauch von Excel-Automatisierung
- UI-DBP-030 – Verwendung unzulässiger Variablen in Selektoren
- UI-DBP-031 – Aktivitätsverifizierung
- UI-PRR-001 – Klick simulieren
- UI-PRR-002 – Typ simulieren
- UI-PRR-003 – Offener Anwendungsmissbrauch
- UI-PRR-004 – Hartcodierte Verzögerungen
- UI-REL-001 – Große IDX in Selektoren
- UI-SEC-004 – Selektor-E-Mail-Daten
- UI-SEC-010 – App-/URL-Einschränkungen
- UI-USG-011 – Nicht zulässige Attribute
- UX-SEC-010 – App-/URL-Einschränkungen
- UX-DBP-029 – Unsichere Kennwortnutzung
- UI-PST-001 – Prüfungsprotokollebene in Projekteinstellungen
- UiPath-Browsermigrationstool
- Clippingbereich
- Computer Vision Recorder
- Über Bild- und Textautomatisierung
- „Maus-und-Tastatur“-Aktivitäten
- Beispiel der Verwendung von „Maus-und-Tastatur“-Automatisierungen
- Text-Aktivitäten
- Beispiel der Verwendung von Textautomatisierung
- OCR-Aktivitäten
- Bild-Aktivitäten
- Beispiel der Verwendung von OCR- und Bildautomatisierung
- Aktivitätenindex
- Aktivieren (Activate)
- Ankerbasis (Anchor Base)
- Browser anhängen (Attach Browser)
- Fenster anhängen (Attach Window)
- Benutzeingabe blockieren (Block User Input)
- Textfeld (Callout)
- Prüfen (Check)
- Klicken (Click)
- Bild anklicken (Click Image)
- Bild-Trigger anklicken (Click Image Trigger)
- OCR-Text anklicken (Click OCR Text)
- Text anklicken (Click Text)
- Trigger anklicken (Click Trigger)
- Anwendung schließen (Close Application)
- Registerkarte schließen (Close Tab)
- Fenster schließen (Close Window)
- Kontextbewusster Anker
- Ausgewählten Text kopieren (Copy Selected Text)
- Element Attribute Change Trigger
- Element vorhanden (Element Exists)
- Elementumfang (Element Scope)
- Element State Change Trigger
- Export UI Tree
- Strukturierte Daten extrahieren (Extract Structured Data)
- Untergeordnete Elemente finden (Find Children)
- Element finden (Find Element)
- Bild finden (Find Image)
- Bildübereinstimmung finden (Find Image Matches)
- OCR-Textposition finden (Find OCR Text Position)
- Relatives Element finden (Find Relative Element)
- Textposition finden (Find Text Position)
- Aktives Fenster abrufen (Get Active Window)
- Vorgänger-Element erhalten (Get Ancestor)
- Attribut erhalten (Get Attribute)
- Ereignisinfo erhalten (Get Event Info)
- Aus Zwischenablage erhalten (Get From Clipboard)
- Volltext erhalten (Get Full Text)
- OCR-Text erhalten (Get OCR Text)
- Passwort erhalten (Get Password)
- Position erhalten (Get Position)
- Quellelement erhalten (Get Source Element)
- Text erhalten (Get Text)
- Sichtbaren Text erhalten (Get Visible Text)
- Zurück (Go Back)
- Weiter (Go Forward)
- Zur Startseite (Go Home)
- Google Cloud Vision OCR
- Fenster ausblenden (Hide Window)
- Markieren (Highlight)
- Hotkey-Trigger (Hotkey Trigger)
- Darauf zeigen (Hover)
- Auf Bild zeigen (Hover Image)
- Auf OCR-Text zeigen (Hover OCR Text)
- Text beim Darauf zeigen (Hover Text)
- Bild vorhanden (Image Exists)
- Auf Bildschirm anzeigen (Indicate On Screen)
- .NET-Code einfügen
- Inject Js Script
- ActiveX-Methode aufrufen
- Tastendruck-Trigger (Key Press Trigger)
- Bild laden (Load Image)
- Fenster maximieren (Maximize Window)
- Microsoft Azure ComputerVision OCR
- Microsoft OCR
- Microsoft Project Oxford Online OCR
- Fenster minimieren (Minimize Window)
- Ereignisse überwachen (Monitor Events)
- Maus-Trigger (Mouse Trigger)
- Fenster verschieben (Move Window)
- Navigieren zu (Navigate To)
- OCR-Text vorhanden (OCR Text Exists)
- Auf Element erscheinen (On Element Appear)
- Auf Element verschwinden (On Element Vanish)
- Auf Bild erscheinen (On Image Appear)
- Auf Bild verschwinden (On Image Vanish)
- Anwendung öffnen (Open Application)
- Browser öffnen (Open Browser)
- Browser aktualisieren (Refresh Browser)
- Benutzerereignis wiedergeben (Replay User Event)
- Fenster wiederherstellen (Restore Window)
- Bild speichern (Save Image)
- Objekt auswählen (Select Item)
- Mehrere Objekte auswählen (Select Multiple Items)
- Hotkey senden (Send Hotkey)
- Ausschneidebereich einstellen (Set Clipping Region)
- Fokus legen auf (Set Focus)
- Text einstellen (Set Text)
- Auf Zwischenablage setzen (Set To Clipboard)
- Web-Attribut setzen (Set Web Attribute)
- Fenster anzeigen (Show Window)
- Prozess starten (Start Process)
- System-Trigger (System Trigger)
- Screenshot anfertigen (Take Screenshot)
- Tesseract OCR
- Text vorhanden (Text Exists)
- Tooltip
- Eingeben in (Type Into)
- Sicheren Text eingeben (Type Secure Text)
- Vordergrund verwenden
- Attribut abwarten (Wait Attribute)
- Warten, bis Element verschwindet (Wait Element Vanish)
- Warten, bis Bild verschwindet (Wait Image Vanish)
- Prüfung der Barrierefreiheit
- Application event trigger
- Benutzeingabe blockieren (Block User Input)
- Check/Uncheck
- Check App State
- Check Element
- Klicken (Click)
- Click Event Trigger
- Ziehen und Ablegen
- Extract Table Data
- Find Elements
- For Each UI Element
- Get Browser Data
- Clipboard abrufen
- Text erhalten (Get Text)
- Get URL
- Zu URL wechseln
- Markieren (Highlight)
- Darauf zeigen (Hover)
- Inject Js Script
- Tastenkombinationen
- Keypress Event Trigger
- Mouse Scroll
- Navigate Browser
- Bild speichern (Save Image)
- Objekt auswählen (Select Item)
- Set Browser Data
- Clipboard festlegen
- Set Runtime Browser
- Fokus legen auf (Set Focus)
- Text einstellen (Set Text)
- Screenshot anfertigen (Take Screenshot)
- Eingeben in (Type Into)
- Unblock User Input
- Use Application/Browser
- Window operation
- Anhängen
- Prüfen (Check)
- Klicken (Click)
- Ziehen und Ablegen
- Daten extrahieren
- Attribut erhalten (Get Attribute)
- GetChildren
- GetRuntimeTarget
- GetText
- Get URL
- GoToUrl
- Markieren (Highlight)
- Darauf zeigen (Hover)
- IsEnabled
- Tastaturkürzel (Keyboard Shortcut)
- Mouse Scroll
- Offen
- Objekt auswählen (Select Item)
- Screenshot anfertigen (Take Screenshot)
- Eingeben in (Type Into)
- Wartestatus
- Führen Sie eine Browsersuche durch und rufen Sie Ergebnisse mithilfe von UIAutomation-APIs ab
- Web-Browsing
- Finden von Bildern
- Klicken auf Bilder
- Auslösen und Überwachen von Ereignissen
- Erstellen und Überschreiben von Dateien
- HTML-Seiten: Extrahieren und Bearbeiten von Informationen
- Bearbeiten von Fenstern
- Automatisierte Listenauswahl
- Finden und Bearbeiten von Fensterelementen
- Verwalten der Textautomatisierung
- Laden und Verarbeiten von Bildern
- Verwalten von mausaktivierten Aktionen
- Automatisieren der Anwendungslaufzeit
- Automatisierte Ausführung einer lokalen Anwendung
- Browsernavigation
- Web-Automatisierung
- Beispiel für Trigger Scope
- Aktivieren der Unterstützung für die UI-Automatisierung in DevExpress
- Computer Vision Local Server
- Mobile Automation
- Versionshinweise
- Über die Architektur der Automatisierung von Mobilgeräten
- Projektkompatibilität
- Get Log Types
- Get Logs
- Get Page Source
- Get Device Orientation
- Get Session Identifier
- Install App
- Manage Current App
- Manage Other App
- DeepLink öffnen
- Open URL
- Mobile Device Connection
- Richtungswechsel
- Muster zeichnen
- Positional Swipe
- Press Hardware Button
- Set Device Orientation
- Screenshot anfertigen (Take Screenshot)
- Take Screenshot Part
- Element vorhanden (Element Exists)
- Execute Command
- Attribut erhalten (Get Attribute)
- Get Selected Item
- Text erhalten (Get Text)
- Set Selected Item
- Text einstellen (Set Text)
- Wischen
- Tap
- Type Text
- Terminal
- Versionshinweise
- Über das Terminal-Aktivitätspaket
- Projektkompatibilität
- Best Practices
- Find Text
- Get Color At Position
- Get Cursor Position
- Feld erhalten (Get Field)
- Feld an Position erhalten (Get Field at Position)
- Bildschirmbereich erhalten (Get Screen Area)
- Text erhalten (Get Text)
- Text an Position erhalten (Get Text at Position)
- Cursor bewegen (Move Cursor)
- Move Cursor to Text
- Strg-Taste senden (Send Control Key)
- Tasten senden (Send Keys)
- Sichere Tasten senden (Send Keys Secure)
- Feld setzen (Set Field)
- Feld an Position setzen (Set Field at Position)
- Terminalsitzung (Terminal Session)
- Warte auf Feldtext (Wait Field Text)
- Wait Screen Ready
- Warte auf Bildschirmtext (Wait Screen Text)
- Warte auf Text an Position (Wait Text at Position)
- Terminalcodierte Automatisierungs-APIs
UIAutomation-Aktivitäten
Da OCR- und Bildautomatisierung normalerweise aufgrund der Schwierigkeit von Automatisierung in virtuellen Umgebungen Hand in Hand gehen, haben wir eine Automatisierung erstellt, die die E-Mail-Adresse eines Mitarbeiters und die Rechnungsnummer aus einer gescannten Rechnung abruft. Danach gibt sie die Information in eine „Dummy-Ausgaben-App“ (ExpenseIt) auf einer virtuellen Maschine ein und vergleicht die Summe der Rechnung mit der in der App:
- Erstellen Sie eine neue Sequenz (Sequence).
- Öffnen Sie die gescannte Rechnung. Die im Beispiel verwendete Rechnung kann hier heruntergeladen werden . Wir empfehlen aus Kompatibilitätsgründen, Adobe Acrobat Reader zu verwenden.
- Wie bei Relatives Scraping erläutert, extrahieren Sie die E-Mail des Mitarbeiters mithilfe von OCR-Technologie. Ein Container namens Fenster anhängen wird generiert, der in diesem Beispiel in PDF anhängen umbenannt wurde. Dieser enthält den Selektor und informiert alle übrigen Aktivitäten darüber, wo Aktionen ausgeführt werden sollen. Darin enthalten sind eine Aktivität Bild suchen, mit welcher der Anker für relatives Scraping ausgewählt wird, eine Aktivität OCR-Text abrufen , mit der die E-Mail-Adresse des Mitarbeiters abgerufen wird, und zwei Aktivitäten Clipping-Bereich einstellen , eine zum Übersetzen des ersten Clipping-Bereichs und Die andere, um den Clippingbereich zurückzusetzen.
- Erstellen Sie im Variables Panel eine neue Variable GenerischerWert (GenericValue) mit dem Namen
email. - Geben Sie die Variable E-Mail in die Eigenschaft Text (Text) der zuvor generierten Aktivität OCR-Text abrufen (Get OCR Text) ein.
- Benennen Sie die oben stehende Sequence Read Email.

Die von UiPath Studio ausgewählten OCR-Engines haben ihre Vor- und Nachteile, ihre Nutzung hängt von den jeweiligen Gegebenheiten ab. Die Auswahl ist davon abhängig, welche am besten in jeder Situation funktioniert. Durch Änderung der OCR-Engine für verschiedene Aufgaben können Sie Ihre Ergebnisse verbessern.
-
Wie unter Relatives Scraping erläutert, müssen Sie die Rechnungsnummer mithilfe von OCR-Technologie scrapen. Ein Container namens Fenster anhängen wird generiert, der in diesem Beispiel in PDF anhängen umbenannt wurde. Dieser enthält den Selektor und informiert alle übrigen Aktivitäten darüber, wo Aktionen ausgeführt werden sollen. Darin enthalten sind eine Aktivität Bild suchen, mit welcher der Anker für relatives Scraping ausgewählt wird, eine Aktivität OCR-Text abrufen , mit der die Rechnungsnummer des Mitarbeiters abgerufen wird, und zwei Aktivitäten Clipping-Bereich einstellen , eine zur Überführung des ersten Clipping-Bereichs in den zweiten, und einer, um den Clippingbereich zurückzusetzen.
-
Erstellen Sie im Variablen-Panel(Variables Panel) eine neue Variable GenerischerWert (GenericValue) mit dem Namen
invoiceNo. -
Geben Sie die Variable
invoiceNoin die Eigenschaft Text (Text) der zuvor generierten Aktivität OCR-Text abrufen (Get OCR Text) ein. -
Benennen Sie die oben stehende Sequence Read Invoice Number

-
Wie bei Relative Scraping erläutert, extrahieren Sie die Gesamtausgaben des Mitarbeiters mithilfe von OCR-Technologie. Der Recorder generiert einen PDF anhängen -Container mit dem Selektor und lässt alle anderen Aktivitäten wissen, wo die Aktionen auszuführen sind. Darin enthalten sind die Aktivitäten Bild finden, die den Anker für das relative Scraping auswählt, OCR-Text abrufen , die die Gesamtkosten des Mitarbeiters abruft und zwei Clippingbereich festlegen -Aktivitäten – eine, um den ersten Clippingbereich in den zweiten zu überführen, und einen, um den Clippingbereich zurückzusetzen.
-
Erstellen Sie im Variables Panel eine neue Variable GenerischerWert (GenericValue) mit dem Namen
totalValue. -
Geben Sie die Variable
totalValuein die Eigenschaft Text (Text) der zuvor generierten Aktivität OCR-Text abrufen (Get OCR Text) ein. -
Benennen Sie die oben stehende Sequence Read Total Expenses.
Hinweis:Ein optimales Verfahren, um Anwendungen in Umgebungen mit virtuellen Maschinen zu öffnen, ist die Erstellung einer Verknüpfung für die Anwendung, die auf dem Desktop der Maschine geöffnet wird, und der Zuweisung eines Hotkey. Das Klicken auf das Symbol der Anwendung durch Click OCR Text kann aufgrund von Änderungen der Hintergrundfarbe oder des ausgewählten Symbols fehlschlagen.
-
Erstellen Sie auf dem Desktop der virtuellen Maschine eine Verknüpfung für die Anwendung ExpenseIt.
-
Klicken Sie mit der rechten Maustaste auf die Verknüpfung und wählen Sie aus dem Kontextmenü Eigenschaften (Properties) aus. Das Fenster Shortcut Properties wird angezeigt.
-
Weisen Sie der App einen Hotkey im Feld Shortcut Key auf der Registerkarte Shortcut zu, indem Sie die Tasten drücken, die Sie verwenden möchten, z. B. Alt+Strg+T.

-
Starten Sie eine neue Aufzeichnungssitzung, indem Sie denCitrix-Aufzeichnungsassistenten öffnen.
-
Zeichnen Sie auf, wie Sie den Hotkey, der zuvor der Verknüpfung der Anwendung zugewiesen wurde, an das Fenster der virtuellen Maschine senden.
-
Verwenden Sie Relatives Scraping , um auf das Feld E-Mail in der Anwendung ExpenseIt basierend auf der Position des Labels zu klicken.
-
Geben Sie die Variable
emailin das Feld E-Mail (Email) der Anwendung ExpenseIt ein. -
Verwenden Sie Relatives Scraping(Relative Scraping), um auf das Feld Mitarbeiternummer(Employee Number) in der Anwendung ExpenseIt basierend auf der Position des Labels zu klicken.
-
Geben Sie die Variable
invoiceNoin das Feld Mitarbeiternummer(Employee Number) der Anwendung ExpenseIt ein. -
Klicken Sie im Aufzeichnungsassistenten (Recording Wizard) auf Speichern & Beenden (Save & Exit). Der Recorder generiert einen Fenster anhängen (Attach Window)-Container mit dem Selektor und lässt alle anderen Aktivitäten wissen, wo die Aktionen auszuführen sind. Er enthält eine Hotkey senden (Send Hotkey)-Aktivität, eine Auf Bild klicken (Click Image)-Aktivität, die auf das Feld rechts neben dem Label E-Mail (Email) klickt, eine SchreibenIn (Type Into)-Aktivität, die die E-Mail-Variable in das Feld eingibt, eine Auf Bild klicken (Click Image)-Aktivität, die auf das Feld rechts neben dem Label Mitarbeiternummer (Employee Number) klickt und eineSchreibenIn (Type Into)-Aktivität, die die Variable
invoiceNoin das Feld eingibt.
-
Starten Sie eine neue Aufzeichnungssitzung, indem Sie denCitrix-Aufzeichnungsassistenten öffnen.
-
Klicken Sie in der Anwendung ExpenseIt auf die Schaltfläche Create Expense Report.
-
Verwenden Sie Relative Scraping, um den Wert, der mit dem Label Total Expenses ($) übereinstimmt, zu extrahieren.
-
Klicken Sie auf Save & Exit im Recording Wizard. Der Recorder generiert einen Fenster anhängen (Attach Window)-Container mit dem Selektor und lässt alle anderen Aktivitäten wissen, wo sie Aktionen auszuführen sind. Er enthält eine Auf OCR-Text klicken (Click OCR Text)-Aktivität, die auf die Schaltfläche Create Expense Report klickt, eine Bild finden (Find Image)-Aktivität, die den Anker für das relative Scraping setzt, eine OCR-Text abrufen (Get OCR Text)-Aktivität, die den Gesamtausgabenwert abruft, und zwei Clippingbereich festlegen (Set Clipping Region)-Aktivitäten, eine, um den ersten Clippingbereich in den zweiten zu überführen, und die zweite, um den Clippingbereich zurückzusetzen.

-
Erstellen Sie im Variablen-Panel(Variables Panel) eine neue Variable GenerischerWert (GenericValue) mit dem Namen
totalExpense. -
Geben Sie die Variable
totalExpensein des Eigenschaftsfeld Text (Text) der zuvor generierten Aktivität OCR-Text abrufen (Get OCR Text) ein. -
Ziehen Sie eine Wenn (If)-Aktivität nach der letzten aufgenommenen Sequence hinzu.
-
Legen Sie die Eigenschaft Bedingung (Condition) der Aktivität Wenn (If) auf
totalExpense = totalValuefest. Das bedeutet, dass die Automatisierung überprüft, ob der Gesamtwert der Rechnung dem Wert der Ausgabenanwendung entspricht. -
Ziehen Sie eine Nachrichtenbox (Message box)-Aktivität in den Abschnitt Dann (Then) der Aktivität Wenn (If).
-
Geben Sie in das Eigenschaftsfeld Text derNachrichten-Box (Message Box) eine Nachricht ein, die angibt, dass die Werte übereinstimmen und die Rechnung somit korrekt ist.
-
Ziehen Sie eine Nachrichtenbox (Message box)-Aktivität in den Abschnitt Sonst (Else) der Aktivität Wenn (If).
-
Geben Sie in das Eigenschaftsfeld Text derNachrichten-Box (Message Box) eine Nachricht ein, die angibt, dass die Werte nicht übereinstimmen und die Rechnung somit nicht korrekt ist.

-
Drücken Sie F5, um die Automatisierung auszuführen. Beachten Sie, dass die Automatisierung die Mitarbeiterdaten aus der gescannten Rechnung in die Anwendung ExpenseIt überträgt, den Gesamtwert der Rechnung mit den registrierten Gesamtkosten vergleicht und den Benutzer darüber informiert, ob die Werte gleich sind oder nicht.
Da diese Automatisierung die Verbindung mit einer virtuellen Maschine erfordert, ist das Hochladen des ursprünglichen Projekts überflüssig, da es auf einem anderen Computer nicht funktionieren würde. Wir empfehlen Ihnen, Ihr eigenes Projekt zu erstellen, indem Sie die obigen Schritte befolgen.