- 概要
- UI Automation
- UI Automation を使用して自動化されるアプリケーションと技術
- プロジェクトの対応 OS
- UI-ANA-016 - [ブラウザーを開く] に使用されている URL を検出
- UI-ANA-017 - [エラー発生時に実行を継続] の値が True
- UI-ANA-018 - OCR/画像関連のアクティビティのリスト
- UI-DBP-006 - コンテナーの使用
- UI-DBP-013 - Excel の自動化方法の誤用
- UI-DBP-030 - セレクター内での変数の使用禁止
- UI-PRR-001 - クリックをシミュレート
- UI-PRR-002 - 入力をシミュレート
- UI-PRR-003 - [アプリケーションを開く] の誤用
- UI-PRR-004 - ハードコードされた待機時間
- UI-REL-001 - セレクター内の大きいインデックス値
- UI-SEC-004 - メール アドレスのデータを含むセレクター
- UI-SEC-010 - アプリ/URL の制限
- UI-USG-011 - 許可されていない属性
- UX-SEC-010 - アプリ/URL の制限
- UX-DBP-029 - セキュリティで保護されていないパスワードの使用
- UI-PST-001 - [プロジェクト設定] の監査ログ レベル
- UiPath ブラウザー移行ツール
- クリッピング領域
- Computer Vision レコーダー
- アクティベート
- アンカー ベース
- ブラウザーにアタッチ
- ウィンドウにアタッチ
- ユーザー入力をブロック
- 吹き出し
- チェック
- クリック
- 画像をクリック
- 画像クリック トリガー
- OCR で検出したテキストをクリック
- テキストをクリック
- クリック トリガー
- アプリケーションを閉じる
- タブを閉じる
- ウィンドウを閉じる
- コンテキスト対応のアンカー
- 選択されたテキストをコピー
- 要素属性変更トリガー
- 要素の存在を確認
- 要素スコープ
- 要素ステート変更トリガー
- UI ツリーをエクスポート
- 構造化データを抽出
- 子要素を探す
- 要素を探す
- 画像を探す
- 一致する画像を探す
- OCR でテキスト位置を探す
- 相対要素を探す
- テキスト位置を探す
- アクティブ ウィンドウを取得
- 親要素を取得
- 属性を取得
- イベント情報を取得
- クリップボードから取得
- フル テキストを取得
- OCR でテキストを取得
- パスワードを取得
- 位置を取得
- ソース要素を取得
- テキストを取得
- 表示中のテキストを取得
- 前に戻る
- 次に進む
- ホームに移動
- Google Cloud Vision OCR
- ウィンドウを隠す
- 強調表示
- ホットキー トリガー
- ホバー
- 画像上でホバー
- OCR で検出したテキスト上でホバー
- テキスト上でホバー
- 画像の存在を確認
- 画面上で指定
- .NET コードを挿入
- JS スクリプトを挿入
- ActiveX メソッドを呼び出し
- キー操作トリガー
- 画像を読み込み
- ウィンドウを最大化
- Microsoft Azure ComputerVision OCR
- Microsoft OCR
- Microsoft Project Oxford Online OCR
- ウィンドウを最小化
- イベントを監視
- マウス トリガー
- ウィンドウを移動
- URL に移動
- OCR でテキストの存在を確認
- 要素が出現したとき
- 要素が消滅したとき
- 画像が出現したとき
- 画像が消滅したとき
- アプリケーションを開く
- ブラウザーを開く
- ブラウザーを更新
- ユーザー イベントを再生
- ウィンドウを復元
- 画像を保存
- 項目を選択
- 複数の項目を選択
- ホットキーを押下
- クリッピング領域を設定
- フォーカスを設定
- テキストを設定
- クリップボードに設定
- Web 属性を設定
- ウィンドウを表示
- プロセスを開始
- システム トリガー
- スクリーンショットを作成
- Tesseract OCR
- テキストの存在を確認
- ツールチップ
- 文字を入力
- SecureString で文字を入力
- フォアグラウンドを使用
- 属性を待つ
- 要素の消滅を待つ
- 画像の消滅を待つ
- UI Automation API を使用してブラウザー検索を実行し、結果を取得する
- Web の閲覧
- 画像を検索する
- 画像をクリックする
- イベントをトリガーおよび監視する
- ファイルを作成して上書きする
- HTML ページ: 情報を抽出して操作する
- ウィンドウの操作
- リスト項目の選択の自動化
- ウィンドウ要素を探して操作する
- テキスト操作の自動化を行う
- 画像を読み込んで処理する
- マウスでアクティブ化する操作を管理する
- アプリケーションランタイムの操作を自動化する
- ローカル アプリケーションの自動実行
- ブラウザーのナビゲーション
- Web オートメーション
- トリガー スコープの例
- DevExpress での UI Automation の有効化
- Computer Vision Local Server
- モバイル オートメーション
- ターミナル
UI Automation のアクティビティ
[選択] 画面
UI Automation アクティビティを使用すると、人の操作をシミュレートすることで UI 要素を操作できるようになります。このためには、UI 要素を画面上で指定することで特定します。通常、この目的でターゲットとアンカーという要素のペアが指定されます。このペアは記述子と呼ばれます。
指定する際、[選択] 画面を使用して、実行の停止、検出に使用されるフレームワークの変更、アンカーの選択、使用中のセレクターの編集など、さまざまな高度なタスクを実行できます。
詳細については、以下のビデオをご覧ください。
UI 要素を指定するには、まず [アプリケーション/ブラウザーを使用] アクティビティを Studio のワークフロー デザイナーにドラッグ アンド ドロップして、自動化するアプリケーションまたはブラウザーを指定する必要があります。
アプリケーションまたはブラウザーを指定したら、任意のモダン UI Automation アクティビティを [アプリケーション/ブラウザーを使用] アクティビティ内にドラッグして、アプリケーション カードのアプリで指定またはブラウザーで指定を選択します。これにより、対象のアプリケーションとともに [選択オプション] ヘルパーの最初のインスタンスが開き、使用する要素を指定できるようになります。
次に、操作する UI 要素をクリックします。要素が緑色で強調表示されます。
選択オプション ヘルパーのこの段階では、次のように特定の機能を使用できます。
- 選択を一時停止 - 指定した時間だけ設定を一時停止するか、タイムアウトなしで設定を一時停止して、必要なときに再開することができます。ドロップダウン メニューから、次のいずれかのオプションを選択できます。
- 1 秒
- 3 秒
- 5 秒 - これは既定値です。
- 7 秒
- 9 秒
- 時間制限なし - [再開] が選択されるまで、設定は一時停止されます。
F2
をホットキーとして使用できます。注: [選択] 画面を一時停止することなく、スクロール可能なアプリケーション内でスクロールできます。 - ホバー可能な要素の選択 - ホバーしたときにのみ表示される項目を指定できます。
F6
をホットキーとして使用できます。 - 画像領域の選択 - 使用する要素を直接指定する方法から、自由形式の領域の選択に切り替えることができます。これにより、後で画像認識によって処理されるターゲット要素を含む領域を選択できます。また、画面上で選択内容をドラッグすることによっても、ターゲットとして使用する領域を指定できます。そうすると、厳密セレクターとあいまいセレクターによる検索メソッドが無効化されます。
F3
をホットキーとして使用できます。 - ネイティブ テキストを有効化 - ネイティブ メソッドで表示できる、対象のアプリケーション上のすべてのテキスト ラベルを識別できます。
[すべてのネイティブ要素を表示] ボタンをクリックすることによって、テキスト ラベルが、対象のアプリケーションで強調表示されます。
- Computer Vision を有効化 - Computer Vision を有効化すると、セレクターが使用できない場合に (たとえば、リモート デスクトップの操作を自動化する場合)、特定の領域や要素を自動化できます。
F8
をホットキーとして使用できます。[すべての CV 要素を表示] ボタンをクリックすることによって、Computer Vision で見つかったすべての要素が、対象のアプリケーションで強調表示されます。
-
UI フレームワークを変更 - UI 要素とそのセレクターの判定に使用するテクノロジを変更できます。ドロップダウン メニューまたは
F4
のホットキーを使用できます。使用可能なフレームワークは次のとおりです。- 自動 - 指定された要素に最も適していると見なされるフレームワークを自動的に選択します。このオプションは既定で選択されています。通常はすべての種類のユーザー インターフェイスで問題なく機能します。
- Active Accessibility - Windows 固有の Active Accessibility フレームワークを使用します。ソフトウェアが古く既定のオプションでは機能しない場合に、このオプションの使用をお勧めします。
- UI Automation - 独自の UiPath フレームワークを使用します。[既定] のオプションが機能しない新しいアプリケーションでは、このオプションの使用をお勧めします。
- 検証 - 選択した内容を検証します。詳細については、以降の「記述子を検証する」の章をご覧ください。
- 確認 - 変更を確認して選択ウィザードを閉じます。
- キャンセル - すべての変更を破棄して選択ウィザードを閉じます。
Enter
キーを押すか、ホバー メニューの青色のチェック マークをオンにします。
このプロセス全体は以下のようになります。
[選択] 画面の高度な機能の詳細については、「高度な記述子の設定」ページをご覧ください。