- 概要
- UI Automation
- UI Automation アクティビティ パッケージについて
- UI Automation を使用して自動化されるアプリケーションと技術
- プロジェクトの対応 OS
- UI-ANA-016 - [ブラウザーを開く] に使用されている URL を検出
- UI-ANA-017 - [エラー発生時に実行を継続] の値が True
- UI-ANA-018 - OCR/画像関連のアクティビティのリスト
- UI-DBP-006 - コンテナーの使用
- UI-DBP-013 - Excel の自動化方法の誤用
- UI-DBP-030 - セレクター内での変数の使用禁止
- UI-DBP-031 - アクティビティの検証
- UI-PRR-001 - クリックをシミュレート
- UI-PRR-002 - 入力をシミュレート
- UI-PRR-003 - [アプリケーションを開く] の誤用
- UI-PRR-004 - ハードコードされた待機時間
- UI-REL-001 - セレクター内の大きいインデックス値
- UI-SEC-004 - メール アドレスのデータを含むセレクター
- UI-SEC-010 - アプリ/URL の制限
- UI-USG-011 - 許可されていない属性
- UX-SEC-010 - アプリ/URL の制限
- UX-DBP-029 - セキュリティで保護されていないパスワードの使用
- UI-PST-001 - [プロジェクト設定] の監査ログ レベル
- UiPath ブラウザー移行ツール
- クリッピング領域
- Computer Vision レコーダー
- アクティビティの索引
- アクティベート
- アンカー ベース
- ブラウザーにアタッチ
- ウィンドウにアタッチ
- ユーザー入力をブロック
- 吹き出し
- チェック
- クリック
- 画像をクリック
- 画像クリック トリガー
- OCR で検出したテキストをクリック
- テキストをクリック
- クリック トリガー
- アプリケーションを閉じる
- タブを閉じる
- ウィンドウを閉じる
- コンテキスト対応のアンカー
- 選択されたテキストをコピー
- 要素属性変更トリガー
- 要素の存在を確認
- 要素スコープ
- 要素ステート変更トリガー
- UI ツリーをエクスポート
- 構造化データを抽出
- 子要素を探す
- 要素を探す
- 画像を探す
- 一致する画像を探す
- OCR でテキスト位置を探す
- 相対要素を探す
- テキスト位置を探す
- アクティブ ウィンドウを取得
- 親要素を取得
- 属性を取得
- イベント情報を取得
- クリップボードから取得
- フル テキストを取得
- OCR でテキストを取得
- パスワードを取得
- 位置を取得
- ソース要素を取得
- テキストを取得
- 表示中のテキストを取得
- 前に戻る
- 次に進む
- ホームに移動
- Google Cloud Vision OCR
- ウィンドウを隠す
- 強調表示
- ホットキー トリガー
- ホバー
- 画像上でホバー
- OCR で検出したテキスト上でホバー
- テキスト上でホバー
- 画像の存在を確認
- 画面上で指定
- .NET コードを挿入
- JS スクリプトを挿入
- ActiveX メソッドを呼び出し
- キー操作トリガー
- 画像を読み込み
- ウィンドウを最大化
- Microsoft Azure ComputerVision OCR
- Microsoft OCR
- Microsoft Project Oxford Online OCR
- ウィンドウを最小化
- イベントを監視
- マウス トリガー
- ウィンドウを移動
- URL に移動
- OCR でテキストの存在を確認
- 要素が出現したとき
- 要素が消滅したとき
- 画像が出現したとき
- 画像が消滅したとき
- アプリケーションを開く
- ブラウザーを開く
- ブラウザーを更新
- ユーザー イベントを再生
- ウィンドウを復元
- 画像を保存
- 項目を選択
- 複数の項目を選択
- ホットキーを押下
- クリッピング領域を設定
- フォーカスを設定
- テキストを設定
- クリップボードに設定
- Web 属性を設定
- ウィンドウを表示
- プロセスを開始
- システム トリガー
- スクリーンショットを作成
- Tesseract OCR
- テキストの存在を確認
- ツールチップ
- 文字を入力
- SecureString で文字を入力
- フォアグラウンドを使用
- 属性を待つ
- 要素の消滅を待つ
- 画像の消滅を待つ
- アクセシビリティ チェック
- アプリケーション イベント トリガー
- ユーザー入力をブロック
- チェック/チェック解除
- アプリのステートを確認
- 要素を確認
- クリック
- クリック イベント トリガー
- ドラッグ アンド ドロップ
- 要素スコープ
- 表データを抽出
- 要素を探す
- 繰り返し (各 UI 要素)
- ブラウザーのデータを取得
- クリップボードを取得
- テキストを取得
- URL を取得
- URL に移動
- 強調表示
- ホバー
- JS スクリプトを挿入
- キーボード ショートカット
- キー押下イベント トリガー
- マウス スクロール
- ブラウザー内を移動
- 画像を保存
- 項目を選択
- ブラウザーのデータを設定
- クリップボードに設定
- CV サーバを設定
- ランタイム ブラウザーを設定
- フォーカスを設定
- プロジェクト設定を行う
- テキストを設定
- スクリーンショットを作成
- 文字を入力
- ユーザー入力のブロックを解除
- ウィンドウ操作
- UI Automation API を使用してブラウザー検索を実行し、結果を取得する
- Web の閲覧
- 画像を検索する
- 画像をクリックする
- イベントをトリガーおよび監視する
- ファイルを作成して上書きする
- HTML ページ: 情報を抽出して操作する
- ウィンドウの操作
- リスト項目の選択の自動化
- ウィンドウ要素を探して操作する
- テキスト操作の自動化を行う
- 画像を読み込んで処理する
- マウスでアクティブ化する操作を管理する
- アプリケーションランタイムの操作を自動化する
- ローカル アプリケーションの自動実行
- ブラウザーのナビゲーション
- Web オートメーション
- トリガー スコープの例
- DevExpress での UI Automation の有効化
- Computer Vision Local Server
- モバイル オートメーション
- ターミナル
セマンティック セレクター: 位置や構造ではなく意味に基づいて UI 要素を識別するターゲット メソッドです。
セマンティック セレクターは統合ターゲット内の新しいターゲット メソッドであり、位置や構造ではなく意味に基づいて UI 要素を識別するように設計されています。要素の役割、目的、コンテキストを AI ドリブンに理解させることで、UI の変更に対するオートメーションの回復性を高めます。
セマンティック セレクターは、DOM と Image の 2 つの検索メソッドをサポートします。詳しくは、「 メソッドを検索する」をご覧ください。
統合ターゲットでは、Computer Vision と同様にセマンティック セレクターがセレクターの主要なフォールバック ターゲット メソッドとして機能しますが、機能性と適応性の面で Computer Vision よりもはるかに優れています。また、セマンティック セレクターを主力のターゲット メソッドとして設定することで、全面的にセマンティックな手法で UI 要素を検出することもできます。
これまでのセレクターは、厳格な属性や階層に依存しています。セマンティック セレクターは、各 UI 要素が何を表現しているかを把握しているので、UI の進化に合わせてオートメーションの自動的な適応を図ることができます。
ベスト プラクティスと利点
このセクションでは、セマンティック セレクターを使用するためのベスト プラクティスと、その利点について概説します。
ベスト プラクティス
セマンティック セレクターを使用するシナリオは次のとおりです。
-
UI を頻繁に変更する場合や動的に構築する場合 (React や Angular など)。
-
複数の環境 (ステージング環境と運用環境) にわたるオートメーションの場合。
-
継続的なメンテナンスをすることなく優れた信頼性を目指す場合。
-
不確実性の下でも良好に機能するフォールバック メカニズムを統合ターゲットに必要とする場合。
注:セマンティック理解がアプリケーションにとって最も信頼性の高いアプローチである場合は、セマンティック セレクターを主要なターゲット メソッドとして設定することもできます。
以下のシナリオでは、セマンティック セレクターを主力のターゲット メソッドとして使用しないようにします。
-
固定された構造パスをテストの検証で必要とする場合。
-
UI が静的であることから、従来のセレクターで容易に対処できる場合。
メリット
オートメーションが失敗する場合は、一般的に次の原因によってセレクターの脆弱性が現れています。
- UI のレイアウトやテーマの軽微な更新。
- 動的要素の ID。
- ラベル名またはクラス名の変更。
セマンティック セレクターは、構文ではなく意図を解釈することにより、このような課題を解決します。
セマンティック セレクターを使用すると、次のような利点が得られます。
- 回復性 – UI を変更しても継続して機能します。
- 適応性 – 複数の環境にわたって同等の要素を特定します。
- 一貫性 – ユーザーの意図と機能の目的に一致するようにオートメーションが調整されます。
- 連携 – 統合ターゲットの中でシームレスに動作し、従来のターゲット設定や Computer Vision のターゲット設定も有効に機能します。
セマンティック セレクターの使用例
次の例では、セマンティック セレクターは、 フォーム ボタンを送信するボタンを 、位置や HTML 属性ではなく意味によってターゲットにします。ボタンが移動したり、ラベルが変更されたりしても、オートメーションは成功します。
セレクターの機能の比較
セマンティック セレクターと他のセレクター機能との相違点を以下の表に示します。
| 機能 | 従来のセレクター | Computer Vision | セマンティック セレクター |
| UI の変更許容範囲 | 低 (Low) | 中 | 高 (High) |
| コンテキストの認識度 | 制限 | 視覚化のみ | 高い (セマンティック) |
| メンテナンスの手間 | 高 (High) | 中 | 低 (Low) |
| 統合ターゲットとの統合性 | はい | はい | あり (フォールバックまたはプライマリ) |
| 人間のような解釈能力 | いいえ | 部分的 | Full (完全外部結合) |