- 概要
- UI Automation
- UI Automation アクティビティ パッケージについて
- UI Automation を使用して自動化されるアプリケーションと技術
- プロジェクトの対応 OS
- UI-ANA-016 - [ブラウザーを開く] に使用されている URL を検出
- UI-ANA-017 - [エラー発生時に実行を継続] の値が True
- UI-ANA-018 - OCR/画像関連のアクティビティのリスト
- UI-DBP-006 - コンテナーの使用
- UI-DBP-013 - Excel の自動化方法の誤用
- UI-DBP-030 - セレクター内での変数の使用禁止
- UI-DBP-031 - アクティビティの検証
- UI-PRR-001 - クリックをシミュレート
- UI-PRR-002 - 入力をシミュレート
- UI-PRR-003 - [アプリケーションを開く] の誤用
- UI-PRR-004 - ハードコードされた待機時間
- UI-REL-001 - セレクター内の大きいインデックス値
- UI-SEC-004 - メール アドレスのデータを含むセレクター
- UI-SEC-010 - アプリ/URL の制限
- UI-USG-011 - 許可されていない属性
- UX-SEC-010 - アプリ/URL の制限
- UX-DBP-029 - セキュリティで保護されていないパスワードの使用
- UI-PST-001 - [プロジェクト設定] の監査ログ レベル
- UiPath ブラウザー移行ツール
- クリッピング領域
- Computer Vision レコーダー
- VMware Horizon の自動化について
- 設定手順
- アクティビティの索引
- アクティベート
- アンカー ベース
- ブラウザーにアタッチ
- ウィンドウにアタッチ
- ユーザー入力をブロック
- 吹き出し
- チェック
- クリック
- 画像をクリック
- 画像クリック トリガー
- OCR で検出したテキストをクリック
- テキストをクリック
- クリック トリガー
- アプリケーションを閉じる
- タブを閉じる
- ウィンドウを閉じる
- コンテキスト対応のアンカー
- 選択されたテキストをコピー
- 要素属性変更トリガー
- 要素の存在を確認
- 要素スコープ
- 要素ステート変更トリガー
- UI ツリーをエクスポート
- 構造化データを抽出
- 子要素を探す
- 要素を探す
- 画像を探す
- 一致する画像を探す
- OCR でテキスト位置を探す
- 相対要素を探す
- テキスト位置を探す
- アクティブ ウィンドウを取得
- 親要素を取得
- 属性を取得
- イベント情報を取得
- クリップボードから取得
- フル テキストを取得
- OCR でテキストを取得
- パスワードを取得
- 位置を取得
- ソース要素を取得
- テキストを取得
- 表示中のテキストを取得
- 前に戻る
- 次に進む
- ホームに移動
- Google Cloud Vision OCR
- ウィンドウを隠す
- 強調表示
- ホットキー トリガー
- ホバー
- 画像上でホバー
- OCR で検出したテキスト上でホバー
- テキスト上でホバー
- 画像の存在を確認
- 画面上で指定
- .NET コードを挿入
- JS スクリプトを挿入
- ActiveX メソッドを呼び出し
- キー操作トリガー
- 画像を読み込み
- ウィンドウを最大化
- Microsoft Azure ComputerVision OCR
- Microsoft OCR
- Microsoft Project Oxford Online OCR
- ウィンドウを最小化
- イベントを監視
- マウス トリガー
- ウィンドウを移動
- URL に移動
- OCR でテキストの存在を確認
- 要素が出現したとき
- 要素が消滅したとき
- 画像が出現したとき
- 画像が消滅したとき
- アプリケーションを開く
- ブラウザーを開く
- ブラウザーを更新
- ユーザー イベントを再生
- ウィンドウを復元
- 画像を保存
- 項目を選択
- 複数の項目を選択
- ホットキーを押下
- クリッピング領域を設定
- フォーカスを設定
- テキストを設定
- クリップボードに設定
- Web 属性を設定
- ウィンドウを表示
- プロセスを開始
- システム トリガー
- スクリーンショットを作成
- Tesseract OCR
- テキストの存在を確認
- ツールチップ
- 文字を入力
- SecureString で文字を入力
- フォアグラウンドを使用
- 属性を待つ
- 要素の消滅を待つ
- 画像の消滅を待つ
- アクセシビリティ チェック
- アプリケーション イベント トリガー
- ユーザー入力をブロック
- チェック/チェック解除
- アプリのステートを確認
- 要素を確認
- クリック
- クリック イベント トリガー
- ドラッグ アンド ドロップ
- 要素スコープ
- 表データを抽出
- 要素を探す
- 繰り返し (各 UI 要素)
- ブラウザーのデータを取得
- クリップボードを取得
- テキストを取得
- URL を取得
- URL に移動
- 強調表示
- ホバー
- JS スクリプトを挿入
- キーボード ショートカット
- キー押下イベント トリガー
- マウス スクロール
- ブラウザー内を移動
- 画像を保存
- 項目を選択
- ブラウザーのデータを設定
- クリップボードに設定
- CV サーバを設定
- ランタイム ブラウザーを設定
- フォーカスを設定
- プロジェクト設定を行う
- テキストを設定
- スクリーンショットを作成
- 文字を入力
- ユーザー入力のブロックを解除
- ウィンドウ操作
- UI Automation API を使用してブラウザー検索を実行し、結果を取得する
- Web の閲覧
- 画像を検索する
- 画像をクリックする
- イベントをトリガーおよび監視する
- ファイルを作成して上書きする
- HTML ページ: 情報を抽出して操作する
- ウィンドウの操作
- リスト項目の選択の自動化
- ウィンドウ要素を探して操作する
- テキスト操作の自動化を行う
- 画像を読み込んで処理する
- マウスでアクティブ化する操作を管理する
- アプリケーションランタイムの操作を自動化する
- ローカル アプリケーションの自動実行
- ブラウザーのナビゲーション
- Web オートメーション
- トリガー スコープの例
- DevExpress での UI Automation の有効化
- Computer Vision Local Server
- モバイル オートメーション
- ターミナル
VMware Horizon の自動化により、仮想化されたデスクトップおよびアプリケーション用のネイティブ セレクターを生成できるようになりました。
VMware を使用すると、仮想化されたデスクトップとアプリケーションにアクセスして操作できます。対応する要素に対するネイティブ セレクターは、サーバーに UiPath リモート ランタイム コンポーネントをインストールし、クライアント マシンに UiPath VMware Horizon 拡張機能 をインストールした後に、Studio によって生成されます。これにより、[ クリック]、[文字を入力]、[テキストを取得]、[データを抽出] など、あらゆる種類の UI Automation アクティビティを含むオートメーション プロジェクトを作成できます。
VMware テクノロジ向けのネイティブ自動化を有効にするには、 設定手順 を実行する必要があります。
Omnissa Horizon Client (旧 VMware Horizon Client) を自動化するには、次のいずれかのパッケージが必要です。
UiPath.UIAutomation.Activitiesv24.10.11 以降UiPath.UIAutomation.Activitiesv23.10.18 以降
VMware Horizon アプリのセレクター
設定手順を完了すると、VMware Horizon で仮想化したアプリケーションの個別の UI 要素に対するセレクターを生成できます。
VMware Horizon アプリとして開かれる電卓に対して生成されるセレクターは、次のようになります。
<wnd app='win32calc.exe' cls='CalcFrame' isremoteapp='1' title='Calculator' />
<wnd ctrlid='137' />
<wnd app='win32calc.exe' cls='CalcFrame' isremoteapp='1' title='Calculator' />
<wnd ctrlid='137' />
ローカル アプリケーションとして開かれる電卓に対して生成されるセレクターは、次のようになります。
<wnd app='win32calc.exe' cls='CalcFrame' title='Calculator' />
<wnd ctrlid='137' />
<wnd app='win32calc.exe' cls='CalcFrame' title='Calculator' />
<wnd ctrlid='137' />
ご覧のとおり、2 つのセレクターの違いは、isRemoteApp='1' 属性です。これは、VMware Horizon アプリから UI 要素を選択したときに自動的に追加されます。
この属性以外には、ローカル アプリケーションのオートメーション プロセスと VMware Horizon アプリのオートメーション プロセスの間に違いはありません。すべてのアクティビティとウィザードの機能はまったく同じです。
サポートされている機能
UiPath VMware Horizon 拡張機能と UiPath リモート ランタイム コンポーネントがインストールされていると、以下の操作が有効化されます。
- VMware アプリケーションおよびデスクトップの UI 要素のセレクターを生成する。
UiPath.UIAutomation.Activitiesパッケージのアクティビティ ([クリック]、[文字を入力] など) を使用する。- データや画面スクレイピング ウィザードを使用する。
- VMware Horizon アプリとして開かれたブラウザーを自動化する。
PCoIP、Blast、RDP のすべてのプロトコルがサポートされています。
アーキテクチャの概要
UiPath リモート ランタイムは VMware Horizon アプリケーション サーバーにインストールされ、UiPath VMware Horizon 拡張機能はクライアント マシンにインストールされます。これらのコンポーネント間の通信には、 Horizon 仮想チャネルが使用されます。これは、音声やビデオなどのデータを送信する場合に使用されるメカニズムと同じため、追加の設定は必要ありません。
次の図は、クライアントとサーバー間のデータ フローを示しています。