- 概要
- UI Automation
- UI Automation を使用して自動化されるアプリケーションと技術
- プロジェクトの対応 OS
- UI-ANA-016 - [ブラウザーを開く] に使用されている URL を検出
- UI-ANA-017 - [エラー発生時に実行を継続] の値が True
- UI-ANA-018 - OCR/画像関連のアクティビティのリスト
- UI-DBP-006 - コンテナーの使用
- UI-DBP-013 - Excel の自動化方法の誤用
- UI-DBP-030 - セレクター内での変数の使用禁止
- UI-PRR-001 - クリックをシミュレート
- UI-PRR-002 - 入力をシミュレート
- UI-PRR-003 - [アプリケーションを開く] の誤用
- UI-PRR-004 - ハードコードされた待機時間
- UI-REL-001 - セレクター内の大きいインデックス値
- UI-SEC-004 - メール アドレスのデータを含むセレクター
- UI-SEC-010 - アプリ/URL の制限
- UI-USG-011 - 許可されていない属性
- UX-SEC-010 - アプリ/URL の制限
- UX-DBP-029 - セキュリティで保護されていないパスワードの使用
- UI-PST-001 - [プロジェクト設定] の監査ログ レベル
- UiPath ブラウザー移行ツール
- クリッピング領域
- Computer Vision レコーダー
- Activities index
- アクティベート
- アンカー ベース
- ブラウザーにアタッチ
- ウィンドウにアタッチ
- ユーザー入力をブロック
- 吹き出し
- チェック
- クリック
- 画像をクリック
- 画像クリック トリガー
- OCR で検出したテキストをクリック
- テキストをクリック
- クリック トリガー
- アプリケーションを閉じる
- タブを閉じる
- ウィンドウを閉じる
- コンテキスト対応のアンカー
- 選択されたテキストをコピー
- 要素属性変更トリガー
- 要素の存在を確認
- 要素スコープ
- 要素ステート変更トリガー
- UI ツリーをエクスポート
- 構造化データを抽出
- 子要素を探す
- 要素を探す
- 画像を探す
- 一致する画像を探す
- OCR でテキスト位置を探す
- 相対要素を探す
- テキスト位置を探す
- アクティブ ウィンドウを取得
- 親要素を取得
- 属性を取得
- イベント情報を取得
- クリップボードから取得
- フル テキストを取得
- OCR でテキストを取得
- パスワードを取得
- 位置を取得
- ソース要素を取得
- テキストを取得
- 表示中のテキストを取得
- 前に戻る
- 次に進む
- ホームに移動
- Google Cloud Vision OCR
- ウィンドウを隠す
- 強調表示
- ホットキー トリガー
- ホバー
- 画像上でホバー
- OCR で検出したテキスト上でホバー
- テキスト上でホバー
- 画像の存在を確認
- 画面上で指定
- .NET コードを挿入
- JS スクリプトを挿入
- ActiveX メソッドを呼び出し
- キー操作トリガー
- 画像を読み込み
- ウィンドウを最大化
- Microsoft Azure ComputerVision OCR
- Microsoft OCR
- Microsoft Project Oxford Online OCR
- ウィンドウを最小化
- イベントを監視
- マウス トリガー
- ウィンドウを移動
- URL に移動
- OCR でテキストの存在を確認
- 要素が出現したとき
- 要素が消滅したとき
- 画像が出現したとき
- 画像が消滅したとき
- アプリケーションを開く
- ブラウザーを開く
- ブラウザーを更新
- ユーザー イベントを再生
- ウィンドウを復元
- 画像を保存
- 項目を選択
- 複数の項目を選択
- ホットキーを押下
- クリッピング領域を設定
- フォーカスを設定
- テキストを設定
- クリップボードに設定
- Web 属性を設定
- ウィンドウを表示
- プロセスを開始
- システム トリガー
- スクリーンショットを作成
- Tesseract OCR
- テキストの存在を確認
- ツールチップ
- 文字を入力
- SecureString で文字を入力
- フォアグラウンドを使用
- 属性を待つ
- 要素の消滅を待つ
- 画像の消滅を待つ
- UI Automation API を使用してブラウザー検索を実行し、結果を取得する
- Web の閲覧
- 画像を検索する
- 画像をクリックする
- イベントをトリガーおよび監視する
- ファイルを作成して上書きする
- HTML ページ: 情報を抽出して操作する
- ウィンドウの操作
- リスト項目の選択の自動化
- ウィンドウ要素を探して操作する
- テキスト操作の自動化を行う
- 画像を読み込んで処理する
- マウスでアクティブ化する操作を管理する
- アプリケーションランタイムの操作を自動化する
- ローカル アプリケーションの自動実行
- ブラウザーのナビゲーション
- Web オートメーション
- トリガー スコープの例
- DevExpress での UI Automation の有効化
- Computer Vision Local Server
- モバイル オートメーション
- ターミナル
UI Automation のアクティビティ
v24.10
公開日: 2024 年 12 月 4 日
Java のサポートを追加しました。
- 新しい
isExpanded
属性は、Java のツリー ノードの展開された状態を取得します。 [属性を取得] アクティビティを使用してisExpanded
値を取得し、UiElement API を使用して設定できますSet(“isExpanded”, true)
。 - [ シミュレート] 入力モードの[クリック] アクティビティは、Oracle Forms フレームワークの特定の DTree コントロールに対して 1 回の左クリックを実行します。これにより、その特定のセルに対応するモーダル ウィンドウを開く動作がエミュレートされます。
- Java 要素の入力モードを シミュレート した汎用 の [クリック] アクティビティ。これは、マウスボタンとクリックタイプのすべての組み合わせ、およびポイントオフセットで機能します。 従来のシングル左クリックの場合、ポイントオフセットは無視され、 AccessibleAction APIの既存の実装が使用されます。 これがサポートされていない場合は、[ ハードウェア イベント] 入力モードが使用されます。
- バージョン 23.10.3 より新しいアクティビティ パッケージの場合、クラシック アクティビティでは、実行時に動的セレクターを表す文字列の先頭の 0 が削除されていました。 たとえば、「0001234567」は「1234567」に変換されました。
- SAP が有効化されたテナントにログを記録すると、保存時に UI Explorer がフリーズしていました。
- PJListBox Java アプリケーション テーブルで表の抽出に失敗しました。
- アプリ/Web レコーダー で[オブジェクト リポジトリを有効化] オプションを選択すると、UI 操作を記録しようとした際にオブジェクトが誤って生成されませんでした。
公開日: 2024 年 11 月 25 日
追記 (2024 年 12 月 4 日)
- [分岐] アクティビティの [ アプリのステートを確認] アクティビティが意図したとおりに実行されず、成功した分岐が完了した後に他の分岐がキャンセルされませんでした。
- クロスプラットフォーム プロジェクトで、Java アプリケーションの指定に使用しているアプリケーション カードに設計段階でブラウザー アクティビティ ([URL を取得]、[URL に移動]、[ブラウザー内を移動]) を追加すると、検証エラーがスローされるようになりました。
- Windows プロジェクトでは、バージョン 24.10.6 で以下のいずれかのアクティビティを追加すると、[アプリケーション/ブラウザーを使用] スコープ アクティビティがデザイナー パネルに自動的には追加されない問題がありましたが、これを修正しました。
- チェック/チェック解除
- ドラッグ アンド ドロップ
- 表データを抽出
- 繰り返し (各 UI 要素)
- URL を取得
- JS スクリプトを挿入
公開日: 2024 年 10 月 21 日
公開日: 2024 年 10 月 21 日
クロスプラットフォーム プロジェクトの [アプリケーション/ブラウザーを使用] アクティビティで [画面上で指定] オプションが利用可能となり、デスクトップ アプリケーションを選択できるようになりました。プロジェクト設定の [Java オートメーションを有効化 (プレビュー)] ([プロジェクト設定] > [UI Automation] > [一般]) が [False] に設定されている場合は、Chrome ブラウザー ウィンドウのみを指定できます。[True] に設定すると、Java アプリケーションも指定できます。
デスクトップ アプリケーション用に、クロスプラットフォーム プロジェクトの [アプリケーション/ブラウザーを使用] アクティビティに [タイトルが完全に一致] プロパティを追加しました。
[選択オプション] ヘルパーの [選択を一時停止] ボタンが、時間ベースの選択の一時停止と、タイムアウトなしの [一時停止]/[再開] 機能の両方に使用できるようになりました。
コード化されたワークフローで表抽出ウィザードを利用できるようになりました。
Windows プロジェクトで、デザイナー パネルにモダン アクティビティを追加すると、スコープが自動的に含まれるようになりました。これは、[アプリケーション/ブラウザーを使用] スコープ アクティビティを必要とし、新しいアクティビティ カードのデザインを使用しないアクティビティに適用されます。
コード化されたワークフローで [アプリ/Web レコーダー] がサポートされるようになり、コード化されたオートメーションを生成できるようになりました。
クラシックとモダンの両方の [JS スクリプトを挿入] アクティビティで、非同期スクリプトがサポートされるようになりました。また、このアクティビティをコード化されたワークフローで利用できるようになりました。
[Studio] > [設定] > [デザイン] > [デザインのスタイル] で [オブジェクト リポジトリを適用] が [はい] に設定されている場合は、オブジェクト リポジトリに同期されていない UI 要素に関連するすべての検証エラーを [オブジェクト リポジトリを同期] ツールを使用してすぐに解決できることを知らせるバナーがアプリケーション カードに表示されます。また、リンクされたオブジェクトがオブジェクト リポジトリと同期されていない場合は、それらのオブジェクトも同期されます。
新しいプロジェクトにオブジェクト リポジトリが適用されるようになりました。UI Automation アクティビティ バージョン 24.10.6 以降を依存関係として作成された新しい Windows プロジェクトおよびクロスプラットフォーム プロジェクトでは、新しいプロジェクト設定 [UI 要素をオブジェクト リポジトリに自動的に追加] ([プロジェクト設定] > [UI Automation Modern] > [一般]) が既定で [True] に設定されます。
オブジェクト リポジトリの [スキャン ウィザード] の [すべての要素をキャプチャ] に、テキスト要素をキャプチャするための新しいオプションを追加しました。
[すべての要素をキャプチャ] ウィンドウの配置を変更し、画面上の要素と重ならないようにしました。ウィンドウが要素と重なっている場合、抽出中はウィンドウが表示されないようになりました。
ワークフロー アナライザーのルール UI-PRR-001 で、プロジェクト設定の [クリックをシミュレート] と [ウィンドウ メッセージを送信] ([プロジェクト設定] > [UI Automation クラシック] > [マウス イベント]) が考慮されるようになり、両方のプロジェクト設定の値が同じである場合、または同じ値がない場合に、ワークフロー検証の警告が表示されるようになりました。
chrome.webRequest イベントの監視のサポートが追加されました。
- Web 要求: リダイレクト前
- Web 要求: 要求前
- Web 要求: HTTP ヘッダーの送信前
- Web 要求: 完了時
- Web 要求: エラー発生時
- Web 要求: HTTP ヘッダー受信時
- Web 要求: 応答開始時
- Web 要求: HTTP ヘッダー送信時
<html>
セレクターによって識別された Web ページの [アプリケーション イベント トリガー] アクティビティの [イベントの種類] ドロップダウン リストで使用できます。
追記 (2024 年 11 月 22 日)
セマンティック アクティビティが AI ユニットを消費するようになりました。フォーム データの抽出、フォームへの入力、値の設定の各実行リクエストで 1 AI ユニットが消費されます。ただし、[ポップアップを閉じる] アクティビティでは、[AI 強化モード] トグル ボタンを有効にしている場合にのみ 1 AI ユニットが消費されます。
バージョン 25.4 までは、AI ユニットの消費は無料です。25.4 よりも新しいバージョンで AI ユニットの消費量を予測するには、Insights でテナント レベルの AI ユニットの消費ダッシュボードを監視します。v25.4 までは、セマンティック アクティビティのメトリックが [Semantic Activities (promo)] に表示され、利用しているが課金されない AI ユニット数が示されます。
1/6/2025
と表示されるときに、[値を設定] に Jan 1st, 2025
と入力すると、埋め込まれた検証トグルの使用に適したシナリオではなくなります)。このオプションは、コード化されたワークフローでも使用できます。
[フォームを入力] アクティビティで、非構造化データを入力として使用できるようになりました。
サポートされているすべての種類の入力要素 (入力ボックス、ドロップダウン、チェック ボックス、ラジオ ボタン、日付の選択) を対象として、[値を設定] アクティビティにセマンティック マッチングを実装しました。
[ポップアップを閉じる] アクティビティに [AI 強化モード] オプションを追加しました。このオプションでは、トグル ボタンが有効化されている場合に AI を活用してポップアップを閉じることができます。これで、このアクティビティはセマンティック アクティビティと見なされるようになりました。トグル ボタンが有効化されている場合、AI による閉じる操作ごとに 1 AI ユニットが消費されます。
checked
または unchecked
を出力します。
変数と引数の評価を最適化して、重複する要求を減らしました。以前は、Computer Vision エンドポイントと UiPath Screen OCR エンドポイントの両方に要求が送信されていました。現在は、変数と引数が Computer Vision エンドポイントを指している場合、要求が 1 つだけ送信されます。ただし、エンドポイントがドメイン内にない場合は、UiPath Screen OCR エンドポイントにも要求が送信されます。
Computer Vision エンドポイントを参照すると、モデルのバージョンが表示されるようになりました。
SAP Fiori のユーザー インターフェイスに対して、[表データを抽出] アクティビティと [ツリーを展開] アクティビティがサポートされるようになりました。
[SAP セッション属性変更トリガー] を除くすべてのクラシック SAP アクティビティにつき、それぞれに対応するモダン アクティビティを追加しました。
SAP Web インターフェイスのオートメーションに使用される古い Internet Explorer のサポートを終了しました。
PCoIP (PC over IP) プロトコルを使用することにより、UiPath リモート ランタイムが Amazon WorkSpaces に対応しました。Amazon WorkSpaces 拡張機能が新しく開発され、新しい拡張機能と容易に通信できるよう UiPath リモート ランタイムが更新されました。
macOS UI Automation がデスクトップ アプリケーションでプレビューとして利用できるようになりました。Chrome ブラウザーのサポートに加えて、Safari ブラウザー ウィンドウと Java デスクトップ アプリケーションも自動化できるようになりました (新しい [Java オートメーションを有効化 (プレビュー)] プロジェクト設定は [True] に設定する必要があります)。
追記 (2024 年 11 月 22 日)
- アクティビティ パッケージを v23.4 以降のバージョンにアップグレードした後、[クリック] アクティビティを使用すると、SAP の UI 要素が無効であると誤認識されていました。
- 1 つのテーブル項目を選択すると、DOM ツリー全体 (18 万行) がセレクターとしてロードされ、ソフトウェアがクラッシュしていました。
- アプリ/Web レコーダーで同じオブジェクトを指定すると、スクリーンショットが別のプログラムで使用されていることを示すエラー メッセージが表示されます。
- Firefox インスタンスがすでに実行されているときに、新しい Firefox インスタンスをプライベート ブラウジング モードで起動すると、プロセスで「対象のアプリケーションを開けませんでした。」というランタイム エラーが発生します。
- Java アプリケーションによって表示される Java ダイアログの UI 要素を Edge 拡張機能で指定しようとすると、Java ダイアログが閉じていました。
- モダン アクティビティの [ターゲット] プロパティの下に表示されている [クリックのオフセット] プロパティが有効化され、[プロパティ] パネルから設定できるようになりました。
- [表抽出] ウィザードで [スクロール可能な表かどうか] オプションを有効化した状態で Computer Vision の表を抽出すると、以前は、[アプリケーション/ブラウザーを使用] アクティビティで選択した入力メソッドを使用してスクロールが開始されていました。現在は、[ハードウェア イベント] 入力メソッドを使用してスクロールが実行されるようになりました。
- [属性を取得] アクティビティでは、Computer Vision のみによるターゲットを指定できましたが、UiPath リモート ランタイムがインストールされていないリモート デスクトップでも WND セレクターから属性を指定できていました。セレクターが利用できない場合にこのアクティビティから指定できるのは Computer Vision のチェックボックスと Computer Vision のラジオ ボタンのみになりました。
- 統合ターゲットのターゲット メソッドとして Computer Vision のみを使用した場合、自動アンカーが Computer Vision の要素のみとなることがありました。現在は、利用可能な場合には自動アンカーでセレクター情報も使用されるようになりました。
- [文字を入力] アクティビティで、実行時に Computer Vision または画像ターゲット メソッドを使用してターゲットが見つかった場合、テキストの抽出エラーにより、[実行を検証] の実行に失敗していました。
公開日: 2024 年 8 月 12 日
公開日: 2024 年 7 月 16 日
追記 (2024 年 8 月 12 日)
2 つ目の方法 (AI Trust Layer のポリシーを追加して [AI Trust Layer を介したサード パーティの AI モデルへの呼び出しを有効化] トグル ボタンを無効化する) では現在、UI Automation の Autopilot レコーダーを使用したアクティビティの生成は制限されません。
Autopilot は、既定ですべてのユーザーに対して有効化されています。
Automation Ops のガバナンス ポリシーを使用して Autopilot 機能を無効化するには、次の 2 つの方法があります。
- Studio Web のポリシーを追加して [Autopilot を許可] オプションを [いいえ] に設定する
- AI Trust Layer のポリシーを追加して [AI Trust Layer を介したサード パーティの AI モデルへの呼び出しを有効化] トグル ボタンを無効化する
いずれかのオプションが無効化されている状態でも、UI Automation の Autopilot レコーダーを使用することはできますが、テキスト プロンプトを使用してアクティビティを生成することはできません。レコーダーで手動でアクティビティを追加することはできます。
公開日: 2024 年 7 月 1 日
最新の機能である UI Automation の Autopilot レコーダーを追加しました。AI を活用したこのツールを使用すると、UI Automation のシーケンスを構築し、キャンバスに入力することができます。アクティビティは、自然言語プロンプトを使用して生成することも、レコーダーで手動で追加することもできます。
レコーダーでは、[テスト] および [「プロンプト」を続行] ボタンを使用して、自動化対象のアプリケーション内を移動できます。[テスト] ボタンをクリックすると、生成または構築したアクティビティがすべて実行され、次のアプリケーション ステートに移行します。プロンプトが完全に網羅されていない場合は、[「プロンプト」を続行] をクリックすると、必要なアクティビティが生成されます。これら 2 つのボタンを使用して、UI Automation のシーケンスのベースを作成するプロセスをシームレスに進めることができます。
レコーダーについて詳しくは、「UI Automation の Autopilot レコーダー」をご覧ください。
Autopilot イニシアチブの詳しい概要については、『Autopilot ガイド』をご覧ください。
公開日: 2024 年 7 月 1 日
- Java コントロール
BasicTreeTable
およびJxTreeTable
のカスタム サポートを追加しました。 - コード化されたワークフローから [ポップアップを閉じる]、[ランタイム ブラウザーを設定]、[値を設定] アクティビティを使用できるようになりました。
- セキュリティを強化するため、出力の .xaml ファイルに [フレンドリ名] プロパティが含まれなくなりました。
- [表データを抽出] アクティビティに DevExpress のグリッドのサポートを追加しました。
- ワークフロー アナライザーのルール「UI-USG-011」で、
idx=*
を使用したセレクターが無視されるようになりました。これは、非貪欲検索で使用される有効なケースであるためです。
有人モードでの実行時または Studio でデバッグ中に UI 要素が見つからないために実行が停止した場合、画面にダイアログ ボックスが表示されます。以前はエラー メッセージのみが表示されていましたが、現在はダイアログ ボックスにいくつかのオプションが表示され、これを使用して次に何をするかを決定できます。この機能は、プロジェクト設定の [実行時エラー発生時にユーザーに確認] ([UI Automation モダン] > [一般]) で有効化できます。デバッグ モードでは、実行終了時に変更を保存できるため、次のワークフローの実行は正しいセレクターで開始されます。[リトライ]、[無視]、[続行] のオプションに加えて、[要素を指定] オプションもあります。この特定のオプションは、以下のアクティビティでのみ使用できます。
- チェック/チェック解除
- 要素を確認
- クリック
- 属性を取得
- テキストを取得
- 強調表示
- ホバー
- JS スクリプトを挿入
- キーボード ショートカット
- 項目を選択
- テキストを設定
- スクリーンショットを作成
- 文字を入力
- アプリケーション/ブラウザーを使用
新しい [ランタイム ブラウザーを設定] アクティビティを使用すると、オートメーションの実行全体で使用されるブラウザーの種類を簡単に設定できます。この選択は、別の [ランタイム ブラウザーを設定] アクティビティによって上書きされない限り、実行が終了するまで有効です。この機能強化により、複数のブラウザーでオートメーションを実行するプロセスが簡素化され、セレクターを手動で設定したり、テスト コードを複製したりする必要が最小限に抑えられます。このアクティビティは、Windows プロジェクトとクロスプラットフォーム プロジェクトの両方で利用できます。
[ポップアップを閉じる] アクティビティは、予期しないポップアップによるオートメーションの中断に対応するための新しいアクティビティです。この AI ベースのアクティビティは、「閉じる」ボタン用に設定されたラベルを意味的に一致させることにより、検出されたポップアップ (ネイティブ、アラート、ブラウザー ページ上、デスクトップ アプリケーション内) を効率的に閉じます。このアクティビティは、Windows プロジェクトとクロスプラットフォーム プロジェクトの両方で利用できます。
[JS スクリプトを挿入] アクティビティをクロスプラットフォーム ワークフローで利用できるようになりました。また、このアクティビティで、UI Automation モダンの機能を活用して統合ターゲット機能でターゲットを識別し、オブジェクト リポジトリに保存されている要素を使用できるようになりました。
新しいプロジェクトでは、[クリック]、[ホバー]、[キーボード ショートカット]、[文字を入力] アクティビティで実行の検証機能が既定で有効化されています。[文字を入力] アクティビティでこの機能を無効化するには、プロジェクト設定 ([UI Automation モダン] > [実行を検証]) の [入力したテキストを常に自動検証] を [False] に設定します。[クリック]、[ホバー]、[キーボード ショートカット] アクティビティの場合は、各アクティビティのプロジェクト設定の表示検証機能を無効化する必要があります。
[アプリケーション/ブラウザーを使用] アクティビティ内に配置された [アプリのステートを確認] アクティビティで、[すべてのアプリで指定] オプションを選択できるようになりました。これにより、現在のアプリケーション カードのスコープ外にあるウィンドウや要素のアプリケーションのステートを確認する際に、新しいアプリケーション カードを使用する必要がなくなりました。
クロスプラットフォーム プロジェクトの [アプリケーション/ブラウザーを使用] アクティビティで [引数] プロパティを公開しました。このプロパティは Windows プロジェクトではすでに利用可能になっていました。
クロスプラットフォーム プロジェクトの [ブラウザーを使用] アクティビティのターゲット URL がアクティビティ内から開けるようになりました。これにより、ターゲット URL が制御しやすくなりました。URL がすでに開いている場合は、フォーカスを置いたり、新しいタブでもう一度開いたりできます。
以前はクラシック アクティビティ専用だった以下のワークフロー アナライザー ルールが、モダン アクティビティにも適用されるようになりました。
- UI-ANA-016
- UI-ANA-017
- UI-DBP-013
- UI-PRR-004
- UI-REL-001
- UI-SEC-004
- UI-USG-011
ターゲット メソッドとしてあいまいセレクターが有効化されているときにターゲットの検索に失敗する場合に、一致の問題に簡単に対処できるようにするため、最も近い一致を強調表示した警告メッセージが画面に表示されます。セレクター ノードを追加または削除して既定のセレクターを変更している場合や、一致が複数あるために検索が失敗した場合は、最も近い一致は表示されません。
[対象のアプリケーションを識別できませんでした。] のダイアログ ボックスに [今後表示しない] チェックボックスを追加しました。このチェックボックスをオンにすると、アプリケーションのステートが正しくないのでターゲットを編集したい場合に、ダイアログ ボックスは表示されず、選択画面が直接表示されます。
ターゲットとアンカーが重なる挙動を最適化するために、四角形の枠線を細くし、ラベルをはっきりと見える場所に配置しました。
重複するターゲットが選択画面にオンデマンドで表示されるようになりました。重複するターゲットを確認/非表示にするには、[重複を表示]/[重複を非表示] トグル ボタンを選択します。
利用可能なアクティビティを要素の種類に基づいてカスタマイズし、[アプリ/Web レコーダー] の機能を強化しました。要素を指定する際にさまざまなアクティビティが表示され、関連するアクションを素早く見つけて選択できるようになりました。以下のアクティビティが利用可能です。
- すべての要素の既定:
- クリック
- スクリーンショットを作成
- 強調表示
- ラベルの場合:
- テキストを取得
- 編集可能なテキスト ボックスの場合:
- テキストを取得
- 文字を入力
- ドロップダウンとリスト ボックスの場合:
- 項目を選択
- テキストを取得
- ボタンの場合:
- クリック
- テキストを取得
変数の現在の値を選択画面で確認できるようになり、変数のコンテキスト メニューにアクセスする必要がなくなりました。セレクター タグの変数にホバーするだけで、値がツールチップとして表示されます。
オフライン モードで編集するときのために、表抽出ウィザードに [アプリケーションを起動] オプションを追加しました。
[アプリケーション イベント トリガー] アクティビティに、UI 要素「WND」、「CTRL」、「UIA」について監視できる 2 種類の新しいイベント「クリック」と「キーの押下」を追加しました。これまでは、[クリック イベント トリガー] または [キー押下イベント トリガー] アクティビティを使用して、[クリック] イベントと [キー押下] イベントを個別に監視できるようになっていました。
主に Internet Explorer でしか実行できないレガシ アプリケーションのため、IE モードの Edge のネイティブ イベントを監視できるようにサポートが強化されました。また、[アプリケーション イベント トリガー] アクティビティを使用することで、既存のすべての WEBCTRL 要素の Web イベントが、IE モードの Edge を使用するブラウザー ページでもサポートされるようになりました。
Slack、Discord、Electron などのネイティブ埋め込みブラウザーでスタンドアロン アプリケーションを自動化する機能を基に、今回のリリースでは、CefSharp などの管理対象の埋め込みブラウザー内でのネイティブ監視のためのサポートを組み込みました。
Word、Outlook、Excel、OneNote などの Microsoft UI オートメーション フレームワーク上に構築されたアプリケーションのために、[テキスト選択の変更] イベントを監視するためのサポートが追加されました。
ネイティブ アプリケーションに埋め込まれた WebView2 または Qt WebView ウィジェットを使用して、アクティブな CSP が読み込まれた Web ページの HTML ネイティブ監視のサポートを追加しました。プロジェクト設定の [WebView2 のネイティブな自動化を有効化] を [True] に設定する必要があります。
<html>
+ <webctrl>
セレクターで識別された Web ページの HTML ウィンドウ イベントを複数追加しました。
- タブ ナビゲーションの開始
- タブ ナビゲーションの終了
- ウィンドウのフォーカスの変更
- ウィンドウの境界の変更
- ウィンドウの作成
- ウィンドウの削除
最新のセマンティック アクティビティを使用すると、フォームの操作を簡単かつ効果的に自動化できます。Windows プロジェクトとクロスプラットフォーム プロジェクトの両方で利用可能です。
[フォーム データを抽出] アクティビティは、フォーム データを念頭に置いて設計されています。このアクティビティでは、オートメーション パイプラインで構造化データを渡すのに最適なトークンであるカスタム型オブジェクトが作成されます。これらのカスタム型オブジェクトは、[フォームに入力] アクティビティや [値を設定] アクティビティで使用したり、データ エンティティにデータの入力時に使用したりすることもできます。
DocumentData
、Dictionary
、DataEntity
、DataRow
、DataTable
、JSON ファイル、さらにはカスタム型 ([フォーム データを抽出] アクティビティで出力として生成される型など) を使用できます。データ スキーマは実行時に自動的に抽出され、AI によって入力先フォームのフィールドと意味的に照合された後、フォームに入力されます。データ ソースを指定するだけで、入力先のフォームが [アプリケーション/ブラウザーを使用] アクティビティから自動的に選択されます。
[値を設定] アクティビティは、[フォームに入力] アクティビティを簡素化したバージョンで、1 つの UI 要素だけに的を絞っています。このアクティビティを使用すると、データ入力プロセスを簡素化できます。テキスト ボックス、ドロップダウン、チェックボックス、ラジオ ボタンなど、さまざまなフォーム要素の種類に対応し、フォーム操作の自動化プロセスを強化します。さらには、日付の選択やラジオ ボタンのグループも処理できます。
Computer Vision がクロスプラットフォーム プロジェクトに移行し、統合ターゲットで完全に利用できるようになりました。これにより、Windows ベースのプロジェクトだけでなく、デスクトップ版の Studio のクロスプラットフォーム プロジェクトや Studio Web でも、セレクターを使用しないシナリオを自動化できるようになりました。
このリリースでは、新しい Vision Transformer AI モデルが導入されました。新しい Vision Transformer アーキテクチャにより、Computer Vision ベースのオートメーションにおける UI 要素の検出が全体的に高速化され、精度が向上しました。これにより、エラーを低減しオートメーション ワークフローを高速化できます。特に、表検出が大幅に改善され、さまざまな表構造とサイズがサポートされるようになりました。なお、GPU の要件が高いため、このモデルは UiPath のクラウド サーバーでのみ利用できます。
[項目を選択] アクティビティで Computer Vision が完全にサポートされるようになり、Computer Vision のみを使用するシナリオだけでなく、セレクターと Computer Vision の両方を使用するハイブリッド シナリオにも対応可能になりました。セレクターが使用できない場合 (Computer Vision 単体のシナリオ) は、このアクティビティが [CV ドロップダウン リストから選択] アクティビティの機能を担うようになりました。セレクターが使用可能だが実行時に失敗した場合 (ハイブリッド シナリオ) は、Computer Vision によって自己修復プロセスがトリガーされ、Computer Vision の情報に基づいて新しいセレクター検索が実行されます。その後、このセレクターが実行に使用されます。さらに、問題のあるセレクターと自己修復結果の詳細が記載された警告メッセージがログに表示されるため、新たに検出されたセレクターを使用してオートメーションの問題を修正できます。
checked
」が使用されます。この属性は、Computer Vision AI モデルの検出結果に従って Boolean 値 (True または False) を返します。
スクロール イベントがターゲット要素に送信されるポイントをカスタムで定義できるようになりました。以前は、スクロール イベントはターゲット要素の途中で送信されていましたが、現在は [CV 画面スコープ] アクティビティの [スクロールのオフセット] プロパティで Computer Vision アクティビティの実行時の自動スクロール機能を使用できます。スクロール可能な表やテキストを抽出する場合は、[CV 表を抽出] アクティビティと [CV テキストを取得] アクティビティの [内容のスクロールのオフセット] プロパティを使用します。
あいまいセレクターのターゲット メソッドで自動アンカーが見つからない場合、Computer Vision を使用して、自動アンカーが AI モデルにより生成されるようになりました。
[ブラウザー/アプリケーションを使用] アクティビティと [CV 画面スコープ] アクティビティで、既定の UiPath Screen OCR エンジンから UiPath Extended Languages OCR エンジンに切り替えるには、Computer Vision の API キーを指定する必要があります。設定は、アクティビティ レベルの [API キー] プロパティで実行するか、[プロジェクト設定] > [OCR] > [UiPath Extended Languages OCR] > [API キー] で指定できます。
Computer Vision の実行時の分析を追跡できるようにし、デバッグ速度を向上させるために、HTTP 要求のヘッダーで DesignTime ScreenId が送信されるようになりました。
Studio の [プロジェクト設定] > [UI Automation クラシック] > [SAP] に [追加のスケーリングを有効化] を新しく追加しました。この設定を使用すると、実行されたトランザクションとテスト ケースをリンクできます。[SAP の監視を有効化] を [True] に設定すると、実行されたトランザクションとその依存関係に関する情報が実行時に収集され、Test Manager に送信されます。現在、この設定は Studio のテスト オートメーション プロジェクトでのみ利用できます。他の種類のプロジェクトでは、今後のリリースで利用できるようになる予定です。
新しい SAP WebGUI 要素である SAP ステータス バーのサポートを追加しました。SAP の [ステータス バーを読み取り] アクティビティを使用して、SAP のステータス バーからメッセージの種類とテキストを抽出できるようになりました。
Google の Chrome Manifest V2 (MV2) の廃止のスケジュールにあわせて、2024 年 6 月より、Chrome および Edge 用の既存の Studio Web 拡張機能は、Manifest V3 に完全に対応したものに更新されました。この際、両方のブラウザーで同じ拡張機能 ID を維持するようにしました。新しい MV3 拡張機能は、ブラウザーを再度開いたときに自動的に更新されるので、ユーザーからのアクションは必要ありません。
Chrome および Edge 用の v24.10 の拡張機能にアップグレードした場合、グループ ポリシーから拡張機能をインストールする際に DeveloperToolsAvailability ポリシーの値を手動で「1」に設定する必要がなくなりました。
Safari の UI 要素の自動化がプレビューでサポートされるようになりました。新しく追加された UiPath Safari 拡張機能では、macOS 上の Safari を使用して Studio Web で UI オートメーションを設計したり、macOS 上の UiPath Assistant と Robot を使用して Safari でブラウザー オートメーションを実行したりできます。
オブジェクト リポジトリを大幅に改良し、これまでサポートされていなかったシナリオに対応する機能を追加しました。以下の段落では、各改良点について包括的にまとめて説明します。
デスクトップ版の Studio において、これまで Windows 専用だったオブジェクト リポジトリのサポートが拡張され、クロスプラットフォームも含まれるようになりました。クロスプラットフォームの種類のプロジェクトでも UI オブジェクトを作成および再利用できるため、オートメーションの開発プロセスを迅速化し、メンテナンス コストを削減できます。また、アプリケーションや UI 要素のセレクター構造が変化した場合に影響を受けるオートメーションを簡単に調整できるようになります。
Computer Vision と DOM 抽出器を合体させた Clipboard AI の高度な UI 抽出エンジンの力を利用する「すべてをキャプチャ」機能によって、スクロール可能なコンテンツやハイパーリンクなど、Web ページのあらゆる要素をキャプチャできるようになりました。この機能の導入前は、Computer Vision モデルのみを利用して要素を検出していたため、表示されている要素しか抽出できませんでした。今回、DOM 抽出器が追加されたことで、表示されている要素だけでなく、すべての要素を抽出してオブジェクト リポジトリのライブラリに追加できるようになりました。
[強調表示] アイコンを使用して、[要素をキャプチャ] ウィンドウで現在の選択を維持したまま、抽出された要素を強調表示できるようになりました。
オブジェクト リポジトリ内で画面、ノード、アプリケーションを作成、統合、編集する際のユーザー エクスペリエンスが簡素化され、プロセスが最初から最後まで効率化されました。これまでは、多数の確認画面を手動で操作する必要がありましたが、オブジェクト リポジトリによって新しいオブジェクトが適切なアプリケーションや画面に自動的に割り当てられるようになりました。不足している親オブジェクトがある場合、オブジェクト リポジトリによって自動的に作成されます。
オブジェクト リポジトリを使用せずにオートメーションを作成済みの場合に、アクティビティとターゲットをオブジェクト リポジトリ ライブラリに追加したいときは、新しいオブジェクト リポジトリを同期ウィザードを使用できます。このウィザードは、UI を操作するすべてのアクティビティを同期し、その名前が付いたアプリケーション、その名前が付いた画面、および対応する UI 要素をローカル リポジトリに作成します。以前は、各アプリケーション、画面、要素を手動でオブジェクト リポジトリに追加する必要がありましたが、プロジェクト全体が一度にオブジェクト リポジトリのローカル ライブラリに追加されるようになりました。これは、モダン アクティビティとクラシック アクティビティの両方で使用できます。クラシック アクティビティでは、完全セレクターを使用しているターゲットのみが追加され、部分セレクターを使用しているターゲットは追加されません。さらに、既存のライブラリを含めることができ、指定した一致するオブジェクトが自動的に同期されるようになりました。
アクティビティがオブジェクト リポジトリにリンクされている場合に、ターゲットの [プロパティ] パネルでローカル オブジェクトに加えた編集内容が、オブジェクト リポジトリの対応する記述子に自動的に反映されるようになりました。このため、手動で同期する必要がなくなりました。
読み取り専用オブジェクトにリンクされているアクティビティのターゲット プロパティは、自動的に無効化されます。これまで、このようなターゲット プロパティは [プロパティ] パネルでアクティブなままになっており、混乱を招く可能性がありました。現在は、ターゲット プロパティを編集する場合、オブジェクトのリンクを解除してローカルで編集できるようになりました。ただし、このような変更は、オブジェクト リポジトリの実際の記述子には反映されないことに注意する必要があります。
UI Automation アクティビティのハンバーガー メニューを標準化し、ローカルのオブジェクト リポジトリにリンクされたターゲットが含まれるアクティビティのオプションが、通常のアクティビティのオプションに合わせて調整されました。以前は、[画面上でターゲットを指定] や [ターゲットを編集] などの特定のオプションは、オブジェクト リポジトリにリンクされたアクティビティでは利用できませんでした。また、オブジェクト リポジトリの使用が強制されている場合と強制されていない場合の、[アプリケーション/ブラウザーを使用] アクティビティの指定機能も標準化しました。
[表データを抽出] アクティビティをオブジェクト リポジトリと同期する際に、UI 要素を編集できるようになりました。
- SAP Interaction Center のセレクターに
iframe
を使用しないようにすると、UI Explorer でセレクターの検証に失敗していました。 - 32 ビットの実行可能ファイルを使用してターミナルの Java アプリケーションを実行すると、予期しない動作が発生していましたが、32 ビットと 64 ビットの実行可能ファイルの両方でスムーズに動作するようになりました。
- Kendo Angular の表の 2 ページ目に移動する際に、[表データを抽出] アクティビティでデータのスクレイピングに失敗していました。
- バージョン 21.10.6 以降のパッケージで発生していた、設計時のエクスペリエンスに影響していた Java アプリケーションのポップアップの問題を修正しました。
- プロジェクト名に日本語の文字が含まれていると、[OCR - 中国語、日本語、韓国語] アクティビティが [アプリケーション/ブラウザーを使用] アクティビティでカスタム OCR として機能しませんでした。
- ターゲットを指定した後に OCR エンジン アクティビティを [CV 画面スコープ] アクティビティから削除すると、「値を null にすることはできません。」というエラーが発生していました。
- [CV 画面スコープ] アクティビティから OCR エンジン アクティビティを削除して表のセル上でホバーし続けると、「
There is no row at position 0
(位置 0 には行がありません。)」というエラーが発生していました。 - セレクター ウィジェットによって認識された Web ページ上の要素が、セレクターを保存して閉じたときに保持されませんでした。
- 複数のトップレベル ウィンドウで Web コントロールをホストするアプリケーションで、埋め込み Web ウィジェットを操作できませんでした。
- 並列シーケンス内の [クリック] アクティビティをキャンセルした場合、スローされたエラーを [トライ キャッチ] アクティビティでキャッチできませんでした。
- 静的な HTML ページからサイズの大きな表データを抽出するとエラーが発生し、サポートされているすべてのブラウザーの動作スピードが低下していました。この修正は、Internet Explorer には適用されません。
- [クリップボードから取得] アクティビティで、クリップボードから最新の値が取得されないことがありました。
- [入力モード] プロパティが [シミュレート] に設定されている場合、[文字を入力] アクティビティで、特殊文字の前に挿入されたテキストが無視されていました。
- 選択した項目にワイルドカードの付いたテキストが含まれていると、[項目を選択] アクティビティと SAP 固有の [メニュー項目を選択] アクティビティが失敗していました。
- メモ帳アプリケーションで行を指定できませんでした。
- Foxit Reader の使用時に問題がいくつか発生していました。[表データを抽出] アクティビティでスキャンした PDF から漢字を取得できませんでした。また、UI Explorer でドキュメントのアクセシビリティ機能を開始できませんでした。さらに、オートメーションを有人モードで実行すると正常に機能していましたが、無人モードではアプリケーションの検索に失敗していました。
- SharePoint などの共有ドライブに保存された、開いている Word 文書のリボンからドキュメント名を指定すると、「無効なセレクター」エラーが発生します。
- ハードウェア イベントを介してマウス入力を送信すると、Salesforce 上の入れ子になった iframe 内の HTML 要素が自動的にスクロールして表示されませんでした。
- UiPath リモート ランタイムにより、リモート マシンからの [テキストを取得] アクティビティの結果が返されるまでに時間がかかることがありました。この問題の回避策として、[アプリケーション/ブラウザーを使用] アクティビティ内で [ウィンドウ アタッチ モード] を [アプリケーション インスタンス] ではなく [単一ウィンドウ] に設定してください。[単一ウィンドウ] オプションでは、新しいアプリケーション ウィンドウやポップアップを操作できない点に注意してください。これらを操作するには、新しい [アプリケーション/ブラウザーを使用] アクティビティを使用します。
- Windows - レガシ プロジェクトから Windows プロジェクトにアップグレードすると、誤ったセレクターが生成されるために [表データを抽出] アクティビティで列の値を抽出できませんでした。
- 最新バージョンの WebDriver をダウンロードすると、[ブラウザーを開く] アクティビティにより
WebDriverExe
フォルダーに保存されますが、現在のバージョンは適用されず、引き続き以前のバージョンが参照されていました。そのため、ブラウザーを開こうとすると、非対応である旨を示すエラー メッセージが表示されていました。 - クラシック アクティビティ [要素が出現したとき]、[要素が消滅したとき]、[画像が出現したとき]、[画像が消滅したとき] アクティビティをデザイナー パネルに追加すると、検証の警告が表示されていました。
- v24.10.10
- 改良点
- バグ修正
- v24.10.8
- 改良点
- バグ修正
- v24.10.7
- 改良点
- v24.10.6
- UI Automation モダン
- オブジェクト リポジトリ
- UI Automation クラシック
- トリガー ベースの有人オートメーション
- セマンティック アクティビティ
- Computer Vision
- SAP
- ブラウザー拡張機能
- リモート オートメーションのサポート
- macOS の UI Automation
- バグ修正
- 既知の問題
- v24.10.5
- UiPath Clipboard AI
- v24.10.3
- UI Automation を素早く作成する
- v24.10.2
- Autopilot 機能を制御する
- v24.10.1
- UI Automation の Autopilot レコーダー
- v24.10.0
- 全般的な改良点
- UI Automation モダン
- トリガー ベースの有人オートメーション
- セマンティック アクティビティ
- Computer Vision
- SAP
- ブラウザー拡張機能
- オブジェクト リポジトリ
- バグ修正