- スタート アップ ガイド
- データのセキュリティとコンプライアンス
- 組織
- 認証とセキュリティ
- ライセンス
- テナントとサービス
- アカウントとロール
- AI Trust Layer
- 外部アプリケーション
- 通知
- ログ
- データ エクスポート
- 組織でのテスト
- トラブルシューティング
- Test Cloud に移行する
AI Trust Layer の LLM 設定オプション。カスタムまたはサブスクリプションベースの大規模言語モデルを Test Cloud サービスに接続するために使用します。
[LLM の設定] タブでは、既存の AI サブスクリプションを統合しながら、UiPath が提供するガバナンス フレームワークを維持できます。以下が可能です。
- UiPath の LLM サブスクリプションを置き換える: UiPath で管理されるサブスクリプションを独自のサブスクリプションに置き換えます。ただし、UiPath 製品ですでにサポートされているものと同じモデル ファミリとバージョンに一致することが条件です。これにより、UiPath で管理されるモデルをユーザーのサブスクリプション済みモデルにシームレスに置き換えることができます。
- 独自の LLM を追加する: 製品の相互運用性基準を満たす任意の LLM を使用します。スムーズな連携を実現するため、選択した LLM を UiPath エコシステム内で使用する前に、その LLM が、プローブ呼び出しによって開始される一連のテストに合格する必要があります。
UiPath で管理されるモデルや LLM の設定にアクセスできるかどうかは、使用するクラウド プラットフォームによって異なります。詳しくは、「Test Cloud の機能の可用性」をご覧ください。
LLM を設定する場合、Automation Ops を介したポリシーの適用や詳細な監査ログなど、AI Trust Layer のガバナンス上の利点の大半は維持されます。ただし、モデルのガバナンス ポリシーは UiPath で管理される LLM 専用に設計されています。
つまり、AI Trust Layer のポリシーを使用して特定のモデルを無効化すると、制限は、そのモデルの UiPath で管理されるバージョンにのみ適用されます。ユーザーが独自に設定した同じ種類のモデルは影響を受けません。
独自の LLM またはサブスクリプションを使用するオプションを利用する場合は、以下の点に留意してください。
- 相互運用性の要件: 選択した LLM またはサブスクリプションが、UiPath 製品でサポートされているモデル ファミリおよびバージョンと一致している必要があります。
- 設定: 必ず、必要なすべての LLM をカスタム設定で適切に設定し、維持管理します。不足しているコンポーネント、古いコンポーネント、正しく設定されていないコンポーネントがあると、カスタム設定が機能しなくなる可能性があります。このような場合、Automation Ops のポリシーで UiPath LLM をオフにしていない限り、サービスの継続性を確保するために、UiPath で管理される LLM に自動的に戻ります。
- コスト削減: カスタム LLM の設定が完全で正しく、必要な要件をすべて満たしている場合は、使用率の引き下げ対象になる可能性があります。
ライセンス
LLM の設定は、以下のライセンス プランで利用できます。
- ユニファイド プライシング: Community、Enterprise Platform、Standard Platform、Basic Platform、App Test Platform Enterprise、App Test Platform Standard
- フレックス: Advanced Platform、Flex Standard Platform。
LLM 要求のルーティング方法
モデルが UiPath で管理されているか独自のモデルかにかかわらず、UiPath 製品からのすべての LLM 呼び出しは、モデルに到達する前に AI Trust Layer の LLM ゲートウェイを通過します。以下の図は、独自のモデルで利用可能な接続パターンを示しています。このパターンは、パブリックにアクセス可能なプロバイダーへの直接接続、プライベート ネットワークでホストされているモデルへの Relay 媒介接続、および独自の AI ゲートウェイの背後にあるモデル用のカスタム コネクタです。
Integration Service を介した直接接続
直接接続では、製品が要求を LLM ゲートウェイに送信します。LLM ゲートウェイは、プロバイダー用に作成した Integration Service のコネクション経由で要求をルーティングします。接続によって要求が境界を越えてプロバイダーのドメインに伝送され、応答は同じパスをたどって戻されます。
ゲートウェイは両方向のパス内に留まるため、モデルがユーザーのものであっても、ポリシーの適用と監査ログがすべての呼び出しに適用されます。
Relay を介したプライベート ネットワーク接続
モデルがオンプレミスまたはパブリック エンドポイントのないプライベート ネットワークでホストされている場合は、 Relay がモデルへの接続を提供します。LLM ゲートウェイと Integration Service は、直接接続の場合と同じように動作します。その後、UiPath Relay インフラストラクチャは送信トンネルを介して要求を転送します。ネットワーク内の Relay クライアントは開いたままになり、クライアントはローカルでモデルを呼び出します。
この接続パターンでは、Integration Service のコネクションを作成するときに、モデルのエンドポイントを接続の種類として [ プライベート ] を選択した Relay グループに登録する必要があります。詳しくは、「 Relay を使用する」をご覧ください。
カスタム コネクタを介した AI ゲートウェイの接続
モデルが独自の AI ゲートウェイの背後にある場合や、組み込みコネクタでサポートされていない API を公開している場合は、カスタムの Integration Service コネクタがこの 2 つの形式を橋渡しします。LLM ゲートウェイは標準の要求形式と応答形式を送受信し、コネクタはその形式とゲートウェイが予期する形式との間で両方向に変換します。詳しくは、「 AI Trust Layer を介してカスタム LLM を接続する」をご覧ください。
LLM の設定を行う
LLM のコネクションでは、Integration Service を利用して、ユーザー独自のモデルへのコネクションを確立します。以下のプロバイダーへのコネクションを作成できます。
- Azure OpenAI
- OpenAI
- Amazon Web Services
- Anthropic Claude
- Google Vertex
- Open AI V1 準拠の LLM – OpenAI V1 標準に準拠している API を備えた LLM プロバイダーに接続するには、このオプションを使用します。詳しくは、OpenAI V1 準拠の LLM コネクタに関するドキュメントをご覧ください。
注:
Integration Service のコネクションを使用するには、 Integration Service の送信 IP 範囲 を許可リストに追加する必要があります。
新しいコネクションを設定するには、次の手順に従います。
1. Integration Service のコネクションを作成する
- Integration Service で、LLM プロバイダーへのコネクションを作成します。
- コネクションを保存するフォルダーを選択します。
- 選択したコネクタで必要な認証を完了します。
注:
選択したフォルダーによって、セキュリティと可視性の両方が制御されます。未認可のアクセスを防ぐには、Integration Service のコネクションを非共有のプライベート フォルダーに作成します。ただし、モデルの表示設定は、このフォルダーへのアクセス権によって決まります。管理者がアクセス権を持っていない場合、関連付けられているモデル設定はリストに表示されません。
2. 新しい LLM の設定を追加する
- [管理] > [AI Trust Layer] > [LLM の設定] に移動します。
- テナントを選択します。
- [設定を追加] を選択します。
- 製品 (例: [Agents]) と機能 (例: [設計、評価、デプロイ]) を選択します。
- [コネクションのフォルダー] を選択します。
3. モデルを設定する
[モデルの設定] セクションで、以下のフィールドに入力します。
- LLM 名 – ユース ケースに応じて以下の 2 つの設定オプションがサポートされています。
- リストからモデルを選択する – 定義済みのリストからモデルを選択すると、UiPath で管理される LLM サブスクリプションが、同じモデルの独自のサブスクリプションに置き換えられます。このシナリオは「独自のサブスクリプションを使用 (BYOS)」と呼ばれます。
- カスタム エイリアスを追加 – カスタム名を入力すると、その製品に対して推奨されるモデルの定義済みリストに含まれていないモデルを設定できます。このシナリオは、「独自のモデルを使用する (BYOM)」と呼ばれます。
注:
[カスタム エイリアスを追加] オプションは、カスタム モデルをサポートする製品でのみ使用できます。カスタム モデルをサポートしている製品については、以下の表をご覧ください。
- API の種類 – LLM でサポートされる API エンドポイントです (例: Open AI Chat Completions)。プロバイダーによって公開されているエンドポイントと一致する必要があります。
- コネクタ – Integration Service のコネクタです (例: Microsoft Azure OpenAI、Amazon Web Services)。
- AI Trust Layer のカスタム コネクタ (現在はエンタープライズ ユーザー向けにリクエストに応じて提供可能) にアクセスできる場合は、[ カスタム コネクタを作成 ] を選択し、コネクタ ビルダーで事前定義されたテンプレートを使用することもできます。詳しくは、「 AI Trust Layer を介してカスタム LLM を接続する」をご覧ください。
- コネクション – 作成済みの特定の Integration Service のコネクションです。利用可能なコネクションがない場合は、Integration Service でコネクションを作成します。
- LLM の識別子 – お使いの LLM サブスクリプションに表示されているとおりのモデル識別子です。
- Azure がホストするモデルの場合: モデルのデプロイ名/識別子を入力します。
- AWS Bedrock のクロスリージョン推論の場合: 推論プロファイル ID を入力します。モデル ID の前にリージョン コードを追加する必要があります (例:
eu.anthropic.claude-3-5-sonnet-20240620-v1:0)。 - その他のプロバイダーの場合: サブスクリプションで定義されているモデル名を使用します。
独自の LLM を設定する場合、必要に応じて、組織で使用できる大規模言語モデルを制限できます。自分のカスタム モデルのみが使用されるようにする場合は、AI Trust Layer のポリシーを適用して、UiPath で管理されるサードパーティ モデルを無効化できます。詳しくは、『AI Trust Layer ポリシー』のドキュメントの「 モデル 」セクションをご覧ください。
4. 検証して保存する
-
[テストの設定] を選択して、エンドポイントがアクセス可能であることを確認します。
- プラットフォームによって接続が検証されます。
- 正しいモデルが設定されていることを確認することは、引き続きユーザーの責任です。
-
検証が成功した場合は、[保存] を選択して設定をアクティブ化します。
LLM の既存のコネクションを管理する
既存のコネクションに対して以下の操作を実行できます。
- ステータスを確認 – Integration Service のコネクションのステータスを確認します。この操作により、コネクションがアクティブで正しく機能していることを確認します。
- 編集 – 既存のコネクションのパラメーターを変更します。
- 無効化 – コネクションを一時的に中断します。無効化した場合、コネクションはこれまでどおりリストに表示されますが、呼び出しをルーティングしません。必要に応じて、コネクションを再度有効化することができます。
- 削除 – コネクションをシステムから完全に削除します。この操作を行うと、コネクションは無効化されてリストから削除されます。
製品の LLM を設定する
各製品は、特定の大規模言語モデル (LLM) とバージョンをサポートしています。以下の表で、お使いの製品でサポートされているモデルとバージョンを確認してください。
アマゾン ウェブ サービス、Google Vertex、Microsoft Azure OpenAI、または OpenAI v1 準拠のいずれかのプロバイダーを使用して、独自の LLM を接続できます。前のセクションで概説されている手順に従って、コネクションを作成します。
ファイルのサポート: 製品の一部の機能では、アップロードされたファイルを処理するために、設定されている LLM エンドポイントに依存します。カスタム LLM 設定を使用する場合、ファイル形式のサポートは、プロバイダー、モデル ファミリ、モデル バージョン、API の種類によって異なります。ファイルベースの機能を有効化する前に、選択したモデルで、必要なファイル形式がサポートされていることを確認します。製品固有の要件については、関連する製品のドキュメントをご覧ください (たとえば、Agents の場合は「Analyze Files」をご覧ください)。
設定する必要があるモデルの数は、製品と機能によって異なります。
- モデルを選択可能な (使用するモデルをユーザーが選択する) 機能では、1 つ以上のモデルを設定できます。設定されていないモデルでは、引き続き UiPath が管理するサブスクリプションが使用されます。
- 固定のモデルが設定されている機能 (事前定義された一連のモデルを使用する機能) では、機能が動作するにはすべてのモデルを設定する必要があります。一部だけ設定しても有効ではありません。
| 製品 | カスタム モデルのサポート | 機能 | LLM (大規模言語モデル) | 主な LLM のバージョン |
|---|---|---|---|---|
| Agents1 | はい | 設計、評価、デプロイ |
| |
| OpenAI |
| |||
| Anthropic |
| |||
| Autopilot | はい | チャット | OpenAI |
|
| Anthropic |
| |||
| ||||
| 花火AI |
| |||
| 生成 |
| |||
| Autopilot for Everyone | はい | チャット | Anthropic |
|
| OpenAI |
| |||
| コード化されたエージェント | はい | LLM を呼び出し |
| |
| OpenAI |
| |||
| Anthropic |
| |||
| コンテキスト グラウンディング | はい | 高度な取り込み |
| |
| バッチ変換 |
| |||
| Web 検索によるバッチ変換 |
| |||
| DeepRAG |
| |||
| 埋め込み |
| |||
| GenAI アクティビティ | はい | 構築、テスト、デプロイ | Anthropic |
|
| OpenAI |
| |||
| ||||
| Healing Agent | はい | ワークフローの回復 |
| |
| OpenAI |
| |||
| UI Automation | いいえ | ScreenPlay | Anthropic |
|
| ||||
| OpenAI |
| |||
| セマンティック セレクター |
| |||
| セマンティック アクティビティ |
| |||
| OpenAI |
| |||
| Test Manager | はい | Autopilot での検索 | Anthropic |
|
| OpenAI |
| |||
| ||||
| 古いテストを検索 | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| テスト ケースを生成 | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| テスト ケースをインポートする | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| レポートを生成 | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| 要件の評価 | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| IXP | はい | 非構造化ドキュメントと複雑なドキュメント | OpenAI |
|
| ||||
| ScreenPlay | はい | Screen Play | OpenAI |
|
| ||||
| Anthropic |
| |||
| セマンティック アクティビティ |
| |||
| OpenAI |
| |||
| セマンティック セレクター |
|
1 エージェントの要件:
- LLM が以下をサポートしていることを確認します。
- ツール (関数) の呼び出し – モデルは、実行中にツールまたは関数を呼び出せる必要があります。
- 並列のツール呼び出しの無効化 – 並列のツール呼び出しがプロバイダーによってサポートされている場合、モデルは、その呼び出しを無効化するためのオプションを提供している必要があります。
- カスタム モデルを使用する場合、エージェントは、モデルの実際の容量にかかわらず、既定で 4096 個のトークンに制限されます。これは、UiPath ではユーザー定義のデプロイに対するトークンの制限を推測できないためです。