AI Trust Layer を介してカスタム LLM を接続する

AI Trust Layer のカスタム Integration Service コネクタを使用して、組み込みコネクタがない LLM プロバイダーを接続します。

注:

この機能は現在、Enterprise プランのユーザー向けにリクエストに応じて一般提供されています。

[AI Trust Layer LLM の設定 ] タブでは、Integration Service のカスタム コネクタを使用して、外部 LLM を UiPath 製品に接続できます。このアプローチでは、LLM 呼び出しが AI Trust Layer を介してルーティングされ、ネイティブでサポートされるモデルと同じガバナンス、監査、ポリシー制御が提供されます。

カスタム コネクタは、LLM プロバイダーがまだ Integration Service の組み込みコネクタとして利用できない場合に必要になります。コネクタ ビルダーの テンプレート からコネクタを構築し、ゲートウェイの資格情報を設定して、カスタム エイリアスでモデルを登録します。

以下のガイドでは、特定の連携シナリオについて説明します。

• 使用ガイド: AI Trust Layer を介して Mistral を接続する — Azure OpenAI テンプレートを使用して Mistral モデルを接続します。モデル固有の要件に合わせて調整します。
• 使用ガイド: AI Trust Layer を介してオープンソース モデルを接続 する — OpenAI V1 準拠の LLM テンプレートを使用して、Fireworks などの OpenAI 互換ゲートウェイでホストされているオープンソース モデルを接続します。