AI Trust Layer を介してカスタム LLM を接続する

ネイティブにサポートされていないプロバイダー向けにコネクタ ビルダーに組み込まれたカスタム Integration Service コネクタを使用して、AI Trust Layer を介して外部 LLM を Automation Suite に接続します。

[AI Trust Layer LLM の設定 ] タブでは、Integration Service のカスタム コネクタを使用して、外部 LLM を UiPath 製品に接続できます。このアプローチでは、LLM 呼び出しが AI Trust Layer を介してルーティングされ、ネイティブでサポートされるモデルと同じガバナンス、監査、ポリシー制御が提供されます。

LLM プロバイダーが Integration Service の組み込みコネクタとしてまだ利用できない場合は、カスタム コネクタが必要です。コネクタ ビルダーでテンプレートからコネクタを構築し、ゲートウェイの資格情報を設定して、モデルをカスタム エイリアスで登録します。

以下のガイドでは、特定の連携シナリオについて説明します。

• 使用ガイド: AI Trust Layer を介して Mistral を接続する — Azure OpenAI テンプレートを使用して Mistral モデルを接続します。モデル固有の要件に合わせて調整します。
• 使用ガイド:AI Trust Layer を介した OSS モデルの接続 — OpenAI V1 準拠の LLM テンプレートを使用して、Fireworks などの OpenAI 互換ゲートウェイでホストされているオープンソース モデルを接続します。