使用ガイド: AI Trust Layer を介して OSS モデルを接続する

このガイドでは、AI ゲートウェイでホストされているオープンソース モデルを、AI Trust Layer LLM の設定 機能を使用して接続する方法について説明します。OpenAI V1 準拠のテンプレートを使用してカスタムの Integration Service コネクタを作成し、ゲートウェイの資格情報とモデル識別子を使用して構成します。

この手順では、ゲートウェイの例として Fireworks を使用しますが、OpenAI 互換ゲートウェイであればどれでも機能します。

前提条件

• クラスターで BYO AI ゲートウェイが有効になっている。詳しくは、「 AI Trust Layer を構成する」をご覧ください。
• 使用するモデルへのアクセス権を持つ、OpenAI 互換の AI ゲートウェイ (Fireworks など) のアカウント
• ゲートウェイにリストされているモデル識別子(例えば、Fireworks の GLM の場合は accounts/fireworks/models/glm-4p6 )
• ゲートウェイ アカウントの API 資格情報
• Automation Suite での組織管理者のアクセス権
• Integration Service とコネクタ ビルダーへのアクセス

AI Trust Layer で LLM を設定する

1. [ 管理 ] > [AI Trust Layer ] > [LLM の設定 ] に移動し、[ 設定を追加] を選択します。

2. [テナント]、[製品]、および [機能] の値を設定します。

   注:

   BYOM をサポートする任意の製品 ( Agents、 Gen AI アクティビティ、 コード化されたエージェントなど) を選択できます。

3. [モデル構成] で [カスタム エイリアスの追加] を選択し、OSS モデルの名前を入力します。

4. [ API の種類 ] をモデルに対応する API の種類に設定します。ほとんどのチャット モデルでは、[ チャットの完了] を選択します。

5. [コネクタ] フィールドで、[カスタム コネクタを作成] を選択します。

6. [OpenAI V1 準拠の LLM] テンプレートを選択し、[コネクタを作成] を選択します。コネクタ ビルダーが開き、テンプレートが事前に入力された状態で開きます。

7. コネクタを設定して保存し、 パブリッシュします。

Integration Service でコネクションを追加する

1. Integration Service で [ コネクション ] に移動し、[ コネクションを追加] を選択します。
2. パブリッシュしたカスタム コネクタを選択します。
3. ゲートウェイの資格情報を入力します。Fireworks の場合、これは API キーです。
4. [ 接続 ] を選択して、コネクションをプロビジョニングします。

LLM の設定を完了します

1. [管理] > [AI Trust Layer] > [LLM の設定] に戻り、開始した設定を開きます。

2. [ モデルの設定] で、[ コネクタ ] をパブリッシュ済みのコネクタに設定し、[ コネクション ] を作成したコネクションに設定します。

3. [ LLM の識別子 ] フィールドに、ゲートウェイに表示されているとおりにモデル識別子を入力します。

   Fireworks でホストされるモデルの場合、識別子は accounts/fireworks/models/<model-name>の形式に従います。例: accounts/fireworks/models/glm-4p6。

   注:

   [LLM の識別子] フィールドの末尾にスペースがあると、接続エラーが発生します。保存する前に、先頭または末尾にスペースがないことを確認します。

4. [ 設定をテスト ] を選択して、AI Trust Layer プローブを実行します。

5. プローブが成功した場合は、 [ 保存] を選択します。

結果

構成は保存され、指定した製品と機能で OSS モデルを使用できるようになります。呼び出しは AI Trust Layer を経由してルーティングされ、監査ログの [ソース: カスタム接続] に表示されます。検証するには、新しく追加されたモデルを使用してエージェントを実行し、トレースと AI Trust Layer の監査ログを確認して、想定されるモデルが呼び出されたことを確認します。

注:

カスタム コネクタの作成中に問題が発生した場合は、UiPath サポートにお問い合わせください。