CommPath LLM と Preview LLM を比較する

抽出データを生成するには、以下の利用可能なさまざまな LLM から選択できます。

• CommPath LLM
• Preview LLM

以下のセクションでは、使用する LLM を決定する際のいくつかの考慮事項の概要を説明します。ユース ケースでメッセージあたり 30 を超えるフィールドを抽出する必要がある場合、Preview LLM を使用することをお勧めします。

CommPath LLM

• コミュニケーション データ用に微調整された UiPath® 独自の LLM を活用します。
• メッセージあたり約 30 個のフィールドを抽出するに制限されています。
• Preview LLM よりもレイテンシが小さい​。
• データに基づいて微調整できます。
• 抽出できるフィールドの数とモデルの推論速度の両方の観点から CommPath のパフォーマンスを向上させることが最優先事項となっています。
• Preview LLM と比較して特定の発生の信頼度が提供されます。詳しくは、「 生成 AI による抽出によるオートメーション」をご覧ください。

Preview LLM

• Azure OpenAI GPT モデルを基盤となる LLM として活用します。
• UiPath® ではアップタイムを保証していません。Azure OpenAI エンドポイントに完全に依存するからです。エンドポイントがダウンしたり過負荷になったりした場合は、可用性を保証できません​。
• メッセージあたり 30 を超えるフィールドを抽出できます。
• CommPath LLM と比較してレイテンシが大きい。​
• コンテキスト内学習に限定されます​。
  手記： コンテキスト内学習を使用する場合、プラットフォームはプロンプトの内容からのみ学習できます。Communications Mining™ ではプロンプトをある程度まで自動的に調整できますが、このモデルはユーザー主導の検証から学習しません。

以下の画像に示す設定を使用して、生成 AI による抽出に使用する LLM を選択します。

CommPath LLM は既定で有効化されています。Preview LLM を有効化するには、[生成 AI 機能を使用] と [生成 AI による抽出モデルを使用] を必ず有効化します。

[生成 AI による抽出モデルを使用] トグルがオフになっている場合は、CommPath LLM を使用していることになります。

[生成 AI 機能を使用] と [生成 AI による抽出モデルを使用] トグルがオンになっていると、プラットフォームの抽出プロセスで UiPath Azure OpenAI エンドポイントが使用されます。

推奨されるアプローチ

1. CommPath LLM を使用して抽出のトレーニングを開始します。
2. 抽出が正確に実行される場合は、CommPath LLM を使用して抽出のトレーニングを続けます。そうでない場合は、各メッセージのフィールド数が多いかテーブルが大きいため、Preview LLM に切り替えます。​

   抽出データの予測が正確かどうかを判断するには、[検証] ページの [生成 AI による抽出] タブで検証の統計情報を確認します。抽出の精度と再現率がユース ケースに適している場合は、引き続き CommPath LLM を使用してください。

   いずれかのデータ ポイントが CommPath LLM で期待どおりに抽出されない場合:

   1. [モデル] に移動して現在のモデル バージョンをピン留めし、最新のモデル バージョンの [ピン留め] を選択します。
   2. UiPath® の担当者に連絡し、抽出が適切に実行されなかったモデルのバージョンを確認します。UiPath の担当者が Communications Mining™ の製品チームと直接連携し、改良点を調査して実装します​。
3. Preview LLM を使用する場合は、CommPath LLM をトレーニングしたときと同じ方法でモデルのトレーニングを続行します。それにより、各抽出の正しい例を提供してください。

注: Preview モデルを選択した場合、そのモデルのみが生成 AI による抽出用にトレーニングされます。CommPath モデルは同時にトレーニングされません。これにより、Preview モデルのユーザーにとってトレーニングと検証が高速化されます。CommPath に切り替えても、CommPath モデルのバージョンのトレーニングが完了するまで、予測は引き続き Preview LLM によって提供されます。その逆も同様です。