引入您自己的 LLM 进行上下文基础

Test Cloud 中“自带模型”和“自带订阅”选项用于“上下文锚定”，使 Administrators 能够替换由 UiPath 托管的嵌入和推理模型。

上下文基础通过 UiPath AI Trust Layer 支持自带模型 (BYOM) 和自带订阅 (BYOS)。管理员可以用自己的订阅替换 UiPath 管理的嵌入和推理模型，或连接未包含在默认集中的模型，同时保留 AI Trust Layer 的监管和审核功能。

支持的功能和模式

以下上下文基础功能支持通过 API 遵循 OpenAI V1 标准的任何提供程序（通过“符合 OpenAI V1 V1 要求的 LLM 连接器”连接）提供的自定义 LLM 配置。每个功能都有特定的模型要求。

功能	支持的型号	推荐模型	要求	推荐规格
高级提取	任何与 OpenAI V1 兼容的 LLM	gemini-2.5-flash	强制工具调用；多模态图像支持	16,000 个输入令牌； 32K 输出令牌
批量转换	任何与 OpenAI V1 兼容的 LLM	gemini-2.5-flash (smart)、gemini-2.5-flash-lite （快速）	强制工具调用	128,000 个输入令牌
使用网页搜索进行批量转换	任何Gemini 网页搜索模型	不适用	Gemini 网页搜索工具	不适用
DeepRAG	任何与 OpenAI V1 兼容的 LLM	gemini-2.5-flash	强制工具调用； count > 1 个支持	100 万个输入令牌； 64k 输出令牌
嵌入	任何与 OpenAI V1 兼容的嵌入模型	Gemini-embedding-001	< 4,096 个维度； ≥ 8000 个输入令牌	不适用

有关所有 UiPath 产品的完整模型作用域，请参阅“配置 LLM” 。

要求— 如果没有此功能，该功能将无法运行。
推荐— 如果没有此功能，则该功能未经测试，性能可能会更差或更容易失败。

配置和路由

上下文基础的自定义 LLM 配置通过“管理” > “AI Trust Layer”中的“LLM 配置”选项卡进行管理。对于设置步骤，在按照 配置 LLM 中的步骤操作时，选择 上下文基础 作为产品。

有关 AI 功能如何将请求路由到模型（包括回退行为和模型监管）的详细信息，请参阅AI 功能和模型路由。