活动
最新
False
横幅背景图像
Integration Service 活动
上次更新日期 2024年5月9日

生成会话补全

描述

使用会话补全模型为给定的请求生成会话响应。

项目兼容性

Windows | 跨平台

配置

  • 连接 ID - 在 Integration Service 中建立的连接。 访问下拉菜单以选择、添加或管理连接。

  • 模型名称- 要用于会话补全的模型或部署的名称或 ID。 从可用的下拉列表中选择一个选项,其中包含多个 Azure OpenAI 和 Google Vertex 模型。
  • 提示” - 会话补全请求的用户提示。 此字段支持String类型输入。
  • PII 检测- 是否从输入提示中检测 PII。 布尔值。 默认值为 False。
    • PII 筛选- 如果设置为“True”,则在将检测到的任何 PII/PHI 发送给 LLM 之前,都会对其进行掩码处理。 如果为 False,则提示中将包含检测到的 PII。 在这两种情况下,输出中都会提供检测到的 PII。 如果设置为 True,则输出质量可能会受到影响。 如果PII 检测设置为“True”,则会显示此字段。
    • PII 语言- 扫描 PII 的提示输入和输出的语言。 如果PII 检测设置为“True”,则会显示此字段。
    • PII/PHI 类别- 要分析的可选 PII/PHI 类别。 如果未设置,则审核所有类别。 如果PII 检测设置为“True”,则会显示此字段。
  • 系统提示- 会话补全请求的系统提示或上下文指令。 此字段支持String类型输入。 如果PII 检测设置为“True”,则会显示此字段。
  • 上下文基础- 将现有索引 (Orchestrator 存储桶) 或文件中的上下文插入到提示中。 从下拉菜单中选择一个可用选项:“无”、“现有索引”、“文件资源”。
    • “索引” - 要引用的索引的名称。 如果将上下文基础设置为现有索引,则会显示此字段。
    • 文件” - 单击以使用变量。 此字段支持 IResource 类型输入。 如果将“上下文基础”设置为 “文件资源”,则会显示此字段。
    • 结果数- 指示要返回的结果数。
管理属性

使用“管理属性”向导配置或使用对象的任何标准或自定义字段。 您可以选择字段以将其添加到活动画布中。 添加的标准或自定义字段可在“属性”面板(在 Studio Desktop 中)或“显示其他选项”下(在 Studio Web 中)下找到。

其他选项
  • 最大令牌计数- 要在补全中生成的最大令牌数。 提示的令牌计数加上结果/完成中的令牌计数不能超过为此字段提供的值。 最好将此值设置为小于模型最大计数的值,以便为提示令牌计数留出一些空间。 默认值为 1024。 此字段支持Int64类型输入。
  • 温度- 要使用的创意因子或采样温度的值。 值越高意味着模型将承担更多的风险。 对于更具创意的响应或完成情况,请尝试 0.9,对于具有明确定义或更精确答案的响应或完成情况,尝试使用 0(也称为“参数最大采样”)。 一般建议在默认情况下更改此值或“Nucleus 样本”值,但不要同时更改这两个值。 默认值为 1。
  • 补全选项计数”- 为请求生成的补全选项数量。 此字段的值越大,要使用的令牌数量就越多。 这会导致更高的成本,因此用户在设置此字段的值时需要注意这一点。 默认为 1。
  • “停止序列” - 最多四个序列,API 将在其中停止生成更多令牌。 返回的文本不包含停止序列。 默认值为 null。
  • 存在惩罚- 介于 -2.0 和 2.0 之间的数字。 正值根据新令牌到目前为止是否出现在文本中来惩罚新令牌,从而增加模型谈论新主题的可能性。 默认值为 0。
  • 频率惩罚- 介于 -2.0 和 2.0 之间的数字。 Positivebe 值根据目前为止新令牌在文本中的现有频率对新令牌进行惩罚,从而降低模型逐字重复同一行的可能性。 默认值为 0。
输出
  • 优先生成的文本- 生成的文本。 自动生成的输出变量。
  • 生成会话补全- 自动生成的输出变量。
  • 描述
  • 项目兼容性
  • 配置

此页面是否有帮助?

获取您需要的帮助
了解 RPA - 自动化课程
UiPath Community 论坛
Uipath 白色徽标
信任与安全
© 2005-2024 UiPath. All rights reserved.