活动

生成会话补全

描述

使用会话补全模型为给定的请求生成会话响应。

项目兼容性

Windows | 跨平台

配置

连接 ID - 在 Integration Service 中建立的连接。访问下拉菜单以选择、添加或管理连接。
模型名称- 要用于会话补全的模型或部署的名称或 ID。从可用的下拉列表中选择一个选项，其中包含多个 Azure OpenAI 和 Google Vertex 模型。
“提示” - 会话补全请求的用户提示。此字段支持String类型输入。

管理属性

使用“管理属性”向导配置或使用对象的任何标准或自定义字段。您可以选择字段以将其添加到活动画布中。添加的标准或自定义字段可在“属性”面板（在 Studio Desktop 中）或“显示其他选项”下（在 Studio Web 中）下找到。

其他选项

系统提示- 会话补全请求的系统提示或上下文指令。此字段支持String类型输入。
最大令牌计数- 要在补全中生成的最大令牌数。提示的令牌计数加上结果/完成中的令牌计数不能超过为此字段提供的值。最好将此值设置为小于模型最大计数的值，以便为提示令牌计数留出一些空间。默认值为 1024。此字段支持Int64类型输入。
温度- 要使用的创意因子或采样温度的值。值越高意味着模型将承担更多的风险。对于更具创意的响应或完成情况，请尝试 0.9，对于具有明确定义或更精确答案的响应或完成情况，尝试使用 0（也称为“参数最大采样”）。一般建议在默认情况下更改此值或“Nucleus 样本”值，但不要同时更改这两个值。默认值为 1。
“补全选项计数”- 为请求生成的补全选项数量。此字段的值越大，要使用的令牌数量就越多。这会导致更高的成本，因此用户在设置此字段的值时需要注意这一点。默认为 1。
“停止序列” - 最多四个序列，API 将在其中停止生成更多令牌。返回的文本不包含停止序列。默认值为 null。
存在惩罚- 介于 -2.0 和 2.0 之间的数字。正值根据新令牌到目前为止是否出现在文本中来惩罚新令牌，从而增加模型谈论新主题的可能性。默认值为 0。
频率惩罚- 介于 -2.0 和 2.0 之间的数字。 Positivebe 值根据目前为止新令牌在文本中的现有频率对新令牌进行惩罚，从而降低模型逐字重复同一行的可能性。默认值为 0。