生成会话补全

在 Google Vertex 连接器中生成“会话补全”活动。

描述

在给定提示和其他输入的情况下，生成会话补全响应。

项目兼容性

Windows | 跨平台

配置

• 连接- 在 Integration Service 中建立的连接。访问下拉菜单以选择、添加或管理连接。
• 消息- 要用于生成会话补全的消息。通过输入字符串为模型提供对话或“聊天”上下文，然后返回。必须输入奇数个字符串，活动才能正常工作。第一个输入是“用户”，第二个输入是“模型”，依此类推。此字段支持String类型的输入。
• 模型 ID - 用于补全请求的大型语言模型 (LLM)。选择一个可用选项：Bson-002、Bson-001。

管理属性

使用“管理属性”向导配置或使用对象的任何标准或自定义字段。您可以选择字段以将其添加到活动画布中。添加的标准或自定义字段可在“属性”面板（在 Studio 桌面版中）或“显示其他属性”下（在 Studio Web 中）中找到。

其他属性

• 上下文- 提示中的上下文信息指导模型的响应，并根据提供的上下文帮助限制其答案的范围。此字段支持String类型的输入。
• 最大输出令牌数- 提示和生成的答案允许的最大令牌数。令牌越少，成本就越低。大多数模型最多支持 1024 个令牌。默认值为1024 。
• 温度- 0 到 1 之间的数字。0.8的值可使输出更具随机性，而0.2的值可使输出更具针对性和确定性。默认值为0.8 。
• Top p - 0 到 1 之间的数字。数字越小，结果的随机性越小。默认为0.8 。
• 前 k 个数字 - 介于 1 到 40 之间的数字。数字越大，生成文本的多样性就越高。默认为40 。
• 示例- 结构化消息对，包含诸如“您为谁工作？”之类的输入消息及其相应的理想回答“我为 Ned 工作”是训练模型在各种对话中做出有效响应的重要示例。此字段支持String类型的输入。

输出

• 热门生成文本- 热门生成的聊天。自动生成的输出变量。
• 会话补全- 自动生成的输出变量。