使用 Lama2 获取文本补全

描述

根据给定提示，使用元美洲驼 2 模型生成文本补全响应。

项目兼容性

Windows | 跨平台

配置

• 连接 ID - 在 Integration Service 中建立的连接。 访问下拉菜单以选择、添加或管理连接。

• 模型- 用于生成文本补全的模型。 从下拉列表中选择一个可用选项：“Llima2 13B”、“Lama2 70B”。
• “提示” - 用于生成文本补全的提示。 此字段支持String类型输入。

管理属性

使用“管理属性”向导配置或使用对象的任何标准或自定义字段。 您可以选择字段以将其添加到活动画布中。 添加的标准或自定义字段可在“属性”面板（在 Studio Desktop 中）或“显示其他选项”下（在 Studio Web 中）下找到。

其他选项

• 最大令牌数- 提示和生成的答案允许的最大令牌数。 令牌越少，成本就越低。 默认值为 256。 此字段支持Int32类型输入。
• “温度” - 0 到 2 之间的数字。值较高使输出更具随机性，而较低的值使输出更具针对性和确定性。 默认情况下，此字段设置为 0.2。 此字段支持Double类型输入。
• “顶部 p” - 0 到 1 之间的数字。 数字越小，需要考虑的令牌就越少。 此字段支持Int32类型输入。

输出

• “补全”- 优先生成的文本补全。 自动生成的输出变量。
• 文本补全响应对象- 文本补全的完整响应对象。 自动生成的输出变量。