生成文本补全

UiPath.OpenAI.IntegrationService.Activities.GenerateTextCompletion

描述

给定提示和其他输入（例如模型 ID 等），此活动会生成文本补全响应。 此功能利用旧版 GPT-3 文本生成模型，例如 Curie、Ada 和 Babage。 阅读有关模型和 文本完成 之间区别 的更多信息。

项目兼容性

Windows | 跨平台

配置

• 连接 ID - 在 Integration Service 中建立的连接。 访问下拉菜单以选择、添加或管理连接。

• “提示” - 要用于生成文本补全的提示。 您可以在此处阅读有关提示的更多信息。

管理属性

使用“管理属性”向导配置或使用对象的任何标准或自定义字段。 您可以选择字段以将其添加到活动画布中。 添加的标准或自定义字段可在“属性”面板（在 Studio Desktop 中）或“显示其他选项”下（在 Studio Web 中）下找到。

其他选项

• • 模型名称- 要用于文本补全的大型语言模型 (LLM)。 您可以在OpenAI 文档中详细了解这些模型之间的区别。
  • 最大令牌数 - 提示和生成的答案允许的令牌的最大数量。 令牌越少，成本就越低。 大多数模型最多支持 4096 个令牌，但有些型号仅支持 2048 个。 默认值为1920 。 阅读有关令牌的更多信息。
  • N - 您希望 AI 返回的完成选项数。 此字段的最小值为 1。 默认值为 1。
  • 温度 - 0 到 2 之间的数字。 0.8 等较高的值使输出更具随机性，而 0.2 等较低的值使输出更具针对性和确定性。 默认值为 1。
  • 前 P - 0 到 1 之间的数字。 数字越小，考虑的令牌就越少。 默认为 1。
  • “后缀 ”- 插入文本完成后添加的后缀。 默认为 null。
  • “流” - 指定是否返回部分进度。 如果设置，则令牌可用时将作为服务器发送的仅数据事件发送，并由 data:[DONE] 消息终止。 默认为 false。
  • “日志 概率” - 包括 logprob最可能的令牌以及所选令牌的日志概率。 例如，如果 logprobs 为 5，则 API 返回最有可能出现的 5 个令牌的列表。 API 始终返回样本令牌的 logprob ，因此响应中最多可能有 logprobs+1 元素。 logprobs 的最大值为 5。默认为 null。
  • 回 显 - 除了完成之外，如果将此字段设置为 true，则会回显提示。 默认值为 false。
  • “停止” - 最多 4 个序列，其中 API 将停止进一步生成令牌。 返回的文本不包含停止序列。 默认为 null。
  • 状态罚分 - -2.0 到 2.0 之间的数字。 正值根据新令牌到目前为止是否出现在文本中来惩罚新令牌，从而增加模型谈论新主题的可能性。 默认为 0。
  • “频率损失 ” - -2.0 到 2.0 之间的数字。 正值根据迄今为止在文本中的现有频率对新令牌进行处罚，从而减少模型逐字重复同一行的可能性。 默认为 0。
  • 最佳 - 在服务器端生成 best_of 完成并返回 best （每个令牌的对数概率最高的完成）。 无法流式传输结果。 与 N 一起使用时， best_of 控制候选完成的数量，N 指定要返回的数量 - best_of 必须大于 N。默认为 1。

    • 由于此参数会生成许多完成项，因此可以快速消耗您的令牌配额。 请谨慎使用，并确保对“最大令牌”和“停止”进行合理设置。

  • 用户 - 代表最终用户的唯一标识符，可帮助 OpenAI 监控和检测滥用情况。 默认为 null。

输出

• 排名前的生成文本- 排名前的文本补全字符串。 如果您只想返回单个响应（即 N=1，这是默认值），这将是您最有可能想要使用的输出。 它是Text数据类型，您可以很容易地为其分配变量，也可以直接在其他活动/文本输入中直接使用。
• 生成文本补全- 自动生成的输出变量。 完整的GenerateTextCompletion对象，包括：
  • 选项- 或模型的响应。 您可以使用活动其他选项中的“N”字段设置希望从模型返回的响应总数，默认为 1。 这将作为数组返回，第一个对象从 0 开始。 在“遍历循环”控件中引用数组中的单个对象： Response.Choices(0).Text 。 有关文本补全响应对象其他部分的更多信息，请参阅创建补全文档。