生成文本补全

UiPath.MicrosoftAzureOpenAI.IntegrationService.Activities.GenerateTextCompletion

描述

给定提示和其他输入（例如模型 ID 等），生成文本完成响应

项目兼容性

Windows | 跨平台

配置

• “连接 ID ” - 在集成服务中建立的连接。 访问下拉列表以选择、添加或管理连接。 此字段仅支持字符串或 String 变量。
• “提示 ”- 要用于生成文本完成的提示。

高级

选项

• 模型 - 用于生成文本完成的模型名称或 ID。
  注意：此活动使用户可以选择已部署到 Azure 实例中的任何 GPT-3 模型。如果在下拉列表中看不到模型，请联系 Azure 管理员，并确保他们已将模型部署到生产中。
• “最大令牌数量” - 要在完成中生成的最大令牌数量。 提示的令牌计数加上 max_tokens 不能超过模型的上下文长度。 大多数模型的上下文长度为 2048 个令牌（最新模型除外，它支持 4096 个令牌）。 您可以在此处阅读有关令牌的更多信息。
• N - 您希望 AI 返回的完成选项数。 此字段的最小值为 1。 默认值为 1。
• “温度 ”- 要使用的样本温度值。 值越高，意味着模型承担的风险越大。 请尝试 0.9 ，以获得更有创意的响应或完成，并尝试 0 （也称为 argmax 样本），以获得明确定义或更准确的答案。 一般建议是更改此值或“Nucleus 样本值”的默认值，但不要同时更改这两个值。 默认为 1。
• 前 P - 0 到 1 之间的数字。 数字越小，考虑的令牌就越少。 默认为 1。
• “流” - 指定是否返回部分进度。 如果设置，则令牌可用时将作为服务器发送的仅数据事件发送，并由 data:[DONE] 消息终止。 默认为 false。
• “日志 概率” - 包括 logprob最可能的令牌以及所选令牌的日志概率。 例如，如果 logprobs 为 5，则 API 返回最有可能出现的 5 个令牌的列表。 API 始终返回样本令牌的 logprob ，因此响应中最多可能有 logprobs+1 元素。 logprobs 的最大值为 5。默认为 null。
• 回 显 - 除了完成之外，如果将此字段设置为 true，则会回显提示。 默认值为 false。
• “停止” - 最多 4 个序列，其中 API 将停止进一步生成令牌。 返回的文本不包含停止序列。 默认为 null。
• 状态罚分 - -2.0 到 2.0 之间的数字。 正值根据新令牌到目前为止是否出现在文本中来惩罚新令牌，从而增加模型谈论新主题的可能性。 默认为 0。
• “频率损失 ” - -2.0 到 2.0 之间的数字。 正值根据迄今为止在文本中的现有频率对新令牌进行处罚，从而减少模型逐字重复同一行的可能性。 默认为 0。
• 最佳 - 在服务器端生成 best_of 完成并返回 best （每个令牌的对数概率最高的完成）。 无法流式传输结果。 与 N 一起使用时， best_of 控制候选完成的数量，N 指定要返回的数量 - best_of 必须大于 N。默认为 1。

输出

• 响应 - 完整的 GenerateTextCompletion 对象，其中包括：
  • 选项 - 或模型的响应。 您可以使用活动的其他选项中的“N”字段（默认为 1）设置希望从模型返回的响应总数。 这将作为数组返回，其中第一个对象从 0 开始。例如 在“遍历循环”控件内引用数组中的单个对象： Response.Choices(0).Text。

    有关“文本补全”响应对象其他部分的信息，请参阅此页面。

• 顶部生成的文本 - 顶部生成的文本完成字符串。 如果您只想返回一个响应（即 N = 1，这是默认值），这将是您很可能要使用的输出。 它是一种“文本”数据类型，可以轻松地将变量分配给其他活动/文本输入，并直接在其中使用。