生成会话补全

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

描述

在给定用户提示和其他选项 (如说明) (可能包括对话历史记录) 的情况下，此活动会生成文本补全响应。 此活动默认使用 GPT-3.5-Turbo 模式，但也允许访问 GPT-4。 这两个模型都针对聊天进行了优化，活动也因此而得名。 阅读有关会话补全 API的更多信息。

请注意，此活动虽然使用户能够添加对话历史记录，但实际上不会将模型以前的请求和响应保留在内存中。 它是无状态的。 每个 OpenAI 聊天活动都要求用户在提示中提供完整的对话历史记录作为上下文。

项目兼容性

Windows | 跨平台

配置

• 连接 ID - 在 Integration Service 中建立的连接。 访问下拉菜单以选择、添加或管理连接。

• 模型名称- 用于会话补全的大型语言模型 (LLM)。 从下拉列表中选择一个可用选项：GPT-4、GPT-3.5、GPT-4V。 默认值为 GPT-4。 您可以在OpenAI 文档中详细了解这些模型之间的区别。
• “提示”- 要用于生成会话补全的提示。 阅读有关提示工程的更多信息。
• 图像类型- 需要图像分析时与消息一起发送的图像类型。 如果选择 GPT-4V 模式，则会显示此字段。 选择可用选项之一：“图像文件”、“图像 URL”。
  • “图像文件” - 使用变量选择图像文件。 此字段支持IResource类型输入。
  • 图像 URL - 需要进行图像分析时与消息一起发送的图像 URL。 此字段支持String类型输入。

管理属性

使用“管理属性”向导配置或使用对象的任何标准或自定义字段。 您可以选择字段以将其添加到活动画布中。 添加的标准或自定义字段可在“属性”面板（在 Studio Desktop 中）或“显示其他选项”下（在 Studio Web 中）下找到。

其他选项

• 说明- 有关希望 AI 如何生成会话补全响应的说明。 这等效于 OpenAI 文档中讨论的系统角色。 此活动中的Assistant角色当前不可用。
• 模型名称- 用于会话补全的大型语言模型 (LLM)。 您可以在gpt-3.5-turbo和gpt-4之间进行选择。默认情况下，选择gpt-4 。
• 最大令牌数 - 提示和生成的答案允许的令牌的最大数量。 令牌越少，成本就越低。 大多数模型最多支持 4096 个令牌，但有些型号仅支持 2048 个。 默认值为 1920。 阅读有关令牌的更多信息。
• N - 您希望 AI 返回的完成选项数。 此字段的最小值为 1。 默认值为 1。
• 温度 - 0 到 2 之间的数字。 0.8 等较高的值使输出更具随机性，而 0.2 等较低的值使输出更具针对性和确定性。 默认值为 1。
• 前 P - 0 到 1 之间的数字。 数字越小，考虑的令牌就越少。 默认为 1。
• “流” - 指定是否返回部分进度。 如果设置，则令牌可用时将作为服务器发送的仅数据事件发送，并由 data:[DONE] 消息终止。 默认为 false。
• “停止” - 最多 4 个序列，其中 API 将停止进一步生成令牌。 返回的文本不包含停止序列。 默认为 null。
• 状态罚分 - -2.0 到 2.0 之间的数字。 正值根据新令牌到目前为止是否出现在文本中来惩罚新令牌，从而增加模型谈论新主题的可能性。 默认为 0。
• “频率损失 ” - -2.0 到 2.0 之间的数字。 正值根据迄今为止在文本中的现有频率对新令牌进行处罚，从而减少模型逐字重复同一行的可能性。 默认为 0。
• 用户 - 代表最终用户的唯一标识符，可帮助 OpenAI 监控和检测滥用情况。 默认为 null。

输出

• “排名前的生成的文本”- 排名前的聊天补全字符串。 如果您只想返回单个响应（即 N=1，这是默认值），则您很可能会使用此输出。 它是Text数据类型，您可以很容易地为其分配变量，也可以直接在其他活动/文本输入中直接使用。
• 生成会话补全- 自动生成的输出变量。 优先生成的会话补全字符串。 如果您只想返回单个响应（即 N=1，这是默认值），则您很可能会使用此输出。 它是一种“文本”数据类型，很容易向其分配变量，也可以在其他活动/文本输入中直接使用。
  • 选项- 或模型的响应。 您可以使用活动其他选项中的“N”字段设置希望从模型返回的响应总数，默认为 1。 这将作为数组返回，第一个对象从 0 开始。 在“遍历循环”控件的数组中引用单个对象： Response.Choices(0).Text 。 有关详细信息，请参阅会话补全对象文档。