生成会话补全

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

描述

在给定用户提示和说明等其他选项（可能包括对话历史记录）的情况下，此活动会生成文本补全响应。阅读有关“聊天补全”API 的更多信息。

请注意，此活动虽然使用户能够添加对话历史记录，但实际上不会将模型以前的请求和响应保留在内存中。它是无状态的。每个 OpenAI Chat 活动都要求用户在提示词中提供完整的对话历史记录作为上下文。

项目兼容性

Windows | 跨平台

配置

• 连接- 在 Integration Service 中建立的连接。访问下拉菜单以选择、添加或管理连接。
• 模型名称- 用于聊天补全的大型语言模型 (LLM)。从下拉列表中选择一个可用选项。并非所有模型都支持会话补全。请确保所选模型与此操作兼容。您可以在OpenAI 文档中阅读有关这些模型之间差异的更多信息。
• 提示- 要用于生成聊天补全的提示。阅读有关提示工程的更多信息。
• 图像类型- 需要进行图像分析时，要随消息一起发送的图像类型。如果选择 GPT-4V 模型，则会显示此字段。选择以下可用选项之一：“图像文件”、“图像 URL”。支持的文件格式：PNG (.png)、JPEG（.jpeg 和 .jpg）、WEBP (.webp) 和非动画 GIF (.gif)
  • “图像文件” - 使用变量选择图像文件。此字段支持IResource类型的输入。
  • 图像 URL - 需要进行图像分析时，要随消息发送的图像 URL。此字段支持String类型的输入。

管理属性

使用“管理属性”向导配置或使用对象的任何标准或自定义字段。您可以选择字段以将其添加到活动画布中。添加的标准或自定义字段可在“属性”面板（在 Studio 桌面版中）或“显示其他属性”下（在 Studio Web 中）中找到。

其他属性

• 说明- 有关希望 AI 如何生成聊天补全响应的说明。该角色相当于 OpenAI 文档中讨论的系统角色。Assistant角色当前在此活动中不可用。
• 最大令牌数- 提示和生成的答案允许的最大令牌数。令牌越少，成本就越低。大多数模型最多支持 4096 个令牌，但有些型号仅支持 2048 个。默认值为 1920。阅读有关令牌的更多信息。
• N - 您希望 AI 返回的补全选项数量。此字段的最小值为1 。默认值为1 。
• 温度- 0 到 2 之间的数字。 0.8的值使输出更具随机性，而0.2的值使输出更具针对性和确定性。默认值为1 。
• Top P - 0 到 1 之间的数字。数字越小，需要考虑的令牌就越少。默认为1 。
• 指定是否以流式传输的形式返回部分进度。如果设置，令牌将在可用时作为仅数据服务器发送事件发送，并由data:[DONE]消息终止。默认为false 。
• 停止- 最多 4 个 API 停止生成更多令牌的序列。返回的文本不包含停止序列。默认为null 。
• 存在惩罚- 介于 -2.0 和 2.0 之间的数字。正值根据新令牌到目前为止是否出现在文本中来对新令牌给出罚分，从而增加模型谈论新主题的可能性。默认为0 。
• 频率惩罚- 介于 -2.0 和 2.0 之间的数字。正值根据迄今为止文本中的现有频率对新标记进行惩罚，从而降低模型逐字重复同一行的可能性。默认为0 。
• “用户” - 代表最终用户的唯一标识符，可帮助 OpenAI 监控和检测滥用情况。默认为null 。

输出

• 优先生成的文本- 优先生成的会话补全字符串。如果您只想返回一个响应（即 N=1，这是默认值），那么您很可能会使用此输出。它是一种Text数据类型，可以轻松向其分配变量并在其他活动/文本输入中直接使用。
• 生成会话补全- 自动生成的输出变量。优先生成的会话补全字符串。如果您只想返回一个响应（即 N=1，这是默认值），那么您很可能会使用此输出。它是一种“文本”数据类型，可以轻松地为其分配变量并在其他活动/文本输入中直接使用。
  • 选项- 或模型的响应。您可以使用活动“其他选项”中的“N”字段设置希望从模型中返回的响应总数，默认为 1。该方法将作为数组返回，其中第一个对象从 0 开始。在“遍历循环”控件中引用数组中的单个对象： Response.Choices(0).Text 。如需了解详情，请参阅会话补全对象文档。