生成会话补全

UiPath.MicrosoftAzureOpenAI.IntegrationService.Activities.GenerateChatCompletion

描述

在给定用户提示、可选指令和其他可选输入（例如模型 ID 等）的情况下，系统会生成聊天完成响应。此功能模仿流行的 ChatGPT 功能。此活动使用户能够与 GPT-3.5 和 GPT-4 模型交互，并通过上下文和用户角色模拟与模型的对话体验。

项目兼容性

Windows | 跨平台

配置

• “连接 ” - 在 Integration Service 中建立的连接。 访问下拉列表以选择、添加或管理连接。 此字段仅支持字符串或 String 变量。
• “提示”- 要用于生成会话补全的提示。 您可以在此处阅读有关提示的更多信息。

高级

选项

• 说明- 有关希望 AI 如何生成会话补全响应的说明。 这等效于 OpenAI 文档中讨论的“系统角色”。 此活动当前无法使用“Assistant”角色。 有关详细信息，请参阅此页面。
• 模型名称- 用于会话补全的大型语言模型 (LLM)。 您可以在gpt-35-turbo和gpt-4之间进行选择。 您可以在此处详细了解这些模型之间的区别。 默认情况下，选择gpt-4 。
  注意：此活动使用户可以选择已部署到 Azure 实例中的任何 GPT-3.5 或 GPT-4 模型。如果在下拉列表中看不到模型，请联系 Azure 管理员，并确保他们已将模型部署到生产中。
• 最大令牌数 - 提示和生成的答案允许的令牌的最大数量。 令牌越少，成本就越低。 大多数模型最多支持 4096 个令牌，但有些型号仅支持 2048 个。 默认值为1920 。 您可以在此处阅读有关令牌的更多信息。
• N - 您希望 AI 返回的完成选项数。 此字段的最小值为 1。 默认值为 1。
• 温度 - 0 到 2 之间的数字。 0.8 等较高的值使输出更具随机性，而 0.2 等较低的值使输出更具针对性和确定性。 默认值为 1。
• 前 P - 0 到 1 之间的数字。 数字越小，考虑的令牌就越少。 默认为 1。
• “流” - 指定是否返回部分进度。 如果设置，则令牌可用时将作为服务器发送的仅数据事件发送，并由 data:[DONE] 消息终止。 默认为 false。
• 状态罚分 - -2.0 到 2.0 之间的数字。 正值根据新令牌到目前为止是否出现在文本中来惩罚新令牌，从而增加模型谈论新主题的可能性。 默认为 0。
• “频率损失 ” - -2.0 到 2.0 之间的数字。 正值根据迄今为止在文本中的现有频率对新令牌进行处罚，从而减少模型逐字重复同一行的可能性。 默认为 0。

输出

• 响应 - 完整的 GenerateChatCompletion 对象，其中包括：
  • 选项 - 或模型的响应。 您可以使用活动的其他选项中的“N”字段（默认为 1）设置希望从模型返回的响应总数。 这将作为数组返回，其中第一个对象从 0 开始。例如 在“遍历循环”控件内引用数组中的单个对象: Response.Choices(0).Text

    有关“会话补全”响应对象其他部分的信息，请参阅此页。

• 生成次数最多的文本 - 生成次数最多的聊天完成字符串。 如果您只想返回一个响应（即 N = 1，这是默认值），这将是您很可能要使用的输出。 它是一种“文本”数据类型，可以轻松地将变量分配给其他活动/文本输入，并直接在其中使用。