生成会话补全

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

描述

在给定用户提示和其他选项 (如说明) (可能包括对话历史记录) 的情况下，此活动会生成文本补全响应。此活动默认使用 GPT-3.5-Turbo 模式，但也允许访问 GPT-4。这两个模型都针对聊天进行了优化，活动也因此而得名。阅读有关会话补全 API的更多信息。

请注意，此活动虽然使用户能够添加对话历史记录，但实际上不会将模型以前的请求和响应保留在内存中。它是无状态的。每个 OpenAI 聊天活动都要求用户在提示中提供完整的对话历史记录作为上下文。

项目兼容性

Windows | 跨平台

配置

连接 ID - 在 Integration Service 中建立的连接。访问下拉菜单以选择、添加或管理连接。
模型名称- 用于会话补全的大型语言模型 (LLM)。从下拉列表中选择一个可用选项：GPT-4、GPT-3.5、GPT-4V。默认值为 GPT-4。您可以在OpenAI 文档中详细了解这些模型之间的区别。
“提示”- 要用于生成会话补全的提示。阅读有关提示工程的更多信息。
图像类型- 需要图像分析时与消息一起发送的图像类型。如果选择 GPT-4V 模式，则会显示此字段。选择可用选项之一：“图像文件”、“图像 URL”。支持的文件格式：PNG (.png)、JPEG（.jpeg 和 .jpg）、 WEBP (.webp) 和非动画 GIF (.gif)
- “图像文件” - 使用变量选择图像文件。此字段支持IResource类型输入。
- 图像 URL - 需要进行图像分析时与消息一起发送的图像 URL。此字段支持String类型输入。

管理属性

使用“管理属性”向导配置或使用对象的任何标准或自定义字段。您可以选择字段以将其添加到活动画布中。添加的标准或自定义字段可在“属性”面板（在 Studio Desktop 中）或在“显示其他属性”下（在 Studio Web 中）下找到。

其他属性

说明- 有关希望 AI 如何生成会话补全响应的说明。这等效于 OpenAI 文档中讨论的系统角色。此活动中的Assistant角色当前不可用。
模型名称- 用于会话补全的大型语言模型 (LLM)。您可以在gpt-3.5-turbo和gpt-4之间进行选择。默认情况下，选择gpt-4 。
最大令牌数 - 提示和生成的答案允许的令牌的最大数量。令牌越少，成本就越低。大多数模型最多支持 4096 个令牌，但有些型号仅支持 2048 个。默认值为 1920。阅读有关令牌的更多信息。
N - 您希望 AI 返回的完成选项数。此字段的最小值为 1。默认值为 1。
温度 - 0 到 2 之间的数字。 0.8 等较高的值使输出更具随机性，而 0.2 等较低的值使输出更具针对性和确定性。默认值为 1。
前 P - 0 到 1 之间的数字。数字越小，考虑的令牌就越少。默认为 1。
“流” - 指定是否返回部分进度。如果设置，则令牌可用时将作为服务器发送的仅数据事件发送，并由 data:[DONE] 消息终止。默认为 false。
“停止” - 最多 4 个序列，其中 API 将停止进一步生成令牌。返回的文本不包含停止序列。默认为 null。
状态罚分 - -2.0 到 2.0 之间的数字。正值根据新令牌到目前为止是否出现在文本中来惩罚新令牌，从而增加模型谈论新主题的可能性。默认为 0。
“频率损失 ” - -2.0 到 2.0 之间的数字。正值根据迄今为止在文本中的现有频率对新令牌进行处罚，从而减少模型逐字重复同一行的可能性。默认为 0。
用户 - 代表最终用户的唯一标识符，可帮助 OpenAI 监控和检测滥用情况。默认为 null。

输出

“排名前的生成的文本”- 排名前的聊天补全字符串。如果您只想返回单个响应（即 N=1，这是默认值），则您很可能会使用此输出。它是Text数据类型，您可以很容易地为其分配变量，也可以直接在其他活动/文本输入中直接使用。
生成会话补全- 自动生成的输出变量。优先生成的会话补全字符串。如果您只想返回单个响应（即 N=1，这是默认值），则您很可能会使用此输出。它是一种“文本”数据类型，很容易向其分配变量，也可以在其他活动/文本输入中直接使用。
- 选项- 或模型的响应。您可以使用活动其他选项中的“N”字段设置希望从模型返回的响应总数，默认为 1。这将作为数组返回，第一个对象从 0 开始。在“遍历循环”控件的数组中引用单个对象： Response.Choices(0).Text 。有关详细信息，请参阅会话补全对象文档。