- 入门指南
- 主机管理
- 组织
- 租户和服务
- 身份验证和安全性
- 许可
- 帐户和角色
- 外部应用程序
- 在您的组织中进行测试
- Ai Trust Layer
- 通知
- 日志记录
- 故障排除
使用适用于 AWS Bedrock、Azure OpenAI 和其他提供程序的预定义模板,在 Automation Suite 中为 AI Trust Layer LLM 配置创建自定义 Integration Service 连接器。
连接器模板是适用于常见 LLM 提供程序的预定义 Integration Service 连接器配置。通过 AI Trust Layer 创建自定义连接器时,选择一个模板即可为连接器预填充该提供程序所需的 API 资源、身份验证设置和 JavaScript 挂钩,从而减少手动配置。
根据模板创建自定义连接器
- 在 Automation Suite 中,导航到“AI Trust Layer” > “LLM 配置”(LLM 配置) 。
- 选择“添加配置” 。
- 选择配置的“租户” 、 “产品”和“功能”值。
- 在模型配置下,配置LLM 名称和API 类型字段。
- 在“连接器”字段中,选择“创建自定义连接器” 。
- 在“创建自定义连接器”对话框中,选择一个可用模板。
- 选择“创建连接器” 。您将被重定向到“连接器生成器”,可以在其中编辑配置、保存并发布连接器。
结果
系统将根据所选模板创建并预配置自定义连接器。您可以编辑连接器的 JavaScript 挂钩,以进一步自定义 LLM 请求和响应行为。
可用模板
“创建自定义连接器”对话框中可用的模板取决于您在模型配置中选择的API 类型。
AWS Bedrock
可用于 API 类型: AWS Bedrock
何时使用:连接到您自己的 Amazon Bedrock LLM 实例并且您需要控制或修改 LLM 请求和响应属性时,请使用此模板。
身份验证:此模板遵循基于 API 密钥的标准AWS Bedrock 身份验证。
Azure OpenAI
适用于 API 类型: OpenAI
何时使用:连接到自己的 Azure OpenAI LLM 实例并且需要控制或修改 LLM 请求和响应属性时,请使用此模板。
身份验证:此模板遵循标准Azure OpenAI 身份验证。
Google Vertex AI
何时使用:连接到您自己的 Google Vertex AI LLM 实例并且需要控制或修改 LLM 请求和响应属性时,请使用此模板。
身份验证:此模板遵循基于 API 密钥的标准Google Vertex AI 身份验证。
兼容 OpenAI V1
适用于 API 类型: OpenAI
何时使用:连接到自己的 OpenAI 或 OpenAI V1 兼容实例(例如 Fireworks),并且您需要控制或修改 LLM 请求和响应属性时,请使用此模板。
身份验证:此模板遵循基于 API 密钥的标准OpenAI V1 兼容身份验证。
自定义 AI 网关
可用于 API 类型:全部
何时使用:您的 LLM 位于 AI 网关后面时,请使用此模板。
身份验证:有关配置详细信息,请参阅连接器生成器身份验证文档。
该模板包含自定义身份验证类型所需的两个 API 资源:
/onProvision— 创建 Integration Service 连接时调用。从身份提供程序获取临时令牌,并将其与过期时间一起保存在连接上。/onRefresh— 用于刷新令牌。目标 URL、前请求挂钩和后请求挂钩必须与为/onProvision配置的内容匹配。
如果选择“自定义”以外的身份验证类型,请从连接器中删除/onRefresh和/onProvision API 资源。
编辑 JavaScript 挂钩
使用模板创建连接器后,您可以通过编辑预请求和请求后 JavaScript 脚本来自定义其行为。有关详细信息,请参阅 《连接器生成器文档》 。
在编辑脚本之前,请查看每个保留关键字的可用代码片段和文档。