- 入门指南
- 主机管理
- 组织
- 租户和服务
- 身份验证和安全性
- 许可
- 帐户和角色
- 在您的组织中进行测试
- Ai Trust Layer
- 外部应用程序
- 通知
- 日志记录
- 故障排除
私有 Test Cloud 管理员指南
连接器模板是适用于常见 LLM 提供程序的预定义 Integration Service 连接器配置。通过 AI Trust Layer 创建自定义连接器时,选择一个模板即可为连接器预填充该提供程序所需的 API 资源、身份验证设置和 JavaScript 挂钩,从而减少手动配置。
根据模板创建自定义连接器
- 在 Automation Suite 中,导航到“AI Trust Layer” > “LLM 配置”(LLM 配置) 。
- 选择“添加配置” 。
- 选择配置的“租户” 、 “产品”和“功能”值。
- 在模型配置下,配置LLM 名称和API 类型字段。
- 在“连接器”字段中,选择“创建自定义连接器” 。
- 在“创建自定义连接器”对话框中,选择一个可用模板。
- 选择“创建连接器” 。您将被重定向到“连接器生成器”,可以在其中编辑配置、保存并发布连接器。
结果
系统将根据所选模板创建并预配置自定义连接器。您可以编辑连接器的 JavaScript 挂钩,以进一步自定义 LLM 请求和响应行为。
可用模板
“创建自定义连接器”对话框中可用的模板取决于您在模型配置中选择的API 类型。
AWS Bedrock
可用于 API 类型: AWS Bedrock
何时使用:连接到您自己的 Amazon Bedrock LLM 实例并且您需要控制或修改 LLM 请求和响应属性时,请使用此模板。
身份验证:此模板遵循基于 API 密钥的标准AWS Bedrock 身份验证。
Azure OpenAI
适用于 API 类型: OpenAI
何时使用:连接到自己的 Azure OpenAI LLM 实例并且需要控制或修改 LLM 请求和响应属性时,请使用此模板。
身份验证:此模板遵循标准Azure OpenAI 身份验证。
Google Vertex AI
何时使用:连接到您自己的 Google Vertex AI LLM 实例并且需要控制或修改 LLM 请求和响应属性时,请使用此模板。
身份验证:此模板遵循基于 API 密钥的标准Google Vertex AI 身份验证。
兼容 OpenAI V1
适用于 API 类型: OpenAI
何时使用:连接到自己的 OpenAI 或 OpenAI V1 兼容实例(例如 Fireworks),并且您需要控制或修改 LLM 请求和响应属性时,请使用此模板。
身份验证:此模板遵循基于 API 密钥的标准OpenAI V1 兼容身份验证。
自定义 AI 网关
可用于 API 类型:全部
何时使用:您的 LLM 位于 AI 网关后面时,请使用此模板。
身份验证:有关配置详细信息,请参阅连接器生成器身份验证文档。
该模板包含自定义身份验证类型所需的两个 API 资源:
/onProvision— 创建 Integration Service 连接时调用。从身份提供程序获取临时令牌,并将其与过期时间一起保存在连接上。/onRefresh— 用于刷新令牌。目标 URL、前请求挂钩和后请求挂钩必须与为/onProvision配置的内容匹配。
如果选择“自定义”以外的身份验证类型,请从连接器中删除/onRefresh和/onProvision API 资源。
编辑 JavaScript 挂钩
使用模板创建连接器后,您可以通过编辑预请求和请求后 JavaScript 脚本来自定义其行为。有关详细信息,请参阅 《连接器生成器文档》 。
在编辑脚本之前,请查看每个保留关键字的可用代码片段和文档。