Usando modelos de conector

Crie conectores personalizados do Integration Service para configurações de LLM da AI Trust Layer no Automation Suite usando modelos predefinidos para AWS Bedrock, Azure OpenAI e outros provedores.

Modelos de conector são configurações de conector predefinidas do Integration Service para provedores de LLM comuns. Quando você cria um conector personalizado por meio da AI Trust Layer, a seleção de um modelo preenche previamente o conector com os recursos de API necessários, configuração de autenticação e ganchos de JavaScript para esse provedor, reduzindo a configuração manual.

Crie um conector personalizado a partir de um modelo

1. No Automation Suite, navegue até AI Trust Layer > Configurações do LLM.
2. Selecione Adicionar configuração.
3. Selecione os valores de Tenant, Produto e Recurso para a configuração.
4. Em Configuração do modelo, configure os campos Nome do LLM e Tipo de API .
5. No campo Conector , selecione Criar conector personalizado.
6. Na caixa de diálogo Criar conector personalizado , selecione um dos modelos disponíveis.
7. Selecione Criar conector. Você é redirecionado para o Construtor de Conector, onde pode editar a configuração, salvá-la e publicar o conector.

Resultado

O conector personalizado é criado e pré-configurado com base no modelo selecionado. Você pode editar os hooks JavaScript do conector para personalizar ainda mais a solicitação de LLM e o comportamento de resposta.

Modelos disponíveis

Os modelos disponíveis na caixa de diálogo Criar conector personalizado dependem do tipo de API selecionado na configuração do modelo.

AWS Bedrock

Disponível para o tipo de API: AWS Bedrock

Quando usar: use esse modelo ao se conectar à sua própria instância de LLM do Amazon Bedrock e você precisar controlar ou modificar atributos de solicitação e resposta de LLM.

Autenticação: esse modelo segue a autenticação padrão do AWS Bedrock, com base na chave de API.

Azure OpenAI

Disponível para tipo de API: OpenAI

Quando usar: use esse modelo ao se conectar à sua própria instância do Azure OpenAI LLM e você precisar controlar ou modificar atributos de solicitação e resposta de LLM.

Autenticação: esse modelo segue a autenticação padrão do Azure OpenAI.

Google Vertex AI

Quando usar: use esse modelo ao se conectar à sua própria instância de LLM do Google Vertex AI e você precisa controlar ou modificar atributos de solicitação e resposta de LLM.

Autenticação: este modelo segue a autenticação de IA padrão do Google Vertex, com base na chave de API.

Compatível com OpenAI V1

Disponível para tipo de API: OpenAI

Quando usar: use esse modelo ao se conectar à sua própria instância OpenAI ou compatível com OpenAI V1 — por exemplo, Fireworks — e você precisa controlar ou modificar atributos de solicitação e resposta de LLM.

Autenticação: esse modelo segue a autenticação padrão compatível com OpenAI V1, com base na chave de API.

Gateway de IA personalizado

Disponível para o tipo de API: Todos

Quando usar: use esse modelo quando seus LLMs estiverem atrás de um gateway de IA.

Autenticação: para obter detalhes de configuração, consulte a documentação de autenticação do Connector Builder.

O modelo inclui dois recursos de API necessários para o tipo de autenticação Personalizada :

• /onProvision — Chamado quando a conexão do Integration Service é criada. Busca um token temporário do seu Provedor de Identidade e o salva na conexão com uma hora de expiração.
• /onRefresh — Usado para atualizar o token. O URL de destino, hook pré-solicitação e hook pós-solicitação devem corresponder àqueles configurados para /onProvision.

Se você escolher um tipo de autenticação diferente de Personalizado, remova os recursos de API /onRefresh e /onProvision do conector.

Editar os ganchos JavaScript

Depois de criar um conector a partir de um modelo, você pode personalizar seu comportamento editando os scripts JavaScript pré-solicitação e pós-solicitação. Para obter detalhes, consulte a documentação do Connector Builder.

Antes de editar os scripts, revise os fragmentos de código disponíveis e a documentação para cada palavra-chave reservada.