Proteções

Os guardrails são verificações de segurança e qualidade integradas que ajudam a garantir que os agentes se comportem de forma confiável, segura e alinhada com as políticas organizacionais.Eles monitoram e controlam o que os agentes de dados processam e como eles respondem às entradas do usuário, reduzindo o risco de expor informações confidenciais ou executar ações não intencionais.

As proteções podem ser habilitadas em dois níveis, dependendo de quem as gerencia e quão amplamente elas devem ser aplicadas:

• Para toda a organização — Os administradores configuram proteções uma vez na política da AI Trust Layer no Automation Ops. Quando habilitada para um produto (por exemplo, agentes autônomos), a proteção aplica-se automaticamente a cada agente desse tipo no tenant. Para obter detalhes, consulte Proteções centralizadas.
• Por agente — Os desenvolvedores de agentes configuram proteções diretamente no Studio Web. A proteção aplica-se apenas a esse agente específico. Para obter detalhes, consulte Proteções prontas para uso.

Em Agents, as proteções podem ser aplicadas em diferentes níveis de execução:

• Nível de agente: avalia as solicitações do próprio agente ou instruções do sistema antes da execução.
• Nível LLM: monitora as solicitações e respostas trocadas entre o agente e o modelo de idioma grande.
• Nível de ferramenta: valida as entradas e saídas de ferramentas usadas pelo agente durante a execução da tarefa.

Ao combinar esses escopos, você pode projetar Agents mais seguros que detectam e bloqueiam automaticamente comportamentos problemáticos, mantêm a conformidade e melhoram a confiança geral na tomada de decisões automatizada.

Acesse Proteções personalizadas para saber como configurar proteções para as ferramentas do seu agente.

Acesse Monitoramento de proteções para saber como verificar detecções e revisar a atividade de proteções.

Melhores práticas para proteções

Siga estas recomendações para aproveitar ao máximo suas proteções:

• Use Bloquear ações na produção. Para agentes que lidam com dados confidenciais ou críticos para os negócios, configure o tipo de ação de proteção a bloquear para evitar a exposição não intencional de dados ou execução insegura.
• Teste os limites durante a avaliação. Execute sessões de avaliação para ajustar os limites de detecção e alcançar o equilíbrio certo entre Precisão e falsos positivos.
• Revise os logs regularmente. Monitore logs e traces de proteção periodicamente para confirmar se as detecções são disparadas conforme o esperado e ajuste as configurações, se necessário.