Proteções

Os guardrails são verificações de segurança e qualidade integradas que ajudam a garantir que os agentes se comportem de forma confiável, segura e alinhada com as políticas organizacionais.Eles monitoram e controlam o que os agentes de dados processam e como eles respondem às entradas do usuário, reduzindo o risco de expor informações confidenciais ou executar ações não intencionais.

Em Agents, as proteções são aplicadas no nível da ferramenta, validando as entradas e saídas das ferramentas usadas pelo agente durante a execução da tarefa.

Usando proteções, você pode projetar agentes mais seguros que detectam e bloqueiam automaticamente comportamentos problemáticos, mantêm a conformidade e melhoram a confiança geral na tomada de decisões automatizada.

Acesse Proteções personalizadas para saber como configurar proteções para as ferramentas do seu agente.

Acesse Monitoramento de proteções para saber como verificar detecções e revisar a atividade de proteções.

Melhores práticas para proteções

Siga estas recomendações para aproveitar ao máximo suas proteções:

• Use Bloquear ações na produção. Para agentes que lidam com dados confidenciais ou críticos para os negócios, configure o tipo de ação de proteção a bloquear para evitar a exposição não intencional de dados ou execução insegura.
• Teste os limites durante a avaliação. Execute sessões de avaliação para ajustar os limites de detecção e alcançar o equilíbrio certo entre Precisão e falsos positivos.
• Revise os logs regularmente. Monitore logs e traces de proteção periodicamente para confirmar se as detecções são disparadas conforme o esperado e ajuste as configurações, se necessário.