Proteções

Os guardrails são verificações de segurança e qualidade integradas que ajudam a garantir que os agentes se comportem de forma confiável, segura e alinhada com as políticas organizacionais.Eles monitoram e controlam o que os agentes de dados processam e como eles respondem às entradas do usuário, reduzindo o risco de expor informações confidenciais ou executar ações não intencionais.

Em Agents, as proteções podem ser aplicadas em diferentes níveis de execução:

• Nível de agente: avalia as solicitações do próprio agente ou instruções do sistema antes da execução.
• Nível LLM: monitora as solicitações e respostas trocadas entre o agente e o modelo de idioma grande.
• Nível de ferramenta: valida as entradas e saídas de ferramentas usadas pelo agente durante a execução da tarefa.

Ao combinar esses escopos, você pode projetar Agents mais seguros que detectam e bloqueiam automaticamente comportamentos problemáticos, mantêm a conformidade e melhoram a confiança geral na tomada de decisões automatizada.

Acesse Proteções prontas para uso para configurar rapidamente proteções no nível do agente ou LLM.

Acesse Proteções personalizadas para saber como configurar proteções para as ferramentas do seu agente.

Acesse Monitoramento de proteções para saber como verificar detecções e revisar a atividade de proteções.

Melhores práticas para proteções

Siga estas recomendações para aproveitar ao máximo suas proteções:

• Use Bloquear ações na produção. Para agentes que lidam com dados confidenciais ou críticos para os negócios, configure o tipo de ação de proteção a bloquear para evitar a exposição não intencional de dados ou execução insegura.
• Teste os limites durante a avaliação. Execute sessões de avaliação para ajustar os limites de detecção e alcançar o equilíbrio certo entre Precisão e falsos positivos.
• Revise os logs regularmente. Monitore logs e traces de proteção periodicamente para confirmar se as detecções são disparadas conforme o esperado e ajuste as configurações, se necessário.