Proteções

Diretrizes são verificações integradas de segurança e qualidade que ajudam a garantir que os agentes se comportem de maneira confiável, segura e em alinhamento com as políticas organizacionais. Eles monitoram e controlam o que os agentes de dados processam e como respondem às entradas do usuário, reduzindo o risco de expor informações confidenciais ou executar ações não intencionais.

Em Agentes, as diretrizes podem ser aplicadas em diferentes níveis de execução:

• Nível do agente: avalia as próprias solicitações ou instruções do sistema do agente antes da execução.
• Nível do LLM: monitora as solicitações e respostas trocadas entre o agente e o grande modelo de linguagem.
• Nível da ferramenta: valida as entradas e saídas de ferramentas usadas pelo agente durante a execução de tarefas.

Ao combinar esses escopos, você pode projetar agentes mais seguros que detectam e bloqueiam automaticamente comportamentos problemáticos, mantêm a conformidade e melhoram a confiança geral na tomada de decisões automatizada.

Acesse Proteções prontas para uso para configurar rapidamente diretrizes no nível do agente ou LLM.

Acesse Diretrizes personalizadas para saber como configurar diretrizes para as ferramentas do seu agente.

Acesse Monitoramento de diretrizes para saber como verificar as detecções e revisar a atividade das diretrizes.

Melhores práticas para diretrizes

Siga estas recomendações para aproveitar ao máximo suas proteções:

• Use ações Bloquear na produção. Para agentes que lidam com dados confidenciais ou críticos para os negócios, configure o tipo de ação de proteção para bloquear para evitar a exposição não intencional de dados ou a execução sem segurança.
• Limites de teste durante a avaliação. Execute sessões de avaliação para ajustar os limites de detecção e alcançar o equilíbrio certo entre precisão e falsos positivos.
• Revise os logs regularmente. Monitore logs e traces de diretriz periodicamente para confirmar que as deteções são acionadas conforme o esperado e ajustar configurações, se necessário.