Garde-fous

Les garde-fous sont des contrôles de sécurité et de qualité intégrés qui aident à garantir que les Agents se comportent de manière fiable, sécurisée et conformément aux politiques organisationnelles.Ils surveillent et contrôle les données que les Agents processus et la façon dont ils répondent aux entrées de l'utilisateur, réduisant le risque d'exposition d'informations sensibles ou d'exécution d'Actions non prévues.

Dans Agents, les garde-fous peuvent être appliqués à différents niveaux d'exécution :

• Niveau de l'agent : évalue les propres invites ou instructions système de l'agent avant l'exécution.
• Niveau LLM : surveille les demandes et les réponses échangées entre l'agent et le modèle de langage de grande taille.
• Niveau de l'outil : valide les entrées et les sorties des outils utilisés par l'agent pendant l'exécution de la tâche.

En combinant ces étendues, vous pouvez concevoir des agents plus sûrs qui détectent et bloquent automatiquement les comportements problématiques, maintiennent la conformité et améliorent la confiance globale dans la prise de décision automatisée.

Accédez à Garde-fous prêts à l'emploi pour configurer rapidement des garde-fous au niveau de l'agent ou du LLM.

Accédez à Garde-fous personnalisés pour apprendre à configurer les garde-fous des outils de votre agent.

Accédez à Surveillance des garde-fous pour apprendre à vérifier les détections et à passer en revue l'activité des garde-fous.

Meilleures pratiques pour les garde-fous

Suivez ces recommandations pour tirer le meilleur parti de vos garde-fous :

• Utilisez les Actions dans la production.Pour les Agents qui gèrent les données sensibles ou critiques pour l'entreprise, configurez le type d'action de garde-fou à bloquer pour empêcher l'exposition involontaire des données ou une exécution non sécurisée.
• Testez les seuils pendant l'évaluation. Exécutez des sessions d'évaluation pour affiner les seuils de détection et atteindre le bon équilibre entre précision et faux positifs.
• Passez en revue les journaux régulièrement. Surveillez périodiquement les journaux et les traces de garde-fous pour confirmer que les détections sont déclenchées comme prévu et ajustez les configurations si nécessaire.