Leitlinien

Leitplanken sind integrierte Sicherheits- und Qualitätsprüfungen, die sicherstellen, dass sich Agents zuverlässig und sicher sowie mit den Organisationsrichtlinien übereinstimmen.Sie überwachen und steuern, was Agents verarbeiten und wie sie auf Benutzereingaben reagieren, wodurch das Risiko verringert wird, dass vertrauliche Informationen offengelegt werden oder unbeabsichtigte Aktionen ausgeführt werden.

In Agents werden Leitplanken auf Toolebene angewendet und validieren die Eingaben und Ausgaben der Tools, die der Agent während der Aufgabenausführung verwendet.

Mithilfe von Leitplanken können Sie sicherere Agents entwerfen, die automatisch problematisches Verhalten erkennen und blockieren, die Compliance aufrechterhalten und das allgemeine Vertrauen in die automatisierte Entscheidungsfindung verbessern.

Unter Benutzerdefinierte Leitplanken erfahren Sie, wie Sie Leitplanken für die Tools Ihres Agents konfigurieren.

Gehen Sie zu Überwachung von Leitplanken, um zu erfahren, wie Sie Erkennungen überprüfen und Leitplankenaktivitäten überprüfen können.

Bewährte Methoden für Leitplanken

Folgen Sie diesen Empfehlungen, um Ihre Leitplanken optimal zu nutzen:

• Verwenden Sie Block-Actions in der Produktion. Konfigurieren Sie für Agents, die vertrauliche oder geschäftskritische Daten verarbeiten, den Aktionstyp für die Blockierung, um eine unbeabsichtigte Datenexposition oder eine unsichere Ausführung zu verhindern.
• Testen Sie Schwellenwerte während der Auswertung. Führen Sie Evaluierungssitzungen durch, um die Erkennungsschwellen zu optimieren und das richtige Gleichgewicht zwischen Genauigkeit und falsch positiven Ergebnissen zu erreichen.
• Überprüfen Sie Protokolle regelmäßig. Überwachen Sie Leitplankenprotokolle und Ablaufverfolgungen regelmäßig, um zu bestätigen, dass die Erkennungen wie erwartet ausgelöst werden, und passen Sie die Konfigurationen gegebenenfalls an.