Leitlinien

Leitplanken sind integrierte Sicherheits- und Qualitätsprüfungen, die sicherstellen, dass sich Agents zuverlässig und sicher sowie mit den Organisationsrichtlinien übereinstimmen.Sie überwachen und steuern, was Agents verarbeiten und wie sie auf Benutzereingaben reagieren, wodurch das Risiko verringert wird, dass vertrauliche Informationen offengelegt werden oder unbeabsichtigte Aktionen ausgeführt werden.

Leitplanken können auf zwei Ebenen aktiviert werden, je nachdem, wer sie verwaltet und wie umfassend sie gelten sollen:

• Organisationsweit – Administratoren konfigurieren Leitplanken einmal in der AI Trust Layer-Richtlinie in Automation Ops.Wenn die Leitplanke für ein Produkt aktiviert ist (z. B. autonome Agents), gilt die Leitplanke automatisch für jeden Agent dieses Typs im Mandanten. Weitere Informationen finden Sie unter Zentralisierte Leitplanken.
• Pro Agent – Agent-Entwickler konfigurieren Leitplanken direkt in Studio Web. Die Leitplanke gilt nur für diesen spezifischen Agent. Weitere Informationen finden Sie unter Sofort einsetzbare Leitplanken.

In Agents können Leitplanken auf verschiedenen Ausführungsebenen angewendet werden:

• Agent: Bewertet die eigenen Prompts oder Systemanweisungen des Agent vor der Ausführung.
• LLM-Ebene: Überwacht die Anforderungen und Antworten, die zwischen dem Agent und dem großen Sprachmodell ausgetauscht werden.
• Toolebene: Validiert die Eingaben und Ausgaben der Tools, die der Agent während der Aufgabenausführung verwendet.

Durch die Kombination dieser Bereiche können Sie sicherere Agents entwerfen, die problematisches Verhalten automatisch erkennen und blockieren, die Compliance aufrechterhalten und das allgemeine Vertrauen in die automatisierte Entscheidungsfindung verbessern.

Unter Benutzerdefinierte Leitplanken erfahren Sie, wie Sie Leitplanken für die Tools Ihres Agents konfigurieren.

Gehen Sie zu Überwachung von Leitplanken, um zu erfahren, wie Sie Erkennungen überprüfen und Leitplankenaktivitäten überprüfen können.

Bewährte Methoden für Leitplanken

Folgen Sie diesen Empfehlungen, um Ihre Leitplanken optimal zu nutzen:

• Verwenden Sie Block-Actions in der Produktion. Konfigurieren Sie für Agents, die vertrauliche oder geschäftskritische Daten verarbeiten, den Aktionstyp für die Blockierung, um eine unbeabsichtigte Datenexposition oder eine unsichere Ausführung zu verhindern.
• Testen Sie Schwellenwerte während der Auswertung. Führen Sie Evaluierungssitzungen durch, um die Erkennungsschwellen zu optimieren und das richtige Gleichgewicht zwischen Genauigkeit und falsch positiven Ergebnissen zu erreichen.
• Überprüfen Sie Protokolle regelmäßig. Überwachen Sie Leitplankenprotokolle und Ablaufverfolgungen regelmäßig, um zu bestätigen, dass die Erkennungen wie erwartet ausgelöst werden, und passen Sie die Konfigurationen gegebenenfalls an.