Leitlinien

Leitplanken sind integrierte Sicherheits- und Qualitätsprüfungen, die sicherstellen, dass sich Agents zuverlässig und sicher sowie mit den Organisationsrichtlinien übereinstimmen.Sie überwachen und steuern, was Agents verarbeiten und wie sie auf Benutzereingaben reagieren, wodurch das Risiko verringert wird, dass vertrauliche Informationen offengelegt werden oder unbeabsichtigte Aktionen ausgeführt werden.

In Agents können Leitplanken auf verschiedenen Ausführungsebenen angewendet werden:

• Agent: Bewertet die eigenen Prompts oder Systemanweisungen des Agent vor der Ausführung.
• LLM-Ebene: Überwacht die Anforderungen und Antworten, die zwischen dem Agent und dem großen Sprachmodell ausgetauscht werden.
• Toolebene: Validiert die Eingaben und Ausgaben der Tools, die der Agent während der Aufgabenausführung verwendet.

Durch die Kombination dieser Bereiche können Sie sicherere Agents entwerfen, die problematisches Verhalten automatisch erkennen und blockieren, die Compliance aufrechterhalten und das allgemeine Vertrauen in die automatisierte Entscheidungsfindung verbessern.

Gehen Sie zu Out-of-the-Box Leitplanken, um Leitplanken auf Agent- oder LLM-Ebene schnell einzurichten.

Unter Benutzerdefinierte Leitplanken erfahren Sie, wie Sie Leitplanken für die Tools Ihres Agents konfigurieren.

Unter Überwachung von Leitplanken erfahren Sie, wie Sie Erkennungen überprüfen und die Leitplankenaktivität überprüfen können.

Bewährte Methoden für Leitplanken

Folgen Sie diesen Empfehlungen, um Ihre Leitplanken optimal zu nutzen:

• Verwenden Sie Block-Actions in der Produktion. Konfigurieren Sie für Agents, die vertrauliche oder geschäftskritische Daten verarbeiten, den Aktionstyp für die Blockierung, um eine unbeabsichtigte Datenexposition oder eine unsichere Ausführung zu verhindern.
• Testen Sie Schwellenwerte während der Auswertung. Führen Sie Evaluierungssitzungen durch, um die Erkennungsschwellen zu optimieren und das richtige Gleichgewicht zwischen Genauigkeit und falsch positiven Ergebnissen zu erreichen.
• Überprüfen Sie Protokolle regelmäßig. Überwachen Sie Leitplankenprotokolle und Ablaufverfolgungen regelmäßig, um zu bestätigen, dass die Erkennungen wie erwartet ausgelöst werden, und passen Sie die Konfigurationen gegebenenfalls an.