Leitlinien

Leitplanken sind integrierte Sicherheits- und Qualitätsprüfungen, die sicherstellen, dass sich Agents zuverlässig und sicher sowie mit den Organisationsrichtlinien übereinstimmen.Sie überwachen und steuern, was Agents verarbeiten und wie sie auf Benutzereingaben reagieren, wodurch das Risiko verringert wird, dass vertrauliche Informationen offengelegt werden oder unbeabsichtigte Aktionen ausgeführt werden.

Guardrails can be enabled at two levels, depending on who manages them and how broadly they should apply:

• Organization-wide — Administrators configure guardrails once in the AI Trust Layer policy in Automation Ops. When enabled for a product (for example, autonomous agents), the guardrail applies automatically to every agent of that type in the tenant. For details, refer to Centralized guardrails.
• Per agent — Agent developers configure guardrails directly in Studio Web. The guardrail applies only to that specific agent. For details, refer to Out-of-the-box guardrails.

In Agents können Leitplanken auf verschiedenen Ausführungsebenen angewendet werden:

• Agent: Bewertet die eigenen Prompts oder Systemanweisungen des Agent vor der Ausführung.
• LLM-Ebene: Überwacht die Anforderungen und Antworten, die zwischen dem Agent und dem großen Sprachmodell ausgetauscht werden.
• Toolebene: Validiert die Eingaben und Ausgaben der Tools, die der Agent während der Aufgabenausführung verwendet.

Durch die Kombination dieser Bereiche können Sie sicherere Agents entwerfen, die problematisches Verhalten automatisch erkennen und blockieren, die Compliance aufrechterhalten und das allgemeine Vertrauen in die automatisierte Entscheidungsfindung verbessern.

Unter Benutzerdefinierte Leitplanken erfahren Sie, wie Sie Leitplanken für die Tools Ihres Agents konfigurieren.

Gehen Sie zu Überwachung von Leitplanken, um zu erfahren, wie Sie Erkennungen überprüfen und Leitplankenaktivitäten überprüfen können.

Bewährte Methoden für Leitplanken

Folgen Sie diesen Empfehlungen, um Ihre Leitplanken optimal zu nutzen:

• Verwenden Sie Block-Actions in der Produktion. Konfigurieren Sie für Agents, die vertrauliche oder geschäftskritische Daten verarbeiten, den Aktionstyp für die Blockierung, um eine unbeabsichtigte Datenexposition oder eine unsichere Ausführung zu verhindern.
• Testen Sie Schwellenwerte während der Auswertung. Führen Sie Evaluierungssitzungen durch, um die Erkennungsschwellen zu optimieren und das richtige Gleichgewicht zwischen Genauigkeit und falsch positiven Ergebnissen zu erreichen.
• Überprüfen Sie Protokolle regelmäßig. Überwachen Sie Leitplankenprotokolle und Ablaufverfolgungen regelmäßig, um zu bestätigen, dass die Erkennungen wie erwartet ausgelöst werden, und passen Sie die Konfigurationen gegebenenfalls an.