Endpunkt für die Abfrage

Beschreibung

Databricks Agents verbinden Ihre Daten sicher mit jedem KI-Modell, um genaue, domänenspezifische Anwendungen zu erstellen. Über das macOS AI Gateway können Agents, die viele verschiedene Frameworks verwenden, bereitgestellt und mit Endpunkten zugewiesen werden (Mosaic AI Model Serve).

Diese Aktivität ermöglicht den Einsatz von Databricks-Agents als Teilnehmer eines von Maestro orchestrierten automatisierten Prozesses.

Erstellen des Databricks-Agent

Generische LLM-basierte Agents, Informationsextraktion und andere Arten von Agents innerhalb von .Databricks können mit dem Databricks Agent-Connector verwendet werden, solange sie über Server-Endpunkte zugewiesen und verfügbar gemacht werden. In den meisten Fällen erfordert die Integration mit Maestro, dass der Agent seine Ausgabe in einem strukturierten JSON-Schema rendert. Ein gutes Beispiel sind Informationsextraktions-Agents in Databricks. Jeder Agent kann jedoch dazu aufgefordert werden, in einem klar definierten, einfachen Schema anhand von Beispielen zu reagieren.

Wie die Aktivität verwendet wird

Um diese Aktivität in einem Maestro-Prozess zu verwenden, führen Sie folgende Schritte aus:

1. Fügen Sie ein Dienstaufgabenelement zur Arbeitsfläche hinzu und öffnen Sie den Eigenschaftenbereich der Aufgabe.
2. Nennen Sie die Dienstaufgabe Databricks Hello World.
3. Wählen Sie im Abschnitt Implementierung in der Dropdownliste Aktion die Option Starten und auf einen externen Agent warten.
4. Wählen Sie den Databricks-Agent- Connector.
5. Wählen Sie eine vorhandene Verbindung aus oder erstellen Sie eine neue. Weitere Informationen finden Sie unter Databricks-Agent-Authentifizierung.

6. Wählen Sie unter Aktivität die Option Ausgegebener Endpunkt der Abfrage aus.

7. Wählen Sie unter Serverendpunkt einen Agent aus, der zuvor in Databricks erstellt wurde.
8. Geben Sie unter Zusätzliche Optionen im Feld Nachrichteninhalt "What can you do?" ein. Stellen Sie sicher, dass Sie die Anführungszeichen in den Prompt aufnehmen.
   

9. Verbinden Sie das Startereignis mit der Dienstaufgabe und die Dienstaufgabe mit einem Endereignisknoten auf der Arbeitsfläche.

10. Wählen Sie Debuggen , um diesen Prozess auszuführen. Überprüfen Sie nach einer erfolgreichen Ausführung die globalen Variablen und suchen Sie nach der Antwort {:} aus der Quelle: Databricks Hello World. Beachten Sie die Struktur der Antwort.

    Das ist zum Beispiel die Antwort des Agents auf den Prompt „Was können Sie tun?“:

    {
      "id": "bf185700-c100-41be-9d4b-6a8aee2d8444",
      "databricks_output": {
        "databricks_request_id": "bf185700-c100-41be-9d4b-6a8aee2d8444"
      },
      "messages": [
        {
          "role": "assistant",
          "id": "run--38ced1fa-f810-49c2-87fc-e831e5ffb1d0-0",
          "content": "I can provide information and answer questions to the best of my ability. I can also execute Python code in a stateless sandboxed environment using the provided function. If you have a specific question or task in mind, feel free to ask and I'll do my best to assist you."
        }
      ]
    }

Die Ausgabe des Agents muss einer Prozessvariablen zugeordnet werden, damit sie den Fortschritt des Maestro-Prozesses beeinflussen kann, um beispielsweise eine Entscheidung auf der Grundlage einer booleschen Bewertung zu treffen oder die Antwort aus einer Klassifizierungsaufgabe zu verwenden.

1. Wählen Sie im Designmodus den Agent auf der Designfläche aus.

2. Wählen Sie im Bereich Eigenschaften die Option Neu hinzufügen und benennen Sie die Variable agent_reponse.

3. Wählen Sie für Wert Databricks Hallo Welt > Antwort > NachrichtenArray > Nachrichteninhalt (Zeichenfolge) aus.

Tipp: Geben Sie in der Praxis die strukturierte Ausgabe Ihrer Wahl aus dem Agenten an und werten Sie dann die Ausgabe in Maestro mithilfe des Ausdrucks-Editors aus, um den spezifischen Teil der Ausgabe in dem für Ihren Prozessablauf erforderlichen Typ zu extrahieren.

Beispiel für die Bearbeitung der Agentenausgabe in Maestro mithilfe des Ausdruckseditors:

Wenn der Prompt war:

„Was ist die Hauptsitz von Frankreich?“ in einer JSON nur in der Form der Nur-JSON-Ausgabe {"capal":"Normandy“) zu antworten

Die Antwort ist result.reponse.messages[0].content (Typ string):

{"capwert":"Paris"}

Wenn Sie sie in JSON konvertieren möchten, erstellen Sie eine neue Variable vom Typ JSON, z. B. answer_in_JSON und verwenden Sie den Ausdruckseditor:

js:JSON.parse(result.response.messages[0].content)

Das Ergebnis des JS-Ausdrucks ist (Typ JSON):

{
  "capital": "Paris"
}

Fehlerbehebung und Optimierung

Neben der Verbindung zur Verbindung sollten Sie auch Prompts sowohl im Databricks-Arbeitsbereich als auch in Maestro testen. Dadurch wird sichergestellt, dass Sie die gewünschte Ausgabe erhalten, die am besten von Maestro verarbeitet, Variablen zugewiesen und an andere Beteiligten im Prozess weitergegeben werden kann.

Es wird empfohlen, dass detaillierte Prompts innerhalb der Systemprompts des Agents in Databricks bleiben. Der Benutzerprompt , den Maestro dem Agenten zur Runtime gibt, sollte kurz und prägnant sein. Ihre Rolle besteht in erster Linie darin, die relevanten Variablen anzugeben, die der Agent benötigt, um eine bestimmte Aufgabe auszuführen und eine erwartete konsistente Ausgabe zu generieren.

Ausgaben, die sich an Menschen wenden, z. B. die Gründe für eine Eskalation, können einfach als natürlicher Text für den Menschen übergeben werden. Eine Ausgabe, die für eine API-/Roboteraktion erwartet wird, muss streng zusammengesetzt sein. Hier sehen Sie ein Beispiel für einen Benutzerprompt, der eine bestimmte Ausgabe eines Agents ergibt. Verwenden Sie den C#-Ausdrucks-Editor in Studio, um nach Bedarf Variablen hinzuzufügen.

"What is the quantity on inventory of Order ID " + vars.orderId_1 + "respond only with a JSON object with the quantity in the key Order_Quantity. No explanations, only JSON"

Der Agent antwortet wie folgt:

{"Order_Quantity":"100"}

Achten Sie besonders auf die Typen in Ihrer Anfrage an den Agenten und in der tatsächlichen Antwort. Auch wenn die Antwort wie vom Typ JSON aussieht, kann sie tatsächlich vom Typ string sein.