Ausgebenden Endpunkt abfragen (manuell)

Beschreibung

Wichtig:

Diese Aktivität ruft nicht das Eingabe- und Ausgabeschema des Modells ab. Bitte lesen Sie daher Ihre Modelldokumentation und verwenden Sie sie gemäß den Anweisungen.

Mit dieser Aktivität können Sie eine Anforderung an einen Databricks-Endpunkt senden, indem Sie die vollständige JSON-Nutzlast manuell erstellen. Im Gegensatz zur Aktivität Query a Output Endpoint , bei der das Anforderungsschema basierend auf dem ausgewählten Modell automatisch generiert wird, müssen Sie bei dieser Aktivität die vollständige Anforderungsstruktur kennen und selbst bereitstellen.

Verwenden Sie diese Aktivität in folgenden Fällen:

• Der automatisch generierte Schemaansatz ist für Ihren Modelltyp nicht verfügbar.
• Sie benötigen die volle Kontrolle über die JSON-Nutzlast, die an den Endpunkt gesendet wird.
• Sie integrieren mit einem benutzerdefinierten oder nicht standardmäßigen Databricks-Endpunkt.

Wie die Aktivität verwendet wird

Um diese Aktivität in einem Maestro-Prozess zu verwenden, führen Sie folgende Schritte aus:

1. Fügen Sie ein Dienstaufgabenelement zur Arbeitsfläche hinzu und öffnen Sie den Eigenschaftenbereich der Aufgabe.

2. Wählen Sie im Abschnitt Implementierung in der Dropdownliste Aktion die Option Starten und auf einen externen Agent warten.

3. Wählen Sie den Databricks-Agent- Connector.

4. Wählen Sie eine vorhandene Verbindung aus oder erstellen Sie eine neue. Weitere Informationen finden Sie unter Databricks-Agent-Authentifizierung.

5. Wählen Sie unter Aktivität die Option Einen Ausgabeendpunkt abfragen (manuell) aus.

6. Wählen Sie unter Ausgabeendpunkt den ausgebenden Endpunkt aus, der aufgerufen werden soll.

7. Geben Sie im Feld Eingabe die vollständige JSON-Nutzlast ein, die an den Endpunkt gesendet werden soll. Die erwartete Nutzlaststruktur hängt von Ihrem Modell ab – weitere Informationen finden Sie in dessen Dokumentation.

   Bei einem chatbasierten Modell könnten die Nutzdaten beispielsweise so aussehen:

   {
     "messages": [
       {
         "role": "user",
         "content": "What is the capital of France?"
       }
     ]
   }
   

8. Verbinden Sie das Startereignis mit der Dienstaufgabe und die Dienstaufgabe mit einem Endereignisknoten auf der Arbeitsfläche.

9. Wählen Sie Debuggen , um den Prozess auszuführen. Überprüfen Sie nach einer erfolgreichen Ausführung die globalen Variablen und suchen Sie nach der Antwort von der Serviceaufgabe.

Fehlerbehebung und Optimierung

Da diese Aktivität nicht das Eingabe- und Ausgabeschema des Modells abruft, hängen die Anforderungsstruktur und die Form der Antwort vollständig vom bereitgestellten Endpunkt ab, den Sie aufrufen. Weitere Informationen zu Folgendem finden Sie in der Modelldokumentation in Ihrem Databricks-Arbeitsbereich.

• Die erforderlichen JSON-Felder und ihre Typen.
• Die Struktur des vom Endpunkt zurückgegebenen Antwortobjekts.

Wir empfehlen, zuerst die Nutzlast direkt in Ihrem Databricks-Arbeitsbereich zu testen, um die erwartete Eingabe und Ausgabe zu bestätigen, bevor Sie sie in einen Maestro-Prozess integrieren.