Content Generation

Beschreibung

Erstellen Sie mithilfe von Chat-Vervollständigungsmodellen eine Chat-Antwort für die gestellte Anfrage.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindungs-ID – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.

• Modellname – Der Name oder die ID des zu verwendenden Modells oder der Bereitstellung. Diese Aktivität wird standardmäßig auf das Modell mit der höchsten beobachteten Ausgabequalität eingestellt. Sie können jedoch basierend auf den gewünschten Ausgaben und Tests ein anderes Modell auswählen. Das Wechseln von Modellen kann sich auf die Ausgabe auswirken.
• Eingabeaufforderung – Die Benutzeraufforderung für die Chatvervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String.
  Hinweis: Um ein Bild an eine benutzerdefinierte Aufforderung anzuhängen, verwenden Sie die Aktivität Image Analysis.
• PII-Erkennung – Ob PII aus der Eingabeaufforderung erkannt werden sollen. Boolescher Wert. Der Standardwert ist „False“.
  • PII-Filterung – Bei „True“ werden alle erkannten PII/PHI vor dem Senden an das LLM maskiert. Die Qualität der Ausgabe kann beeinträchtigt werden. Bei „False“ sind die erkannten PII in der Eingabeaufforderung enthalten. In beiden Fällen ist das erkannte PII in der Ausgabe verfügbar. Dieses Feld wird angezeigt, wenn die PII-Erkennung auf „True“ festgelegt ist.
  • PII-Sprache – Die Sprache der Prompt-Eingabe und -Ausgabe für die Suche nach PII. Wählen Sie eine Sprache aus der verfügbaren Dropdownliste aus. Dieses Feld wird angezeigt, wenn die PII-Erkennung auf „True“ festgelegt ist.
  • PII/PHI-Kategorie – Die optionale(n) PII/PHI-Kategorie(n), für die analysiert werden soll. Wird diese Option nicht festgelegt, werden alle Kategorien überprüft. Dieses Feld wird angezeigt, wenn die PII-Erkennung auf „True“ festgelegt ist.
• Systemaufforderung – Die Systemaufforderung oder Kontextanweisung für die Chatvervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String.
• Kontextgrundlage – Bezieht die Eingabeaufforderung auf den Kontext, um die Qualität und Genauigkeit der Ausgabe zu erhöhen Mit dieser Funktion können Sie proprietäre Geschäftslogik und Wissen in die Eingabeaufforderung einfügen. Sie können auf einen Orchestrator-Bucket verweisen, in den Dokumente hochgeladen wurden, oder eine Datei direkt zur einmaligen Verwendung hochladen. Wählen Sie eine der verfügbaren Optionen aus dem Dropdownmenü aus: Keine, Vorhandener Index, Dateiressource.
  • Option Vorhandener Index:
    • Orchestrator-Ordner – Der Orchestrator-Ordner, der den Index enthält, der in den Kontext eingefügt werden soll. Dies muss ein freigegebener Ordner sein. Suchen Sie anhand des Namens, oder wählen Sie ihn aus der Dropdownliste der berechtigten Orchestrator-Ordner in diesem Mandanten aus. Verwenden Sie die Schaltfläche Aktualisierung erzwingen, um die neuesten Ordner abzurufen.
    • Index – Der Name oder die ID des Indexes, in dem die Eingabeaufforderung verknüpft werden soll. Wählen Sie einen Index aus der verfügbaren Dropdownliste aus.
  • Option Dateiressourcen:
    • Datei – Klicken Sie, um die Variable zu verwenden. Dieses Feld unterstützt die Eingabe vom Typ IResource.
      Hinweis: Dieses Feld hat eine Dateigrößenbeschränkung von 30 MB. Laden Sie bei größeren Dateien Daten in den Orchestrator hoch und erstellen Sie einen Index mit AI Trust Layer. Unterstützte Formate: PDF, JSON, CSV, DOCS, JSON, TXT.
• Anzahl der Ergebnisse – Gibt die Anzahl der zurückzugebenden Ergebnisse an. Dieses Feld unterstützt die Eingabe vom Typ Int64.

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten , um Standard- oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Eigenschaften anzeigen (in Studio Web) verfügbar.

Zusätzliche Eigenschaften

• PII-Konfidenzbewertung – Die Mindestpunktzahl für das Konfidenzniveau, die erforderlich ist, um als PII zu gelten und redigiert zu werden. Dieses Feld wird angezeigt, wenn die PII-Erkennung auf „True“ festgelegt ist.
• Maximale Anzahl von Token – Die maximale Anzahl der Token, die in der Vervollständigung generiert werden sollen. Die Tokenanzahl der Aufforderung zuzüglich der des Ergebnisses/der Vervollständigung dürfen den für dieses Feld angegebenen Wert nicht überschreiten. Am besten ist es, diesen Wert kleiner als die maximale Anzahl des Modells zu wählen, um etwas Spielraum für die Anzahl der Aufforderungstoken zu haben. Der Standardwert ist 1024. Wenn nicht festgelegt, werden standardmäßig die erforderlichen Token verwendet, um die Anfrage zu bearbeiten, oder die maximal zulässigen Token, die vom Modell vorgegeben werden. Dieses Feld unterstützt die Eingabe vom Typ Int64.
• Temperatur – Der Wert des Kreativitätsfaktors oder der zu verwendenden Stichprobentemperatur. Höhere Werte bedeuten, dass das Modell mehr Risiken eingeht. Probieren Sie 0,9 für kreativere Antworten oder Vervollständigungen oder 0 (auch als Argmax-Stichprobe bezeichnet) für solche mit einer klar definierten oder genaueren Antwort. Es wird empfohlen, diesen oder den Nucleus-Beispielwert im Vergleich zum Standardwert zu ändern, jedoch nicht beide Werte. Der Standardwert ist 0.
• Ahndung für Häufigkeit – Zahl zwischen -2,0 und 2,0. Positive Werte wirken sich negativ auf neue Token aus, die auf ihrer vorhandenen Häufigkeit im Text basieren, und verringern die Wahrscheinlichkeit, dass das Modell dieselbe Zeile wörtlich wiederholt. Der Standardwert ist 0.
• Ahndung für Vorkommen – Zahl zwischen -2,0 und 2,0. Positive Werte wirken sich negativ auf neue Token aus, je nachdem, ob sie bisher im Text vorkommen, und erhöhen die Wahrscheinlichkeit, dass das Modell über neue Themen spricht. Der Standardwert ist 0.
• Anzahl der Fertigstellungsauswahlmöglichkeiten – Die Anzahl der Fertigstellungsauswahlmöglichkeiten, die für die Anforderung generiert werden sollen. Je höher der Wert dieses Felds, desto mehr Token werden verwendet. Dies führt zu höheren Kosten, deshalb müssen Sie sich dies beim Festlegen des Werts für dieses Feld bewusst sein. Der Standardwert ist 1.
• Sequence anhalten – Bis zu vier Sequences, in denen die API die Generierung weiterer Token anhält. Der zurückgesendete Text enthält keine Stopp-Sequence. Der Standardwert ist null.

Ausgabe

• Am häufigsten generierter Text – Der generierte Text.
• Maskierter Test – Der Eingabe-Prompt, in dem alle potenziellen PII-Daten durch maskierte Platzhalter ersetzt wurden.
• Content Generation – Diese Ausgabe enthält das vollständig verschachtelte Antwortobjekt einschließlich zusätzlicher Details über die Fertigstellung, das verwendete Modell und die Ergebnisse der PII-Erkennung.
• Zitatzeichenfolge – Die Kontextgrundlage für Zitatzeichenfolgen.

So wird „Content Generation“ verwendet

Die Aktivität Content Generation bietet Flexibilität bei der Interaktion mit und dem Einfügen von LLM-generierten Antworten auf benutzerdefinierte Eingabeaufforderungen in Studio, Studio Web oder Apps. Durch das Einfügen von Argumenten und Variablen in die Eingabeaufforderung können Sie eine dynamische Eingabeaufforderungsvorlage erstellen, die Daten aus gängigen Geschäftsanwendungen über Connectors, Elemente der Orchestrator-Warteschlange usw. abruft. Auf diese Weise können Sie aussagekräftige, skalierbare Automatisierungen erstellen, die für individuelle Anwendungsfälle geeignet sind.

Wichtig: Sie können das Modell auswählen, das für die Inhaltsgenerierung verwendet werden soll, die Eingabeaufforderung erstellen, PII/PHI-Daten identifizieren und ausblenden und mit erweiterten Modelloptionen arbeiten, die mehr oder weniger deterministische Ausgaben bieten. Wichtig ist, dass LLMs nicht deterministisch sind. Sie müssen Eingabeaufforderungen durchlaufen und die Ausgaben durch Protokollierung, externe Validierungsaufgaben (Action Center) und Tests überwachen. „Content Generation“ ist hochgradig konfigurierbar, erfordert jedoch Tests und Überwachung, bevor sie in der Produktion eingesetzt wird.

Der Parameter Kontextgrundlage aktiviert die Kontextgrundlage. Sie können eine von zwei Optionen auswählen:

• Vorhandener Index: Verweisen Sie auf den Indexnamen eines erstellten Indexes. Dadurch wird eine RAG für das Dataset innerhalb dieses Indexes durchgeführt. Dies ist der typische Anwendungsfall: Abfragen von mehreren Dokumenten oder Dateien.
• Dateiressource: Verwenden Sie eine Datei, die gerade rechtzeitig in die Aktivität hochgeladen wurde, und die Kontextgrundlage ermöglicht es einer Just-in-Time- oder In-Memory-RAG, dieses bestimmte Dokument abzufragen. Hier können Sie nur ein Dokument hochladen, was sich gut für zusammenfassende Anwendungsfälle eignet.

Der Parameter Anzahl der Ergebnisse gibt die Anzahl der Top-Ergebnisse an, die von der Kontextgrundlage basierend auf einer semantischen Ähnlichkeitsbewertung gesucht und abgerufen werden. Diese Ergebnisse stellen Datenblöcke (Seiten) dar, die dann als Beweismittel in das Kontextfenster der Eingabeaufforderung übernommen werden, um die Eingabeaufforderung und die damit verbundene Generierung zu stützen. Sie können diese Anzahl bis zur Grenze des Modellkontextfensters erhöhen. Dies kann notwendig sein, wenn die Ausgabe nicht die erwarteten Ergebnisse/Qualitätsergebnisse liefert.

Weitere Informationen zur Verwendung der Kontextgrundlage finden Sie unter Über Kontextgrundlage.