Content Generation

Beschreibung

Generieren Sie mithilfe von Chat-Vervollständigungsmodellen eine Chat-Antwort für die bereitgestellte Anforderung.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindungs-ID – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.

• Modellname – Das generative KI-Modell oder die ID, die verwendet werden soll. Diese Aktivität verwendet standardmäßig das Modell mit der höchsten beobachteten Ausgabe. Sie können jedoch basierend auf den gewünschten Ausgaben und Tests ein anderes Modell auswählen. Das Wechseln von Modellen kann sich auf die Ausgabe auswirken.
• Eingabeaufforderung – Die Benutzeraufforderung für die Chatvervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String .
  Hinweis: Um ein Bild an eine benutzerdefinierte Aufforderung anzuhängen, verwenden Sie die Aktivität Image Analysis .
• PII-Erkennung – Legt fest, ob PII in der Eingabeaufforderung erkannt werden soll. Boolescher Wert. Der Standardwert ist „False“.
  • PII-Filterung – Bei True werden alle erkannten PII/PHi vor dem Senden an das LLM maskiert. Die Qualität der Ausgabe kann beeinträchtigt werden. Wenn auf False festgelegt, ist das erkannte PII in der Eingabeaufforderung enthalten. In beiden Fällen ist das erkannte PII in der Ausgabe verfügbar. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
  • PII-Sprache – Die Sprache der Eingabeaufforderung und -ausgabe, die nach PII gescannt werden soll. Wählen Sie eine Sprache aus der verfügbaren Dropdownliste aus. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
  • PII/Phi-Kategorie – Die optionale PII-/Phi-Kategorie oder Kategorien, nach denen analysiert werden soll. Wenn nicht festgelegt, werden alle Kategorien überprüft. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
• Systemeingabeaufforderung – Die Systemeingabeaufforderung oder Kontextanweisung für die Chat-Vervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String .
• Kontexterstellung (öffentliche Vorschau) – Fügen Sie Kontext aus einem vorhandenen Index (Orchestrator-Bucket) oder aus einer Datei in die Eingabeaufforderung ein. Wählen Sie eine der verfügbaren Optionen aus dem Dropdownmenü aus: Keine, Vorhandener Index, Dateiressource.
  • Index (öffentliche Vorschau) – Der Name des Indexes, auf den verwiesen werden soll. Dieses Feld wird angezeigt, wenn Kontextgrundlage auf Vorhandener Index festgelegt ist. Dieses Feld unterstützt die Eingabe vom Typ String .
  • Datei – Klicken Sie, um die Variable zu verwenden. Dieses Feld unterstützt die Eingabe vom Typ IResource . Dieses Feld wird angezeigt, wenn Kontexterstellung auf Dateiressource festgelegt ist.
    Hinweis: Dieses Feld hat eine Dateigrößenbeschränkung von 30 MB. Laden Sie bei größeren Dateien Daten in den Orchestrator hoch und erstellen Sie einen Index mit der Aktivität Index und Erfassung (Öffentliche Vorschau) .

    Derzeit unterstützte Formate: PDF, JSON, CSV.

  • Anzahl der Ergebnisse (öffentliche Vorschau) – Gibt die Anzahl der zurückzugebenden Ergebnisse an. Dieses Feld unterstützt die Eingabe vom Typ Int64 .

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten , um Standard- oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Eigenschaften anzeigen (in Studio Web) verfügbar.

Zusätzliche Eigenschaften

• PII-Konfidenzpunktzahl – Die Mindestkonfidenzpunktzahl, die erforderlich ist, um als PII zu gelten und geschriftet zu werden. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
• Maximale Anzahl von Token – Die maximale Anzahl der Token, die in der Vervollständigung generiert werden sollen. Die Tokenanzahl der Aufforderung zuzüglich der des Ergebnisses/der Vervollständigung dürfen den für dieses Feld angegebenen Wert nicht überschreiten. Am besten ist es, diesen Wert kleiner als die maximale Anzahl des Modells zu wählen, um etwas Spielraum für die Anzahl der Aufforderungstoken zu haben. Der Standardwert ist 1024. Wenn diese Option nicht festgelegt ist, verwendet die Aktivität standardmäßig die erforderlichen Token, um der Anforderung gerecht zu werden, oder die maximal vom Modell zulässigen Token. Dieses Feld unterstützt die Eingabe vom Typ Int64 .
• Temperatur – Der Wert des Kreativitätsfaktors oder der zu verwendenden Sampling- Temperatur. Höhere Werte bedeuten, dass das Modell mehr Risiken eingeht. Versuchen Sie es mit 0,9 für kreativere Antworten oder Vervollständigungen oder 0 (auch „Argmax-Sampling“ genannt) für Antworten mit einer klar definierten oder genaueren Antwort. Es wird empfohlen, diesen oder den Nucleus-Beispielwert im Vergleich zum Standardwert zu ändern, jedoch nicht beide Werte. Der Standardwert ist 0.
• Ahndung für Häufigkeit – Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage ihrer vorhandenen Häufigkeit im Text geahndet und die Wahrscheinlichkeit wird verringert, dass das Modell dieselbe Zeile wortwörtlich wiederholt. Der Standardwert ist 0.
• Ahndung für Vorkommen – Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage geahndet, ob sie bisher im Text vorkommen, und die Wahrscheinlichkeit wird erhöht, dass das Modell über neue Themen spricht. Der Standardwert ist 0.
• Anzahl der Vervollständigungsauswahlen – Die Anzahl der Vervollständigungsauswahlen, die für die Anforderung generiert werden sollen. Je höher der Wert dieses Felds ist, desto mehr Token werden verwendet. Dies führt zu höheren Kosten. Dies müssen Sie beim Festlegen des Werts dieses Felds berücksichtigen. Der Standardwert ist 1.
• Sequence anhalten – Bis zu vier Sequences, bei denen die API aufhört, weitere Token zu generieren. Der zurückgegebene Text enthält die Stopp-Sequence nicht. Der Standardwert ist null.

Ausgabe

• Am häufigsten generierter Text – Der generierte Text.
• Maskierter Test – Der Eingabe-Prompt, in dem alle potenziellen PII-Daten durch maskierte Platzhalter ersetzt wurden.
• Inhaltsgenerierung – Diese Ausgabe enthält das vollständige verschachtelte Antwortobjekt einschließlich zusätzlicher Details über Vervollständigung, verwendetes Modell und PII-Erkennungsergebnisse.
• Cities string (Öffentliche Vorschau) – Der String für kontextbezogene Zitate.

Wie die Inhaltsgenerierung verwendet wird

Die Aktivität Content Generation bietet Flexibilität bei der Interaktion mit und das Einfügen von LLM-generierten Antworten in benutzerdefinierte Prompts in Studio, Studio Web oder Apps. Durch das Einfügen von Argumenten und Variablen in die Eingabeaufforderung können Sie eine dynamische Eingabeaufforderungsvorlage erstellen, die Daten aus gängigen Geschäftsanwendungen über Connectors, Orchestrator-Warteschlangenelemente usw. abruft. Auf diese Weise können Sie aussagekräftige, skalierbare Automatisierungen erstellen, die für individuelle Anwendungsfälle geeignet sind.

Wichtig: Sie können das Modell auswählen, das für die Inhaltsgenerierung verwendet werden soll, die Eingabeaufforderung erstellen, PII/PHI-Daten identifizieren und ausblenden und mit erweiterten Modelloptionen arbeiten, die mehr oder weniger deterministische Ausgaben bieten. Wichtig ist, dass LLMs nicht deterministisch sind . Sie müssen Eingabeaufforderungen durchlaufen und Ausgaben durch Protokollierung, externe Validierungsaufgaben (Action Center) und Tests überwachen. Die Inhaltsgenerierung ist hochgradig konfigurierbar, erfordert jedoch Tests und Überwachung, bevor sie in der Produktion eingesetzt wird.

The Context grounding (Preview) parameter enables Context grounding. You can select one of two options:

• Vorhandener Index: Verweisen Sie auf den Indexnamen eines Indexes, der mit der Aktivität Index und Erfassung (öffentliche Vorschau) erstellt wurde. Dadurch wird eine RAG für das Dataset innerhalb dieses Indexes durchgeführt. Dies ist der typische Anwendungsfall: Abfragen von mehreren Dokumenten oder Dateien.
• File resource: Use a file uploaded just-in-time to the activity and Context grounding enables a just-in-time or in-memory RAG to query that specific document. You can only upload one document here, good for summarization-based use cases.

The Number of Results parameter represents the number of top results that are searched and retrieved by Context grounding based on a semantic similarity score. These results represent chunks of the data (pages) that then are passed into the context window of the prompt as evidence to ground the prompt and associated generation. You may increase this number to the limit of the model context window. This may be necessary if the output is not producing expected/ high quality results.

To learn more about using Context grounding, refer to About Context grounding.