Content Generation

Beschreibung

Generieren Sie mithilfe von Chat-Vervollständigungsmodellen eine Chat-Antwort für die bereitgestellte Anforderung.

Projektkompatibilität

Windows | Plattformübergreifend

Konfiguration

• Verbindungs-ID – Die im Integration Service hergestellte Verbindung. Greifen Sie auf das Dropdownmenü zu, um Verbindungen auszuwählen, hinzuzufügen oder zu verwalten.

• Modellname – Das generative KI-Modell oder die ID, die verwendet werden soll. Diese Aktivität verwendet standardmäßig das Modell mit der höchsten beobachteten Ausgabe. Sie können jedoch basierend auf den gewünschten Ausgaben und Tests ein anderes Modell auswählen. Das Wechseln von Modellen kann sich auf die Ausgabe auswirken.
• Eingabeaufforderung – Die Benutzeraufforderung für die Chatvervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String .
• PII-Erkennung – Legt fest, ob PII in der Eingabeaufforderung erkannt werden soll. Boolescher Wert. Der Standardwert ist „False“.
  • PII-Filterung – Bei True werden alle erkannten PII/PHi vor dem Senden an das LLM maskiert. Die Qualität der Ausgabe kann beeinträchtigt werden. Wenn auf False festgelegt, ist das erkannte PII in der Eingabeaufforderung enthalten. In beiden Fällen ist das erkannte PII in der Ausgabe verfügbar. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
  • PII-Sprache – Die Sprache der Eingabeaufforderung und -ausgabe, die nach PII gescannt werden soll. Wählen Sie eine Sprache aus der verfügbaren Dropdownliste aus. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
  • PII/Phi-Kategorie – Die optionale PII-/Phi-Kategorie oder Kategorien, nach denen analysiert werden soll. Wenn nicht festgelegt, werden alle Kategorien überprüft. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
• Systemeingabeaufforderung – Die Systemeingabeaufforderung oder Kontextanweisung für die Chat-Vervollständigungsanforderung. Dieses Feld unterstützt die Eingabe vom Typ String .
• Kontexterstellung (öffentliche Vorschau) – Fügen Sie Kontext aus einem vorhandenen Index (Orchestrator-Bucket) oder aus einer Datei in die Eingabeaufforderung ein. Wählen Sie eine der verfügbaren Optionen aus dem Dropdownmenü aus: Keine, Vorhandener Index, Dateiressource.
  • Index (öffentliche Vorschau) – Der Name des Indexes, auf den verwiesen werden soll. Dieses Feld wird angezeigt, wenn Kontextgrundlage auf Vorhandener Index festgelegt ist. Dieses Feld unterstützt die Eingabe vom Typ String .
  • Datei – Klicken Sie, um die Variable zu verwenden. Dieses Feld unterstützt die Eingabe vom Typ IResource . Dieses Feld wird angezeigt, wenn Kontexterstellung auf Dateiressource festgelegt ist.
    Hinweis: Dieses Feld hat eine Dateigrößenbeschränkung von 30 MB. Laden Sie bei größeren Dateien Daten in den Orchestrator hoch und erstellen Sie einen Index mit der Aktivität Index und Erfassung (Öffentliche Vorschau) .

    Derzeit unterstützte Formate: PDF, JSON, CSV.

  • Anzahl der Ergebnisse (öffentliche Vorschau) – Gibt die Anzahl der zurückzugebenden Ergebnisse an. Dieses Feld unterstützt die Eingabe vom Typ Int64 .

Eigenschaften verwalten

Verwenden Sie den Assistenten Eigenschaften verwalten , um Standard- oder benutzerdefinierte Felder des Objekts zu konfigurieren oder zu verwenden. Sie können Felder auswählen, um sie der Aktivitäts-Canvas hinzuzufügen. Die hinzugefügten Standard- oder benutzerdefinierten Felder sind im Eigenschaftenbereich (in Studio Desktop) oder unter Zusätzliche Eigenschaften anzeigen (in Studio Web) verfügbar.

Zusätzliche Eigenschaften

• PII-Konfidenzpunktzahl – Die Mindestkonfidenzpunktzahl, die erforderlich ist, um als PII zu gelten und geschriftet zu werden. Dieses Feld wird angezeigt, wenn PII-Erkennung auf True festgelegt ist.
• Maximale Anzahl von Token – Die maximale Anzahl der Token, die in der Vervollständigung generiert werden sollen. Die Tokenanzahl Ihrer Eingabeaufforderung sowie die des Ergebnisses/der Vervollständigung dürfen den für dieses Feld angegebenen Wert nicht überschreiten. Es ist am besten, diesen Wert kleiner als die maximale Anzahl des Modells festzulegen, um etwas Platz für die Anzahl der Eingabeaufforderungstoken zu haben. Der Standardwert ist 1024. Dieses Feld unterstützt die Eingabe vom Typ Int64 .
• Temperatur – Der Wert des Kreativitätsfaktors oder die zu verwendende Stichprobe. Höhere Werte bedeuten, dass das Modell mehr Risiken eingeht. Versuchen Sie es mit 0,9 für kreativere Antworten oder Vervollständigungen oder 0 (auch „Argmax-Sampling“ genannt) für solche mit einer genau definierten oder genaueren Antwort. Im Allgemeinen wird empfohlen, ab dem Standardwert diesen oder den Nucleus-Beispielwert zu ändern, aber nicht beide Werte. Der Standardwert ist 1.
• Ahndung für Häufigkeit – Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage ihrer vorhandenen Häufigkeit im Text geahndet und die Wahrscheinlichkeit wird verringert, dass das Modell dieselbe Zeile wortwörtlich wiederholt. Der Standardwert ist 0.
• Ahndung für Vorkommen – Zahl zwischen -2,0 und 2,0. Bei positiven Werten werden neue Token auf der Grundlage geahndet, ob sie bisher im Text vorkommen, und die Wahrscheinlichkeit wird erhöht, dass das Modell über neue Themen spricht. Der Standardwert ist 0.
• Anzahl der Vervollständigungsauswahlen – Die Anzahl der Vervollständigungsauswahlen, die für die Anforderung generiert werden sollen. Je höher der Wert dieses Felds ist, desto mehr Token werden verwendet. Dies führt zu höheren Kosten. Dies müssen Sie beim Festlegen des Werts dieses Felds berücksichtigen. Der Standardwert ist 1.
• Sequence anhalten – Bis zu vier Sequences, bei denen die API aufhört, weitere Token zu generieren. Der zurückgegebene Text enthält die Stopp-Sequence nicht. Der Standardwert ist null.

Ausgabe

• Am häufigsten generierter Text – Der generierte Text. Automatisch generierte Ausgabevariable.
• Maskierter Test – Die Eingabeaufforderung, in der potenzielle PII-Daten durch maskierte Platzhalter ersetzt wurden. Automatisch generierte Ausgabevariable.
• Inhaltsgenerierung – Automatisch generierte Ausgabevariable. Diese Ausgabe enthält das vollständige geschachtelte Antwortobjekt einschließlich zusätzlicher Details über den Abschluss, das verwendete Modell und die Ergebnisse der PII-Erkennung.
• Cities string (Öffentliche Vorschau) – Der String für Kontextgrundlagen. Automatisch generierte Ausgabevariable.

Wie die Inhaltsgenerierung verwendet wird

Die Aktivität Content Generation bietet Flexibilität bei der Interaktion mit und das Einfügen von LLM-generierten Antworten in benutzerdefinierte Prompts in Studio, Studio Web oder Apps. Durch das Einfügen von Argumenten und Variablen in die Eingabeaufforderung können Sie eine dynamische Eingabeaufforderungsvorlage erstellen, die Daten aus gängigen Geschäftsanwendungen über Connectors, Orchestrator-Warteschlangenelemente usw. abruft. Auf diese Weise können Sie aussagekräftige, skalierbare Automatisierungen erstellen, die für individuelle Anwendungsfälle geeignet sind.

Wichtig: Sie können das Modell auswählen, das für die Inhaltsgenerierung verwendet werden soll, die Eingabeaufforderung erstellen, PII/PHI-Daten identifizieren und ausblenden und mit erweiterten Modelloptionen arbeiten, die mehr oder weniger deterministische Ausgaben bieten. Wichtig ist, dass LLMs nicht deterministisch sind . Sie müssen Eingabeaufforderungen durchlaufen und Ausgaben durch Protokollierung, externe Validierungsaufgaben (Action Center) und Tests überwachen. Die Inhaltsgenerierung ist hochgradig konfigurierbar, erfordert jedoch Tests und Überwachung, bevor sie in der Produktion eingesetzt wird.

Der Parameter Kontextgrundlage (Vorschau) aktiviert die Kontextgrundlage. Sie können eine von zwei Optionen auswählen:

• Vorhandener Index: Verweisen Sie auf den Indexnamen eines Indexes, der mit der Aktivität Index und Erfassung (öffentliche Vorschau) erstellt wurde. Dadurch wird eine RAG für das Dataset innerhalb dieses Indexes durchgeführt. Dies ist der typische Anwendungsfall: Abfragen von mehreren Dokumenten oder Dateien.
• Dateiressource: Verwenden Sie eine Datei, die Just-in-Time in die Aktivität hochgeladen wurde, und Kontextgrundlage ermöglicht einer Just-in-Time- oder In-Memory-RAG, um dieses bestimmte Dokument abzufragen. Sie können hier nur ein Dokument hochladen, gut für zusammenfassungsbasierte Anwendungsfälle.

Der Parameter Anzahl der Ergebnisse stellt die Anzahl der wichtigsten Ergebnisse dar, die von Kontextgrundlage basierend auf einer semantischen Ähnlichkeitsbewertung gesucht und abgerufen werden. Diese Ergebnisse stellen Teile der Daten (Seiten) dar, die dann an das Kontextfenster der Aufforderung als Nachweis übergeben werden, um die Aufforderung und die zugehörige Generierung zu erden. Sie können diese Anzahl bis zur Grenze des Modellkontextfensters erhöhen. Dies kann notwendig sein, wenn die Ausgabe nicht die erwarteten Ergebnisse/Qualitätsergebnisse liefert.

Weitere Informationen zur Verwendung von Kontextgrundlage finden Sie unter Über Kontextgrundlage.