Generación de contenido

Descripción

Genera una respuesta de chat para la solicitud proporcionada utilizando modelos de finalización de chat.

Compatibilidad de proyectos

Windows | Multiplataforma

Configuración

• ID de conexión : la conexión establecida en Integration Service. Accede al menú desplegable para elegir, añadir o gestionar conexiones.

• Nombre del modelo : el modelo o ID de IA generativa que se utilizará. Esta actividad utiliza de forma predeterminada el modelo con la salida observada de mayor calidad. Sin embargo, puedes seleccionar un modelo diferente en función de los resultados y las pruebas deseados. Cambiar de modelo puede afectar a la salida.
• Solicitud : la solicitud del usuario para la solicitud de finalización del chat. Este campo admite entrada de tipo String .
• Detección de PII : si se detecta PII desde la solicitud de entrada. Valor booleano. El valor predeterminado es Falso.
  • Filtrado de PII : si se establece en Verdadero, cualquier PII/PHI detectado se enmascara antes de enviarlo al LLM. La calidad de la salida puede verse afectada. Si se establece en Falso, la PII detectada se incluye en la solicitud. En ambos casos, la PII detectada está disponible en la salida. Este campo se muestra si la detección de PII se establece en Verdadero.
  • Idioma de PII : el idioma de la entrada y salida de solicitud para buscar PII. Selecciona un idioma de la lista desplegable disponible. Este campo se muestra si la detección de PII se establece en Verdadero.
  • Categoría PII/PHI: la categoría o categorías opcionales de PII/PHI para analizar. Si no se establece, se revisan todas las categorías. Este campo se muestra si la detección de PII se establece en Verdadero.
• Aviso del sistema : el aviso del sistema o la instrucción de contexto para la solicitud de finalización del chat. Este campo admite entrada de tipo String .
• Conexión a tierra del contexto (vista previa pública) : inserta contexto en la solicitud desde un índice existente (depósito de Orchestrator) o desde un archivo. Selecciona una de las opciones disponibles en el menú desplegable: Ninguno, Índice existente, Recurso de archivo.
  • Índice (vista previa pública) : el nombre del índice al que se hace referencia. Este campo se muestra si Base de contexto se establece en Índice existente. Este campo admite entrada de tipo String .
  • Archivo : haz clic para usar la variable. Este campo admite entrada de tipo IResource . Este campo se muestra si Contexto está establecido en Recurso de archivo.
    Nota: Este campo tiene un límite de tamaño de archivo de 30 MB. Para archivos más grandes, carga datos en Orchestrator y crea un índice utilizando la actividad Índice e ingesta (vista previa pública) .

    Formatos compatibles actualmente: PDF, JSON, CSV.

  • Número de resultados (vista previa pública) : indica el número de resultados que se devolverán. Este campo admite entrada de tipo Int64 .

Administrar propiedades

Utiliza el asistente Administrar propiedades para configurar o utilizar cualquiera de los campos estándar o personalizados del objeto. Puedes seleccionar campos para añadirlos al lienzo de actividad. Los campos estándar o personalizados añadidos están disponibles en el panel Propiedades (en Studio Desktop) o en Mostrar propiedades adicionales (en Studio Web).

Propiedades adicionales

• Puntuación de confianza de PII: la puntuación de confianza mínima necesaria para calificar como PII y ser redactada. Este campo se muestra si la detección de PII se establece en Verdadero.
• Recuento máximo de tokens : el número máximo de tokens que se generarán en la finalización. El recuento de tokens de tu solicitud más los del resultado/finalización no pueden superar el valor proporcionado para este campo. Es mejor establecer este valor para que sea menor que el recuento máximo del modelo para tener algo de espacio para el recuento de tokens de solicitud. El valor predeterminado es 1024. Este campo admite entrada de tipo Int64 .
• Temperatura : el valor del factor de creatividad o la temperatura de muestreo que se va a utilizar. Los valores más altos significan que el modelo asumirá más riesgos. Prueba 0.9 para respuestas o finalizaciones más creativas, o 0 (también llamado muestreo argmax) para las que tienen una respuesta bien definida o más exacta. La recomendación general es modificar, desde el valor predeterminado, este o el valor de Muestra de núcleo, pero no ambos valores. El valor predeterminado es 1.
• Penalización de frecuencia : número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens en función de su frecuencia existente en el texto, lo que reduce la probabilidad del modelo de repetir la misma línea palabra por palabra. El valor predeterminado es 0.
• Penalización de presencia : número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens en función de si aparecen en el texto hasta el momento, lo que aumenta la probabilidad del modelo de hablar sobre nuevos temas. El valor predeterminado es 0.
• Recuento de opciones de finalización : el número de opciones de finalización que se generarán para la solicitud. Cuanto mayor sea el valor de este campo, mayor será el número de tokens que se utilizarán. Esto da como resultado un coste mayor, por lo que debes tenerlo en cuenta al establecer el valor de este campo. El valor predeterminado es 1.
• Detener secuencia : hasta cuatro secuencias en las que la API dejará de generar más tokens. El texto devuelto no contiene la secuencia de detención. El valor predeterminado es nulo.

Salida

• Texto generado superior: el texto generado. Variable de salida generada automáticamente.
• Prueba enmascarada : la solicitud de entrada en la que cualquier dato PII potencial ha sido reemplazado por marcadores de posición enmascarados. Variable de salida generada automáticamente.
• Generación de contenido : variable de salida generada automáticamente. Esta salida contiene el objeto de respuesta anidado completo, incluidos detalles adicionales sobre la finalización, el modelo utilizado y los resultados de detección de PII.
• Cadena de citas (vista previa pública) : la cadena de citas de Context Grounding. Variable de salida generada automáticamente.

Cómo utilizar la generación de contenido

La actividad Generación de contenido ofrece flexibilidad en la forma de interactuar e insertar respuestas generadas por LLM en solicitudes personalizadas en Studio, Studio Web o Apps. Al insertar argumentos y variables en la solicitud, puedes crear una plantilla de solicitud dinámica que extraiga datos de aplicaciones empresariales populares a través de conectores, elementos de cola de Orchestrator, etc. Esto te ayuda a crear automatizaciones significativas y escalables que se adaptan a casos de uso únicos.

Importante: Puedes seleccionar el modelo a utilizar para la generación de contenido, crear la solicitud, identificar y ocultar datos PII/PHI, y trabajar con opciones de modelo avanzadas que ofrecen salidas más o menos deterministas. Es importante destacar que los LLM no son deterministas. Debes iterar a través de las solicitudes y supervisar las salidas a través del registro, las tareas de validación externa (Action Center) y las pruebas. La generación de contenido es altamente configurable, pero requiere pruebas y supervisión antes de implementarse en producción.

El parámetro Context Grounding (Vista previa) habilita Context Grounding. Puedes seleccionar una de las dos opciones:

• Índice existente: hace referencia al nombre del índice de un índice creado mediante la actividad Índice e ingesta (vista previa pública) . Esto realiza RAG en el conjunto de datos dentro de ese índice. Este es el caso de uso típico: consultar varios documentos o archivos.
• Recurso de archivo: utiliza un archivo cargado justo a tiempo para la actividad y Context Grounding habilita un RAG justo a tiempo o en memoria para consultar ese documento específico. Solo puedes cargar un documento aquí, bueno para casos de uso basados en resúmenes.

El parámetro Número de resultados representa el número de resultados principales que busca y recupera Context Grounding en función de una puntuación de similitud semántica. Estos resultados representan fragmentos de los datos (páginas) que luego se pasan a la ventana de contexto de la solicitud como evidencia para fundamentar la solicitud y la generación asociada. Puedes aumentar este número hasta el límite de la ventana de contexto del modelo. Esto puede ser necesario si la salida no produce los resultados esperados o de alta calidad.

Para obtener más información sobre el uso de Context Grounding, consulta Acerca de Context Grounding.