Generación de contenido

Descripción

Genera una respuesta de chat para la solicitud proporcionada utilizando modelos de finalización de chat.

Compatibilidad de proyectos

Windows | Multiplataforma

Configuración

• Conexión : la conexión establecida en Integration Service. Accede al menú desplegable para elegir, añadir o gestionar conexiones.
• Nombre del modelo : el nombre o ID del modelo o implementación que se utilizará. Esta actividad utiliza de forma predeterminada el modelo con la salida observada de mayor calidad. Sin embargo, puedes seleccionar un modelo diferente en función de las salidas y pruebas deseadas. Cambiar de modelo puede afectar a la salida.
• Solicitud : la solicitud del usuario para la solicitud de finalización del chat. Este campo admite entrada de tipo String .
  Nota:

  Para adjuntar una imagen a una solicitud personalizada, utiliza la actividad Análisis de imagen .

• Detección de PII : si se detecta PII desde la solicitud de entrada. Valor booleano. El valor predeterminado es Falso.
  • Filtrado de PII : si se establece en Verdadero, cualquier PII/PHI detectado se enmascara antes de enviarse al LLM. La calidad de la salida puede verse afectada. Si se establece en Falso, la PII detectada se incluye en la solicitud. En ambos casos, la PII detectada está disponible en la salida. Este campo se muestra si la detección de PII se establece en Verdadero.
  • Idioma de PII : el idioma de la entrada y salida de solicitud para escanear en busca de PII. Selecciona un idioma de la lista desplegable disponible. Este campo se muestra si la detección de PII se establece en Verdadero.
  • Categoría PII/PHI : la categoría o categorías opcionales de PII/PHI para analizar. Si no se establece, se revisan todas las categorías. Este campo se muestra si la detección de PII se establece en Verdadero.
• Solicitud del sistema : la solicitud del sistema o instrucción de contexto para la solicitud de finalización del chat. Este campo admite entrada de tipo String .
• Contextualización : establece la solicitud en contexto para aumentar la calidad y la precisión de la salida. Esta característica te permite insertar lógica empresarial y conocimiento propios en la solicitud. Puedes hacer referencia a un depósito de Orchestrator donde se han cargado documentos o cargar un archivo directamente para un uso único. Selecciona una de las opciones disponibles en el menú desplegable: Ninguno, Índice existente, Recurso de archivo.
  • Opción de índice existente:
    • Ruta de la carpeta de Orchestrator : la carpeta de Orchestrator que contiene el índice para contextualizar. Debe ser una carpeta compartida . Busca por nombre o selecciona en la lista desplegable de carpetas de Orchestrator con permisos en ese tenant. Utiliza el botón Actualización forzada para recuperar las últimas carpetas. Este campo admite entrada de tipo String .
    • Índice : el nombre o ID del índice en el que basar la solicitud. Selecciona un índice de la lista desplegable disponible.
  • Opción de recurso de archivo:
    • Archivo : haz clic para usar la variable. Este campo admite entrada de tipo IResource .
      Nota:

      Este campo tiene un límite de tamaño de archivo de 30 MB. Para archivos más grandes, carga datos en Orchestrator y crea un índice utilizando AI Trust Layer. Formatos compatibles: PDF, JSON, CSV, DOCX, JSON, TXT.

• Número de resultados : indica el número de resultados que se devolverán. Este campo admite entrada de tipo Int64 .

Administrar propiedades

Utiliza el asistente Administrar propiedades para configurar o utilizar cualquiera de los campos estándar o personalizados del objeto. Puedes seleccionar campos para añadirlos al lienzo de actividad. Los campos estándar o personalizados añadidos están disponibles en el panel Propiedades (en Studio Desktop) o en Mostrar propiedades adicionales (en Studio Web).

Propiedades adicionales

• Puntuación de confianza de PII : la puntuación de confianza mínima necesaria para calificar como PII y ser redactada. Este campo se muestra si la detección de PII se establece en Verdadero.
• Recuento máximo de tokens : el número máximo de tokens que se generarán en la finalización. El recuento de tokens de su solicitud más los del resultado/finalización no pueden superar el valor proporcionado para este campo. Es mejor establecer este valor para que sea menor que el recuento máximo del modelo para tener algo de espacio para el recuento de tokens de solicitud. El valor predeterminado es 1024. Si no se establece, la actividad utiliza de forma predeterminada los tokens necesarios para dar cabida a la solicitud o los tokens máximos permitidos por el modelo. Este campo admite entrada de tipo Int64 .
• Temperatura : el valor del factor de creatividad o temperatura de muestreo que se utilizará. Los valores más altos significan que el modelo asumirá más riesgos. Pruebe 0.9 para respuestas o finalizaciones más creativas, o 0 (también llamado muestreo argmax) para las que tienen una respuesta bien definida o más exacta. La recomendación general es alterar, a partir del valor predeterminado, este o el valor de Muestra de núcleo, pero no ambos valores. El valor predeterminado es 0.
• Penalización de frecuencia : número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de su frecuencia existente en el texto, disminuyendo la probabilidad del modelo de repetir la misma línea palabra por palabra. El valor predeterminado es 0.
• Penalización de presencia : número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de si aparecen en el texto hasta el momento, lo que aumenta la probabilidad del modelo de hablar sobre nuevos temas. El valor predeterminado es 0.
• Recuento de opciones de finalización : el número de opciones de finalización que se generarán para la solicitud. Cuanto mayor sea el valor de este campo, mayor será el número de tokens que se utilizarán. Esto da como resultado un coste más alto, por lo que debe tenerlo en cuenta al establecer el valor de este campo. El valor predeterminado es 1.
• Detener secuencia : hasta cuatro secuencias en las que la API dejará de generar más tokens. El texto devuelto no contiene la secuencia de detención. El valor predeterminado es nulo.

Salida

• Texto generado principal: el texto generado.
• Prueba enmascarada: la solicitud de entrada donde cualquier dato PII potencial se ha reemplazado por marcadores de posición enmascarados.
• Generación de contenido: esta salida contiene el objeto de respuesta anidado completo, incluidos detalles adicionales sobre el resultado, el modelo utilizado y los resultados de detección de PII.
• Cadena de citas : la cadena de citas de contextualización.

Cómo utilizar la generación de contenido

La actividad de generación de contenido ofrece flexibilidad en la forma en que interactúas con e insertas respuestas generadas por LLM en indicaciones personalizadas en Studio, Studio Web o Apps. Al insertar argumentos y variables en la solicitud, puedes lograr una plantilla de solicitud dinámica que extrae datos de aplicaciones empresariales populares a través de conectores, artículos en cola de Orchestrator, etc. Esto te ayuda a crear automatizaciones significativas y escalables que se ajustan a casos de uso exclusivos.

Importante:

Puedes seleccionar el modelo que se utilizará para la generación de contenido, crear la solicitud, identificar y ocultar datos PII/PHI y trabajar con opciones de modelo avanzadas que ofrecen salidas más o menos deterministas. Es importante destacar que los LLM no son deterministas. Debes iterar a través de solicitudes y supervisar salidas a través de registros, tareas de validación externa (Action Center) y pruebas. La generación de contenido es altamente configurable, pero requiere pruebas y supervisión antes de implementarse en producción.

El parámetro Contextualización habilita la Contextualización. Puedes seleccionar una de dos opciones:

• Índice existente: hace referencia al nombre del índice de un índice creado. Esto realiza RAG en el conjunto de datos dentro de ese índice. Este es el caso de uso típico: consultar varios documentos o archivos.
• Recurso de archivo: utiliza variables de archivo de actividades anteriores (p. ej., un documento descargado de Google Drive) y haz que Contextualización realice un estilo RAG justo a tiempo (JIT). Esto significa que ingiere el documento en un índice, busca en él, aumenta la solicitud y luego elimina el índice, por lo que los datos no son persistentes.
  Nota:

  • Mantén estos documentos más pequeños (menos de 50 páginas). Las actividades de Integration Service tienen una ventana de tiempo de espera en la que debe tener lugar todo el procesamiento anterior.
  • Si tienes un PDF con imágenes escaneadas, recomendamos utilizar la opción Document Understanding OCR en la actividad Extraer datos después de haber descargado un archivo para extraer el texto de estas imágenes (ya que Contextualización aún no admite imágenes). Pasa esa salida extracted_data a la solicitud con ese Recurso de archivo apuntando a tu archivo descargado.

El parámetro Número de resultados representa el número de resultados principales que Contextualización busca y recupera en función de una puntuación de similitud semántica. Estos resultados representan fragmentos de los datos (páginas) que luego se pasan a la ventana de contexto de la solicitud como evidencia para fundamentar la solicitud y la generación asociada. Puedes aumentar este número al límite de la ventana de contexto del modelo. Esto puede ser necesario si la salida no produce resultados esperados/de alta calidad.

Para obtener más información sobre el uso de Contextualización, consulta Acerca de Contextualización.