Generación de contenido

Descripción

Genera una respuesta de chat para la solicitud proporcionada utilizando modelos de finalización de chat.

Compatibilidad de proyectos

Windows | Multiplataforma

Configuración

• ID de conexión : la conexión establecida en Integration Service. Accede al menú desplegable para elegir, añadir o gestionar conexiones.

• Nombre del modelo: el nombre o ID del modelo o implementación que se utilizará. Esta actividad se predetermina con el modelo con la salida de la más alta calidad observada. Sin embargo, puedes seleccionar un modelo diferente basado en las salidas y pruebas deseadas.Cambiar modelos puede afectar a la salida.
• Solicitud: la solicitud del usuario para la finalización del chat. Este campo admite entrada de tipo String.
  Nota: para adjuntar una imagen a una solicitud personalizada, utiliza la actividad Análisis de imagen.
• Detección de PII: si se detecta PII o no en la solicitud de entrada. Valor booleano. El valor predeterminado es Falso.
  • Filtrado de PII: si se establece en verdadero, cualquier PII/PHI (Información de identificación personal/Información médica protegida) detectada se enmascara antes de enviarse al LLM. La calidad de la salida puede verse afectada. Si se establece en Falso, la PII detectada se incluye en la solicitud. En ambos casos, la Información de identificación personal (PII) detectada está disponible en la salida. Este campo se muestra si detección de PII se establece en verdadero.
  • Idioma de PII: el idioma de la entrada de solicitud y la salida a la solicitud para escanear en busca de PII.Selecciona un idioma de la lista desplegable disponible. Este campo se muestra si detección de PII se establece en verdadero.
  • Categoría PII/PHI: la categoría o categorías opcionales de PII/PHI para analizar. Si no se establece, se revisan todas las categorías. Este campo se muestra si detección de PII se establece en verdadero.
• Solicitud del sistema: la solicitud de sistema o la instrucción de contexto para la solicitud de finalización del chat. Este campo admite entrada de tipo String.
• Contextualización: fundamenta la solicitud en contexto para aumentar la calidad y la precisión de la salida.Esta característica te permite insertar lógica de negocio propietaria y conocimiento en la solicitud.Puedes hacer referencia a un depósito de Orchestrator donde se han cargado documentos o cargar un archivo directamente para un uso único.Selecciona una de las opciones disponibles en el menú desplegable: Ninguna, Índice existente, Recurso de archivo.
  • Opción de índice existente:
    • Carpeta de Orchestrator: la carpeta de Orchestrator que contiene el índice con el que contextualizar. Esto debe ser una carpeta compartida. Busca por nombre o selecciona en la lista desplegable de carpetas de Orchestrator con permisos en ese tenant. Utiliza el botón Actualización forzada para recuperar las últimas carpetas.
    • Índice: el nombre o ID del índice para fundamentar la solicitud. Selecciona un índice de la lista desplegable disponible.
  • Opción de recurso de archivo:
    • Archivo: haz clic para utilizar una variable. Este campo admite entrada de tipo IResource.
      Nota: este campo tiene un límite de tamaño de archivo de 30 MB. Para archivos más grandes, carga datos en Orchestrator y crea un índice utilizando AI Trust Layer.Formatos compatibles: PDF, JSON, CSV, DOC, JSON, TXT.
• Número de resultados: indica el número de resultados que se devolverán. Este campo admite entrada de tipo Int64.

Administrar propiedades

Utiliza el asistente Administrar propiedades para configurar o utilizar cualquiera de los campos estándar o personalizados del objeto. Puedes seleccionar campos para añadirlos al lienzo de actividad. Los campos estándar o personalizados añadidos están disponibles en el panel Propiedades (en Studio Desktop) o en Mostrar propiedades adicionales (en Studio Web).

Propiedades adicionales

• Puntuación de confianza de PII: la puntuación de confianza mínima necesaria para calificar como PII y ser redactada. Este campo se muestra si detección de PII se establece en verdadero.
• Recuento máximo de tokens: el número máximo de tokens que se generarán en la finalización. El recuento de tokens de tu solicitud más los del resultado/finalización no pueden superar el valor proporcionado para este campo. Es mejor establecer este valor en un valor menor que el recuento máximo del modelo para tener algo de espacio para el recuento de tokens de solicitud. El valor predeterminado es 1024. Si no se establece, la actividad utiliza por defecto los tokens necesarios para dar cabida a la solicitud o los tokens máximos permitidos por el modelo. Este campo admite entrada de tipo Int64.
• Temperatura: el valor del factor de creatividad o temperatura de muestreo que se utilizará. Los valores más altos significan que el modelo tomará más riesgos. Intenta 0,9 para respuestas o finalizaciones más creativas, o 0 (también llamado muestreo argmax) para aquellos con una respuesta bien definida o más exacta. La recomendación general es alterar, del valor predeterminado, este o el valor de la muestra de nucleus, pero no ambos valores. El valor predeterminado es 0.
• Penalización de frecuencia: número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de su frecuencia existente en el texto, disminuyendo la probabilidad del modelo de repetir la misma línea palabra por palabra. El valor predeterminado es 0.
• Penalización de presencia: número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de si aparecen en el texto hasta el momento, lo que aumenta la probabilidad del modelo de hablar sobre nuevos temas. El valor predeterminado es 0.
• Recuento de opciones de finalización: el número de opciones de finalización que se generarán para la solicitud. Cuanto mayor sea el valor de este campo, mayor será el número de tokens que se utilizarán. Esto da como resultado un coste más alto, por lo que debes tener esto en cuenta al establecer el valor de este campo.El valor predeterminado es 1.
• Secuencia de parada: hasta cuatro secuencias donde la API dejará de generar más tokens. El texto devuelto no contiene la secuencia de parada. El valor predeterminado es nulo.

Salida

• Texto generado principal: el texto generado.
• Prueba enmascarada: la solicitud de entrada donde cualquier dato PII potencial se ha reemplazado por marcadores de posición enmascarados.
• Generación de contenido: esta salida contiene el objeto de respuesta anidado completo, incluidos detalles adicionales sobre el resultado, el modelo utilizado y los resultados de detección de PII.
• Cadena de citas: la cadena de citas de la contextualización.

Cómo utilizar la generación de contenido

La actividad de generación de contenido ofrece flexibilidad en la forma en que interactúas con e insertas respuestas generadas por LLM en indicaciones personalizadas en Studio, Studio Web o Apps. Al insertar argumentos y variables en la solicitud, puedes lograr una plantilla de solicitud dinámica que extrae datos de aplicaciones empresariales populares a través de conectores, artículos en cola de Orchestrator, etc. Esto te ayuda a crear automatizaciones significativas y escalables que se ajustan a casos de uso exclusivos.

Importante: puedes seleccionar el modelo que se utilizará para la generación de contenido, crear la solicitud, identificar y ocultar datos PII/PHI y trabajar con opciones avanzadas del modelo que ofrezcan salidas más o menos deterministas.Es importante destacar que los modelos lingüísticos de gran tamaño (LLM) no son deterministas. Debes iterar a través de indicaciones y supervisar las salidas a través del registro, tareas de validación externa (Action Center) y pruebas. La generación de contenido es altamente configurable, pero requiere pruebas y supervisión antes de implementarse en producción.

El parámetro Contextualización habilita la contextualización.Puedes seleccionar una de dos opciones:

• Índice existente: haz referencia al nombre de índice de un índice creado.Esto realiza RAG en el conjunto de datos dentro de ese índice. Este es el caso de uso típico: consultar sobre varios documentos o archivos.
• Recurso de archivo: utiliza un archivo cargado justo a tiempo en la actividad y la contextualización permite a un RAG justo a tiempo o en memoria consultar ese documento específico. Solo puedes cargar un documento aquí, ideal para casos de uso basados en resúmenes.

El parámetro Número de resultados representa el número de resultados principales que Contextualización busca y recupera en función de una puntuación de similitud semántica. Estos resultados representan fragmentos de los datos (páginas) que luego se pasan a la ventana de contexto de la solicitud como evidencia para fundamentar la solicitud y la generación asociada. Puedes aumentar este número al límite de la ventana de contexto del modelo. Esto puede ser necesario si la salida no produce resultados esperados/de alta calidad.

Para obtener más información sobre el uso de Contextualización, consulta Acerca de Contextualización.