Generar finalización de chat

Descripción

Genera una respuesta de chat para la solicitud proporcionada utilizando modelos de finalización de chat.

Compatibilidad de proyectos

Windows | Multiplataforma

Configuración

• ID de conexión : la conexión establecida en Integration Service. Accede al menú desplegable para elegir, añadir o gestionar conexiones.

• Nombre del modelo : el nombre o ID del modelo o implementación que se utilizará para completar el chat. Selecciona una opción de la lista desplegable disponible, que incluye varios modelos de Azure OpenAI y Google Vertex.
• Solicitud : la solicitud del usuario para la solicitud de finalización del chat. Este campo admite entrada de tipo String .

Administrar propiedades

Utiliza el asistente Administrar propiedades para configurar o utilizar cualquiera de los campos estándar o personalizados del objeto. Puedes seleccionar campos para añadirlos al lienzo de actividad. Los campos estándar o personalizados añadidos están disponibles en el panel Propiedades (en Studio Desktop) o en Mostrar opciones adicionales (en Studio Web).

Opciones adicionales

• Aviso del sistema : el aviso del sistema o la instrucción de contexto de la solicitud de finalización del chat. Este campo admite entrada de tipo String .
• Recuento máximo de tokens : el número máximo de tokens que se generarán en la finalización. El recuento de tokens de tu solicitud más los del resultado/finalización no pueden superar el valor proporcionado para este campo. Es mejor establecer este valor para que sea menor que el recuento máximo del modelo para tener algo de espacio para el recuento de tokens de solicitud. El valor predeterminado es 1024. Este campo admite entrada de tipo Int64 .
• Temperatura : el valor del factor de creatividad o la temperatura de muestreo que se va a utilizar. Los valores más altos significan que el modelo asumirá más riesgos. Prueba 0.9 para respuestas o finalizaciones más creativas, o 0 (también llamado muestreo argmax) para las que tienen una respuesta bien definida o más exacta. La recomendación general es modificar, desde el valor predeterminado, este o el valor de Muestra de núcleo, pero no ambos valores. El valor predeterminado es 1.
• Recuento de opciones de finalización : el número de opciones de finalización que se generarán para la solicitud. Cuanto mayor sea el valor de este campo, mayor será el número de tokens que se utilizarán. Esto da como resultado un coste mayor, por lo que el usuario debe tenerlo en cuenta al establecer el valor de este campo. El valor predeterminado es 1.
• Detener secuencia : hasta cuatro secuencias en las que la API dejará de generar más tokens. El texto devuelto no contiene la secuencia de detención. El valor predeterminado es nulo.
• Penalización de presencia : número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens en función de si aparecen en el texto hasta el momento, lo que aumenta la probabilidad del modelo de hablar sobre nuevos temas. El valor predeterminado es 0.
• Penalización de frecuencia : número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens en función de su frecuencia existente en el texto hasta el momento, lo que reduce la probabilidad del modelo de repetir la misma línea palabra por palabra. El valor predeterminado es 0.

Salida

• Texto generado superior: el texto generado. Variable de salida generada automáticamente.
• Generar finalización de chat : variable de salida generada automáticamente.