Generar finalización de chat

Descripción

Dada una solicitud y otras entradas, genera una respuesta de finalización de chat.

Compatibilidad de proyectos

Windows | Multiplataforma

Configuración

• ID de conexión : la conexión establecida en Integration Service. Accede al menú desplegable para elegir, añadir o gestionar conexiones.

• Mensajes : los mensajes que quieres usar para la generación de finalizaciones de chat. Proporcione al modelo un contexto de diálogo o 'chat' introduciendo una cadena y luego regrese. Debe haber un número impar de cadenas de entrada para que la actividad funcione. La primera entrada será el 'Usuario', la segunda el 'Modelo', y así sucesivamente. Este campo admite entrada de tipo String .
• ID de modelo: el modelo de lenguaje grande (LLM) que se utilizará para la solicitud de finalización. Selecciona una de las opciones disponibles: Bison-002, Bison-001.

Administrar propiedades

Utiliza el asistente Administrar propiedades para configurar o utilizar cualquiera de los campos estándar o personalizados del objeto. Puedes seleccionar campos para añadirlos al lienzo de actividad. Los campos estándar o personalizados añadidos están disponibles en el panel Propiedades (en Studio Desktop) o en Mostrar opciones adicionales (en Studio Web).

Opciones adicionales

• Contexto : la información contextual de la solicitud guía la respuesta del modelo y ayuda a limitar el ámbito de su respuesta en función del contexto proporcionado. Este campo admite entrada de tipo String .
• Máximo de tokens de salida : el número máximo de tokens permitidos para la solicitud y la respuesta generada. Menos tokens son menos costosos. La mayoría de los modelos admiten un máximo de 1024 tokens. El valor predeterminado es 1024.
• Temperatura : un número entre 0 y 1. Valores más altos como 0.8 hacen que la salida sea más aleatoria, mientras que valores más bajos como 0.2 la hacen más enfocada y determinista. El valor predeterminado es 0.8.
• P superior : un número entre 0 y 1. Cuanto menor sea el número, menor será la aleatoriedad del resultado. El valor predeterminado es 0.8.
• Arriba k : un número entre 1 y 40. Cuanto mayor sea el número, mayor será la diversidad del texto generado. El valor predeterminado es 40.
• Ejemplos : pares de mensajes estructurados, que comprenden un mensaje de entrada como "¿Para quién trabajas?" y su correspondiente respuesta ideal "Trabajo para Ned", son ejemplos esenciales para entrenar el modelo para responder de forma eficaz en diversas conversaciones. Este campo admite entrada de tipo String .

Salida

• Texto más generado: el chat más generado. Variable de salida generada automáticamente.
• Finalización del chat : variable de salida generada automáticamente.