Obtener finalización de texto mediante Llama2

Descripción

Genera una respuesta de finalización de texto basada en una solicitud determinada utilizando modelos Meta Llama 2.

Compatibilidad de proyectos

Windows | Multiplataforma

Configuración

• ID de conexión : la conexión establecida en Integration Service. Accede al menú desplegable para elegir, añadir o gestionar conexiones.

• Modelo : el modelo que se utilizará para la generación de finalización de texto. Selecciona una de las opciones disponibles en la lista desplegable: Llama2 13B, Llama2 70B.
• Solicitud : la solicitud que se utilizará para la generación de finalización de texto. Este campo admite entrada de tipo String .

Administrar propiedades

Utiliza el asistente Administrar propiedades para configurar o utilizar cualquiera de los campos estándar o personalizados del objeto. Puedes seleccionar campos para añadirlos al lienzo de actividad. Los campos estándar o personalizados añadidos están disponibles en el panel Propiedades (en Studio Desktop) o en Mostrar opciones adicionales (en Studio Web).

Opciones adicionales

• Recuento máximo de tokens: el número máximo de tokens permitidos para la solicitud y la respuesta generada. Menos tokens son menos costosos. El valor predeterminado es 256. Este campo admite entrada de tipo Int32 .
• Temperatura : un número entre 0 y 2. Los valores más altos hacen que la salida sea más aleatoria, mientras que los valores más bajos la hacen más centrada y determinista. De forma predeterminada, este campo está establecido en 0.2. Este campo admite entrada de tipo Double .
• P superior : un número entre 0 y 1. Cuanto menor sea el número, menos tokens se tendrán en cuenta. Este campo admite entrada de tipo Int32 .

Salida

• Finalización : finalización del texto más generado. Variable de salida generada automáticamente.
• Objeto de respuesta de finalización de texto : el objeto de respuesta completo para la finalización de texto. Variable de salida generada automáticamente.