Generar finalización de chat

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

Descripción

Dada una solicitud de usuario y opciones adicionales como instrucción (que puede incluir el historial de conversaciones), esta actividad genera una respuesta de finalización de texto. Más información sobre la API de finalización de chat.

Ten en cuenta que esta actividad, aunque ofrece a los usuarios la posibilidad de añadir el historial de conversaciones, en realidad no mantiene en la memoria las solicitudes y respuestas anteriores del modelo. No tiene estado. Cada actividad de OpenAI Chat requeriría que el usuario proporcionara el historial de diálogo completo como contexto en la solicitud.

Compatibilidad de proyectos

Windows | Multiplataforma

Configuración

• Conexión : la conexión establecida en Integration Service. Accede al menú desplegable para elegir, añadir o gestionar conexiones.
• Nombre del modelo : el modelo lingüístico de gran tamaño (LLM) que se utilizará para completar el chat. Selecciona una de las opciones disponibles en la lista desplegable. No todos los modelos admiten la finalización del chat. Asegúrese de que el modelo seleccionado sea compatible con esta operación. Puedes obtener más información sobre las diferencias entre estos modelos en la documentación de OpenAI.
• Solicitud : la solicitud que quieres utilizar para la generación de la finalización del chat. Más información sobre la ingeniería de solicitudes.
• Tipo de imagen : el tipo de imagen que se enviará junto con un mensaje si se necesita un análisis de imagen. Este campo se muestra si seleccionas el modelo GPT-4V. Selecciona una de las opciones disponibles: Archivo de imagen, URL de imagen. Formatos de archivo compatibles: PNG (.png), JPEG (.jpeg y .jpg), WEBP (.webp) y GIF no animado (.gif)
  • Archivo de imagen : selecciona un archivo de imagen utilizando una variable. Este campo admite entrada de tipo IResource .
  • URL de la imagen : la URL de la imagen que se enviará junto con un mensaje si se necesita un análisis de imagen. Este campo admite entrada de tipo String .

Administrar propiedades

Utiliza el asistente Administrar propiedades para configurar o utilizar cualquiera de los campos estándar o personalizados del objeto. Puedes seleccionar campos para añadirlos al lienzo de actividad. Los campos estándar o personalizados añadidos están disponibles en el panel Propiedades (en Studio Desktop) o en Mostrar propiedades adicionales (en Studio Web).

Propiedades adicionales

• Instrucción : instrucciones sobre cómo quieres que la IA genere la respuesta de finalización del chat. Este es el equivalente al rol del sistema discutido en los documentos de OpenAI. El rol Assistant no está disponible actualmente en esta actividad.
• Máximo de tokens : el número máximo de tokens permitidos para la solicitud y la respuesta generada. Menos tokens son más baratos. La mayoría de los modelos admiten un máximo de 4096 tokens, sin embargo, algunos modelos solo admiten 2048. El valor predeterminado es 1920. Más información sobre los tokens.
• N : el número de opciones de finalización que quieres que devuelva la IA. El valor mínimo de este campo es 1. El valor predeterminado es 1.
• Temperatura : un número entre 0 y 2. Valores más altos como 0.8 hacen que la salida sea más aleatoria, mientras que valores más bajos como 0.2 la hacen más precisa y determinista. El valor predeterminado es 1.
• P superior : un número entre 0 y 1. Cuanto menor sea el número, menos tokens se tendrán en cuenta. El valor predeterminado es 1.
• Transmisión : especifica si se debe transmitir el progreso parcial. Si se establece, los tokens se envían como eventos enviados por el servidor solo de datos a medida que están disponibles, con el flujo terminado por un mensaje data:[DONE] . El valor predeterminado es false.
• Detener : hasta 4 secuencias en las que la API deja de generar más tokens. El texto devuelto no contiene la secuencia de detención. El valor predeterminado es null.
• Penalización de presencia : un número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de si aparecen en el texto hasta el momento, lo que aumenta la probabilidad del modelo de hablar sobre nuevos temas. El valor predeterminado es 0.
• Penalización de frecuencia : número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de su frecuencia existente en el texto hasta el momento, disminuyendo la probabilidad del modelo de repetir la misma línea palabra por palabra. El valor predeterminado es 0.
• Usuario : un identificador único que representa a tu usuario final, que puede ayudar a OpenAI a supervisar y detectar abusos. El valor predeterminado es null.

Salida

• Texto más generado : la cadena de finalización de chat más generada. Si estás interesado en devolver solo una única respuesta (es decir, N=1, que es el valor predeterminado), esta será la salida que probablemente querrás utilizar. Es un tipo de datos Text al que es fácil asignar una variable y utilizarlo directamente en otras actividades/entradas de texto.
• Generar finalización de chat : variable de salida generada automáticamente. La cadena de finalización de chat más generada. Si estás interesado en devolver solo una única respuesta (es decir, N=1, que es el valor predeterminado), esta será la salida que probablemente querrás utilizar. Es un tipo de datos de 'Texto' al que es fácil asignar una variable y utilizarlo directamente en otras actividades/entradas de texto.
  • Opciones : o respuestas del modelo. Puedes establecer el número total de respuestas que deseas del modelo utilizando el campo 'N' en las opciones adicionales de la actividad, que por defecto es 1. Esto devolverá como una matriz con el primer objeto a partir de 0. Ej. Hacer referencia a un único objeto en una matriz dentro de un control Para cada: Response.Choices(0).Text. Para obtener más información, consulta la documentación del objeto Finalización de chat .