Generar finalización de chat

UiPath.OpenAI.IntegrationService.Activities.GenerateChatCompletion

Descripción

Dada una solicitud de usuario y opciones adicionales como instrucciones (que pueden incluir el historial de conversaciones), esta actividad genera una respuesta de finalización de texto. El valor predeterminado de esta actividad es GPT-3.5-Turbo pero también permite el acceso a GPT-4. Ambos modelos están optimizados para el chat, de ahí el nombre de la actividad. Más información sobre la API de finalización de chat.

Ten en cuenta que esta actividad, aunque ofrece a los usuarios la posibilidad de añadir el historial de conversaciones, en realidad no mantiene en la memoria las solicitudes y respuestas anteriores del modelo. No tiene estado. Cada actividad de OpenAI Chat requeriría que el usuario proporcionara el historial de diálogo completo como contexto en la solicitud.

Compatibilidad de proyectos

Windows | Multiplataforma

Configuración

• ID de conexión : la conexión establecida en Integration Service. Accede al menú desplegable para elegir, añadir o gestionar conexiones.

• Nombre del modelo: el modelo de lenguaje grande (LLM) que se utilizará para completar el chat. Selecciona una de las opciones disponibles en la lista desplegable: GPT-4, GPT-3.5, GPT-4V. El valor predeterminado es GPT-4. Puedes leer más sobre las diferencias entre estos modelos en la documentación de OpenAI.
• Solicitud : la solicitud que quieres utilizar para la generación de la finalización del chat. Más información sobre la ingeniería rápida.
• Image type - The type of image to send along with a message if image analysis is needed. This field is displayed if you select the GPT-4V model. Select one of the available options: Image file, Image URL.
  • Image file - Select an image file using a variable. This field supports IResource type input.
  • Image URL - The image URL to send along with a message if image analysis is needed. This field supports String type input.

Administrar propiedades

Utiliza el asistente Administrar propiedades para configurar o utilizar cualquiera de los campos estándar o personalizados del objeto. Puedes seleccionar campos para añadirlos al lienzo de actividad. Los campos estándar o personalizados añadidos están disponibles en el panel Propiedades (en Studio Desktop) o en Mostrar opciones adicionales (en Studio Web).

Opciones adicionales

• Instrucción : instrucciones sobre cómo quieres que la IA genere la respuesta de finalización del chat. Este es el equivalente al rol del sistema discutido en los documentos de OpenAI. El rol de Asistente no está disponible actualmente en esta actividad.
• Nombre del modelo: el modelo de lenguaje grande (LLM) que se utilizará para completar el chat. Puedes elegir entre gpt-3.5-turbo y gpt-4. De forma predeterminada, se selecciona gpt-4 .
• Máximo de tokens : el número máximo de tokens permitidos para la solicitud y la respuesta generada. Menos tokens son menos costosos. La mayoría de los modelos admiten un máximo de 4096 tokens, sin embargo, algunos modelos solo admiten 2048. El valor predeterminado es 1920. Más información sobre los tokens.
• N : el número de opciones de finalización que quieres que devuelva la IA. El valor mínimo de este campo es 1. El valor predeterminado es 1.
• Temperatura : un número entre 0 y 2. Valores más altos como 0.8 hacen que la salida sea más aleatoria, mientras que valores más bajos como 0.2 la hacen más enfocada y determinista. El valor predeterminado es 1.
• P superior : un número entre 0 y 1. Cuanto menor sea el número, se tendrán en cuenta menos tokens. El valor predeterminado es 1.
• Transmisión : especifica si se debe transmitir el progreso parcial. Si se establece, los tokens se envían como eventos enviados por el servidor de solo datos a medida que están disponibles, con la secuencia finalizada con un mensaje data:[DONE] . El valor predeterminado es false.
• Detener : hasta 4 secuencias en las que la API deja de generar más tokens. El texto devuelto no contiene la secuencia de detención. El valor predeterminado es null.
• Sanción de presencia : un número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de si aparecen en el texto hasta el momento, lo que aumenta la probabilidad del modelo de hablar sobre nuevos temas. El valor predeterminado es 0.
• Sanción de frecuencia : número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de su frecuencia existente en el texto hasta el momento, disminuyendo la probabilidad del modelo de repetir la misma línea palabra por palabra. El valor predeterminado es 0.
• Usuario : un identificador único que representa a tu usuario final, que puede ayudar a OpenAI a supervisar y detectar abusos. El valor predeterminado es null.

Salida

• Texto más generado: la cadena de finalización de chat más generada. Si te interesa devolver solo una única respuesta (es decir, N=1, que es la predeterminada), esta será la salida que más probablemente querrás utilizar. Es un tipo de datos Text al que es fácil asignar una variable y utilizarlo directamente en otras actividades/entradas de texto.
• Generar finalización de chat : variable de salida generada automáticamente. La cadena de finalización de chat más generada. Si te interesa devolver solo una única respuesta (es decir, N=1, que es la predeterminada), esta será la salida que más probablemente querrás utilizar. Es un tipo de datos de 'Texto' al que es fácil asignar una variable y utilizarlo directamente en otras actividades/entradas de texto.
  • Opciones : o respuestas del modelo. Puedes establecer el número total de respuestas que quieres obtener del modelo utilizando el campo 'N' en las opciones adicionales de la actividad que por defecto es 1. Esto devolverá como una matriz con el primer objeto a partir de 0. Ej. Hacer referencia a un solo objeto en una matriz dentro de un control Para cada: Response.Choices(0).Text. Para obtener más información, consulta la documentación del objeto Finalización de chat .