Generar finalización de chat

UiPath.MicrosoftAzureOpenAI.IntegrationService.Activities.GenerateChatCompletion

Descripción

Con una solicitud de usuario, una instrucción opcional y otras entradas opcionales como el ID de modelo, etc., se genera una respuesta de finalización del chat. Esta funcionalidad imita las populares capacidades de ChatGPT. Esta actividad permite a los usuarios interactuar con los modelos GPT-3.5 y GPT-4 y simular una experiencia de diálogo con el modelo a través del contexto y los roles de usuario.

Compatibilidad de Proyectos

Windows | Multiplataforma

Configuración

• Conexión : la conexión establecida en Integration Service. Accede al menú desplegable para elegir, añadir o gestionar conexiones. Este campo solo admite cadenas o variables String .
• Solicitud : la solicitud que quieres utilizar para la generación de la finalización del chat. Puedes obtener más información sobre las solicitudes aquí.

Avanzado

Opciones

• Instrucción : instrucciones sobre cómo quieres que la IA genere la respuesta de finalización del chat. Este es el equivalente al 'rol del sistema' discutido en los documentos de OpenAI. El rol 'Asistente' no está disponible actualmente en esta actividad. Para obtener más información, consulta esta página.
• Nombre del modelo: el modelo de lenguaje grande (LLM) que se utilizará para completar el chat. Puedes elegir entre gpt-35-turbo y gpt-4. Puedes leer más sobre las diferencias entre estos modelos aquí. De forma predeterminada, se selecciona gpt-4 .
  Nota: Esta actividad permite a los usuarios seleccionar cualquier modelo GPT-3.5 o GPT-4 que se haya implementado en tu instancia de Azure. Si ves un modelo en el menú desplegable, ponte en contacto con tu Administrador de Azure y asegúrate de que han implementado el modelo en producción.
• Máximo de tokens : el número máximo de tokens permitidos para la solicitud y la respuesta generada. Menos tokens son menos costosos. La mayoría de los modelos admiten un máximo de 4096 tokens, sin embargo, algunos modelos solo admiten 2048. El valor predeterminado es 1920. Puedes leer más información sobre los tokens aquí.
• N : el número de opciones de finalización que quieres que devuelva la IA. El valor mínimo de este campo es 1. El valor predeterminado es 1.
• Temperatura : un número entre 0 y 2. Valores más altos como 0.8 hacen que la salida sea más aleatoria, mientras que valores más bajos como 0.2 la hacen más enfocada y determinista. El valor predeterminado es 1.
• P superior : un número entre 0 y 1. Cuanto menor sea el número, se tendrán en cuenta menos tokens. El valor predeterminado es 1.
• Transmisión : especifica si se debe transmitir el progreso parcial. Si se establece, los tokens se envían como eventos enviados por el servidor de solo datos a medida que están disponibles, con la secuencia finalizada con un mensaje data:[DONE] . El valor predeterminado es false.
• Sanción de presencia : un número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de si aparecen en el texto hasta el momento, lo que aumenta la probabilidad del modelo de hablar sobre nuevos temas. El valor predeterminado es 0.
• Sanción de frecuencia : número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de su frecuencia existente en el texto hasta el momento, disminuyendo la probabilidad del modelo de repetir la misma línea palabra por palabra. El valor predeterminado es 0.

Salida

• Respuesta : el objeto GenerateChatCompletion completo que incluye:
  • Opciones o respuestas del modelo. Puedes establecer el número total de respuestas que deseas del modelo usando el campo 'N' en las opciones adicionales de la actividad, que tiene un valor predeterminado de 1. Esto volverá como una matriz con el primer objeto comenzando en 0. Ej. Haciendo referencia a un solo objeto en una matriz dentro de un control "Para cada": Response.Choices(0).Text

    Para obtener información sobre otras partes del objeto de respuesta de finalización de chat, consulta esta página.

• Texto generado anteriormente: la cadena de finalización de chat generada anteriormente. Si está interesado en devolver una única respuesta (por ejemplo, N = 1, que es el valor predeterminado), esta será la salida que probablemente desee usar. Es un tipo de datos 'Texto' al que es fácil asignar una variable y usar directamente en otras actividades / entradas de texto.