Generar finalización de texto

UiPath.MicrosoftAzureOpenAI.IntegrationService.Activities.GenerateTextCompletion

Descripción

Dada una solicitud y otras entradas como la ID del modelo, etc., genera una respuesta de finalización de texto

Compatibilidad de Proyectos

Windows | Multiplataforma

Configuración

• ConnectionId : la conexión establecida en el servicio de integración. Accede al menú desplegable para elegir, añadir o gestionar conexiones. Este campo solo admite cadenas o variables String .
• Solicitud : la solicitud que quieres utilizar para generar la finalización del texto.

Avanzado

Opciones

• Modelo : el nombre o ID del modelo utilizado para la generación de completaciones de texto.
  Nota: esta actividad permite a los usuarios seleccionar cualquier modelo GPT-3 que se haya implementado en tu instancia de Azure. Si ves un modelo en el menú desplegable, ponte en contacto con tu Administrador de Azure y asegúrate de que han implementado el modelo en producción.
• Máximo de tokens : el número máximo de tokens que se generarán en la finalización. El recuento de tokens de tu solicitud más max_tokens no puede superar la longitud del contexto del modelo. La mayoría de los modelos tienen una longitud de contexto de 2048 tokens (excepto los modelos más nuevos, que admiten 4096). Puedes obtener más información sobre los tokens aquí.
• N : el número de opciones de finalización que quieres que devuelva la IA. El valor mínimo de este campo es 1. El valor predeterminado es 1.
• Temperatura : el valor de la temperatura de muestra a utilizar. Valores más altos significan que el modelo asume más riesgos. Pruebe 0.9 para obtener respuestas más creativas o finalizaciones, y 0 (también llamado muestra de argumentos máximos) para aquellas con una respuesta bien definida o más exacta. La recomendación general es modificar, desde el valor predeterminado, este valor o el valor de muestra de Núcleo, pero no ambos. El valor predeterminado es 1.
• P superior : un número entre 0 y 1. Cuanto menor sea el número, se tendrán en cuenta menos tokens. El valor predeterminado es 1.
• Transmisión : especifica si se debe transmitir el progreso parcial. Si se establece, los tokens se envían como eventos enviados por el servidor de solo datos a medida que están disponibles, con la secuencia finalizada con un mensaje data:[DONE] . El valor predeterminado es false.
• Problemas de registro : incluye las probabilidades de registro en los tokens más probables logprob, así como los tokens elegidos. Por ejemplo, si logprobs es 5, la API devuelve una lista de los 5 tokens más probables. La API siempre devuelve el logprob del token de muestra, por lo que puede haber hasta logprobs+1 elementos en la respuesta. El valor máximo para logprobs es 5. El valor predeterminado es null.
• Copiar : además de la finalización, si el campo se establece en true, se repite la solicitud. El valor predeterminado es false.
• Detener : hasta 4 secuencias en las que la API deja de generar más tokens. El texto devuelto no contiene la secuencia de detención. El valor predeterminado es null.
• Sanción de presencia : un número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de si aparecen en el texto hasta el momento, lo que aumenta la probabilidad del modelo de hablar sobre nuevos temas. El valor predeterminado es 0.
• Sanción de frecuencia : número entre -2.0 y 2.0. Los valores positivos sancionan los nuevos tokens en función de su frecuencia existente en el texto hasta el momento, disminuyendo la probabilidad del modelo de repetir la misma línea palabra por palabra. El valor predeterminado es 0.
• Lo mejor de : genera best_of completaciones del lado del servidor y devuelve el best (el que tiene la probabilidad de registro más alta por token). Los resultados no se pueden transmitir. Cuando se usa con N, best_of controla el número de finalizaciones candidatas y N especifica cuántas devolver; best_of debe ser mayor que N. Por defecto es 1.

Salida

• Respuesta : el objeto GenerateTextCompletion completo que incluye:
  • Opciones o respuestas del modelo. Puedes establecer el número total de respuestas que deseas del modelo usando el campo 'N' en las opciones adicionales de la actividad, que tiene un valor predeterminado de 1. Esto volverá como una matriz con el primer objeto comenzando en 0. Ej. Haciendo referencia a un solo objeto en una matriz dentro de un control "Para cada": Response.Choices(0).Text.

    Para obtener información sobre otras partes del objeto de respuesta de finalización de texto, consulta esta página.

• Texto generado superior: la cadena de finalización de texto generado. Si está interesado en devolver una única respuesta (por ejemplo, N = 1, que es el valor predeterminado), esta será la salida que probablemente desee usar. Es un tipo de datos 'Texto' al que es fácil asignar una variable y usar directamente en otras actividades / entradas de texto.