Configurar un LLM para Autopilot

Configure your own LLM subscription for Autopilot via the AI Trust Layer.

La tarjeta AI Trust Layer en la sección Administración de tu organización te permite configurar tu propia suscripción para los modelos compatibles con Autopilot.

Para configurar tu propio LLM, necesitas una conexión a los siguientes proveedores de IA, dependiendo del modelo que quieras incorporar:

• Amazon Bedrock o Amazon Web Services, para modelos Anthropic
• Google Vertex, para modelos Gemini.
  Importante:

  Para configurar un modelo Gemini, debes ponerte en contacto con tu gestor técnico de cuentas de UiPath designado.

Al seleccionar Autopilot como el producto para el que deseas configurar tu propio LLM, debes seleccionar la característica que utilizará ese modelo:

Generación

Configura tu propio LLM para generar automatizaciones, expresiones o aplicaciones en tus proyectos de Studio. Debes anular todos los modelos predeterminados con los tuyos:

1. Ve a la sección Admin > AI Trust Layer de tu organización.

2. En la pestaña Configuraciones de LLM , selecciona el tenant donde quieres configurar tu LLM.

3. Selecciona Añadir configuración y proporciona las siguientes propiedades:

   1. Producto : selecciona Autopilot
   2. Característica : seleccionar Generación

4. Proporciona la Carpeta de conexiones.

5. Para cada nombre de LLM predeterminado, configura un nuevo conector y una conexión para tu propio modelo.

   

Chat

Configure a different LLM for reading the context of your current page or project and answering questions, explaining automations, or suggesting improvements. The model you configure overrides the existing model. Autopilot uses a primary model for complex tasks and an optional secondary model for simpler, cost-optimized tasks.

1. Ve a la sección Admin > AI Trust Layer de tu organización.

2. En la pestaña Configuraciones de LLM , selecciona el tenant donde quieres configurar tu LLM.

3. Selecciona Añadir configuración y proporciona las siguientes propiedades:

   1. Producto : selecciona Autopilot
   2. Característica : seleccionar Chat

4. Proporciona la Carpeta de conexiones.

5. Configura tu nuevo modelo.

   

Importante:

Si configuras un modelo primario y otro secundario, una información sobre herramientas muestra los nombres de ambos modelos y confirma que el modelo secundario se utiliza para la optimización. Si configuras solo el modelo principal, una advertencia marca la configuración secundaria que falta, y el modelo principal gestiona todas las tareas, incluidas las más sencillas que, de otro modo, el sistema descargaría en un modelo secundario más ligero. Dejar el modelo secundario sin configurar se establece de forma predeterminada en una suscripción propiedad de UiPath para las organizaciones de Automation Cloud, o puede limitar las características de chat como la compactación de contexto para las organizaciones de Automation Suite.

Para obtener más información, consulta Configurar una conexión LLM.

Para obtener la lista de modelos compatibles con Autopilot y sus límites de ventana de contexto y token de salida, consulta Modelos y límites compatibles.

El Producto y la Característica que selecciones aquí (Autopilot > Generación o Autopilot > Chat) determinan qué configuración de LLM se aplica. El centro de modelos muestra el modelo, el proveedor, la región y el estado resultantes para productos como Test Manager, que no se puede seleccionar allí: sigue los pasos de esta página (o elimina la configuración) para cambiar el modelo. El centro de modelos muestra solo el resultado y el historial de configuración.

Importante:

Eres responsable del ciclo de vida de cualquier configuración de LLM personalizada que establezcas aquí. Cuando el modelo subyacente queda obsoleto, se le notifica con al menos 30 días de antelación, en la aplicación y por correo electrónico, y debe migrar a un reemplazo antes de la fecha de obsolescencia; de lo contrario, las solicitudes a través de esa configuración fallarán.

For details, refer to Model hub and Managing models in Model hub.