Editing transformations

Proyectos Dbt

Las transformaciones de datos se utilizan para transformar los datos de entrada en datos adecuados para Process Mining. Las transformaciones en Process Mining se escriben como proyectos dbt .

Esta página ofrece una introducción a dbt. Para obtener información más detallada, consulta la documentación oficial de dbt.

pm-utils package

Las plantillas de aplicación de Process Mining vienen con un paquete dbt llamado pm_utils. Este paquete pm-utils contiene funciones de utilidad y macros para proyectos dbt de Process Mining. Para obtener más información sobre pm_utils , consulta ProcessMining-pm-utils.

Actualizar la versión de pm-utils utilizada para la plantilla de su aplicación

UiPath® mejora constantemente el paquete pm-utils añadiendo nuevas funciones.

Cuando se lanza una nueva versión del paquete pm-utils , se recomienda actualizar la versión utilizada en tus transformaciones, para asegurarte de que utilizas las últimas funciones y macros del paquete pm-utils .

Encontrarás el número de versión de la última versión del paquete pm-utils en el panel Versiones de ProcessMining-pm-utils.

Siga estos pasos para actualizar la versión pm-utils en sus transformaciones.

1. Descarga el código fuente (zip) de la versión de pm-utils.
2. Extrae el archivo zip y cámbiale el nombre a la carpeta pm_utils.
3. Exporta las transformaciones desde el editor de transformaciones de datos en línea y extrae los archivos.
4. Reemplaza la carpeta pm_utils de las transformaciones exportadas con la nueva carpeta pm_utils .
5. Vuelve a comprimir el contenido de las transformaciones e impórtalo en el editor Transformaciones de datos .

Estructura de la carpeta

The transformations of a process app consist of a dbt project. Below is a description of the contents of a dbt project folder.

Carpeta/Archivo	Contiene
dbt_packages\	el paquete pm_utils y sus macros.
logs\	logs created when running dbt.
macros\	macros personalizadas.
models\	.sql archivos que definen las transformaciones.
models\schema\	.yml archivos que definen pruebas en los datos.
seed	.csv archivos con los ajustes de configuración.
dbt_project.yml	la configuración del proyecto dbt .

Consulta la siguiente ilustración.

Transformaciones de datos

Las transformaciones de datos se definen en archivos .sql en el directorio models\ . Las transformaciones de datos están organizadas en un conjunto estándar de subdirectorios:

• 1_input:
• 2_objects:
• 3_events:
• 4_event_logs:
• 5_business_logic.

Consulta Estructura de las transformaciones.

The .sql files are written in Jinja SQL, which allows you to insert Jinja statements inside plain SQL queries. When dbt runs all .sql files, each .sql file results in a new view or table in the database.

Normalmente, los archivos .sql tienen la siguiente estructura:

1. Con declaraciones: una o más declaraciones con para incluir las subtablas necesarias.

   • {{ ref(‘My_table) }} se refiere a la tabla definida por otro archivo .sql archivo.
   • {{ source(var("schema_sources"), 'My_table') }} se refiere a una tabla de entrada.

2. Consulta principal: la consulta que define la nueva tabla.

3. Consulta final: normalmente se utiliza una consulta como Select * from table al final. Esto facilita la realización de subselecciones durante la depuración.

   

Para obtener más consejos sobre cómo escribir transformaciones de forma efectiva, consulta Consejos para escribir SQL

Añadir tablas de origen

To add a new source table to the dbt project, it must be listed in models\schema\sources.yml. This way, other models can refer to it by using {{ source(var("schema_sources"), 'My_table_raw') }}. See the illustration below for an example.

Importante:

Each new source table must be listed in sources.yml.

Nota:

El sufijo _raw se añade a los nombres de las tablas de origen al cargar datos. Por ejemplo, una tabla llamada my_table debe denominarse my_table_raw.

Para obtener información más detallada, consulta la documentación oficial de dbt en Fuentes.

Salida de datos

Las transformaciones de datos deben generar el modelo de datos que requiere la aplicación correspondiente; todas las tablas y campos esperados deben estar presentes.

En la práctica, esto significa que las tablas de models\5_business_logic no deben eliminarse. Además, los campos de salida de las consultas correspondientes no se deben eliminar.

Si desea agregar nuevos campos a su aplicación de proceso, puede usar los campos personalizados que están disponibles para la aplicación de proceso. Asigna los campos en las transformaciones a los campos personalizados para tenerlos disponibles en la salida. Asegúrese de que los campos personalizados reciban el nombre en la salida como se describe en el modelo de datos de la aplicación de proceso.

Consejo:

Puedes utilizar los comandos dbt docs para generar un sitio de documentación para el proyecto dbt y abrirlo en tu explorador predeterminado. El sitio de documentación también contiene un gráfico de linaje que proporciona un diagrama de relación de entidad con una representación gráfica de la vinculación entre cada tabla de datos de tu proyecto.

Para obtener información detallada, consulta la documentación oficial de dbt en dbt docs.

Macros

Las macros facilitan la reutilización de construcciones SQL comunes. Para obtener información detallada, consulta la documentación oficial de dbt sobre las macros de Jinja.

pm_utils

El paquete pm-utils contiene un conjunto de macros que se utilizan normalmente en las transformaciones de Process Mining. Para obtener más información sobre las macros pm_utils , consulta ProcessMining-pm-utils.

La siguiente ilustración muestra un ejemplo de código Jinja que llama a la macro pm_utils.optional() .

Semillas

Las semillas son archivos csv que se utilizan para añadir tablas de datos a tus transformaciones. Para obtener información detallada, consulta la documentación oficial de dbt sobre semillas de jinja.

En Process Mining, esto se utiliza normalmente para facilitar la configuración de las asignaciones en tus transformaciones.

After editing seed files, these files are not automatically updated in the database immediately. To instruct dbt to load the new seed file contents into the database, run either

• dbt seed , que solo actualizará las tablas de archivos de inicialización, o

• dbt build , que también ejecutará todos los modelos y pruebas.

  Nota:

  If the seed file had no data records initially, the data types in the database might not have been set correctly. To fix this, call run dbt seed --full-refresh. This will also update the set of columns in the database.

Activity configuration

El archivo activity_configuration.csv se utiliza para establecer campos adicionales relacionados con las actividades. activity_order se utiliza como desempate cuando se producen dos eventos en la misma marca de tiempo. La siguiente ilustración muestra un archivo activity_configuration.csv de ejemplo.

Pruebas

La carpeta models\schema\ contiene un conjunto de archivos .yml que definen pruebas. Estos validan la estructura y el contenido de los datos esperados. Para obtener información detallada, consulta la documentación oficial de dbt sobre pruebas.

Cuando las transformaciones se ejecutan en Process Mining, solo se ejecutan las pruebas en sources.yml en cada ingestión de datos. Esto se hace para comprobar si los datos de entrada tienen el formato correcto.

Nota:

When you edit transformations, make sure to update the tests accordingly. The tests can be removed if desired.