Editing transformations

Projets dbt

Les Transformations de données sont utilisées pour transformer les données d'entrée en données adaptées à Process Mining. Les transformations dans Process Mining sont écrites sous forme de projets dbt .

Ces pages présentent une introduction à dbt. Pour des informations plus détaillées, consultez la documentation officielle de dbt.

pm-utils package

Les modèles d’application Process Mining sont fournis avec un package dbt appelé pm_utils. Ce package pm-utils contient des fonctions utilitaires et des macros pour les projets dbt Process Mining. Pour plus d'informations sur pm_utils , consultez ProcessMining-pm-utils.

Mise à jour de la version pm-utils utilisée pour votre modèle d'application

UiPath® améliore constamment le package pm-utils en ajoutant de nouvelles fonctions.

Lorsqu'une nouvelle version du paquet pm-utils est publiée, il est conseillé de mettre à jour la version utilisée dans vos transformations, pour vous assurer que vous utilisez les dernières fonctions et macros du paquet pm-utils .

Vous trouverez le numéro de version de la dernière version du package pm-utils dans le panneau Versions de ProcessMining-pm-utils.

Suivez ces étapes pour mettre à jour la version pm-utils dans vos transformations.

1. Téléchargez le code source (zip) à partir de la version pm-utils.
2. Extrayez le fichier zip et renommez-le dans le dossier pm_utils.
3. Exportez les transformations à partir de l'éditeur de transformations de données intégré et extrayez les fichiers.
4. Remplacez le dossier pm_utils des transformations exportées par le nouveau dossier pm_utils .
5. Compressez à nouveau le contenu des transformations et importez-les dans l' éditeur de transformations de données .

Structure des dossiers

The transformations of a process app consist of a dbt project. Below is a description of the contents of a dbt project folder.

Dossier/Fichier	Contient
dbt_packages\	le package pm_utils et ses macros.
logs\	logs created when running dbt.
macros\	macros personnalisées.
models\	.sql qui définissent les transformations.
models\schema\	.yml qui définissent des tests sur les données.
seed	.csv avec les paramètres de configuration.
dbt_project.yml	les paramètres du projet dbt .

Voir illustration ci-dessous.

Transformations de données

Les transformations de données sont définies dans des fichiers .sql dans le répertoire models\ . Les transformations de données sont organisées dans un ensemble standard de sous-répertoires :

• 1_input,
• 2_objects,
• 3_events,
• 4_event_logs,
• 5_business_logic.

Consultez la section Structure des transformations.

The .sql files are written in Jinja SQL, which allows you to insert Jinja statements inside plain SQL queries. When dbt runs all .sql files, each .sql file results in a new view or table in the database.

En règle générale, les fichiers .sql ont la structure suivante :

1. Avec instructions: une ou plusieurs instructions avec des instructions pour inclure les sous-tables requises.

   • {{ ref(‘My_table) }} fait référence à une table définie par un autre fichier .sql fichier.
   • {{ source(var("schema_sources"), 'My_table') }} fait référence à une table d'entrée.

2. Requête principale: la requête qui définit la nouvelle table.

3. Requête finale: en général une requête comme Select * from table est utilisée à la fin. Cela facilite la sous-sélection lors du débogage.

   

Pour plus de conseils sur l'écriture efficace des transformations, consultez les Conseils pour l'écriture de SQL

Ajout de tables sources

To add a new source table to the dbt project, it must be listed in models\schema\sources.yml. This way, other models can refer to it by using {{ source(var("schema_sources"), 'My_table_raw') }}. See the illustration below for an example.

Important :

Each new source table must be listed in sources.yml.

Remarque :

Le suffixe _raw est ajouté aux noms de table des tables sources lors du chargement des données. Par exemple, une table appelée my_table doit être appelée my_table_raw.

Pour des informations plus détaillées, consultez la documentation officielle de dbt sur les sources.

Sortie de données

Les transformations de données doivent générer le modèle de données requis par l'application correspondante ; chaque table et chaque champ attendus doivent être présents.

En pratique, cela signifie que les tables du models\5_business_logic ne doivent pas être supprimées. De plus, les champs de sortie des requêtes correspondantes ne doivent pas être supprimés.

Si vous souhaitez ajouter de nouveaux champs à votre application de processus, vous pouvez utiliser les champs personnalisés disponibles pour l'application de processus. Mappez les champs des transformations aux champs personnalisés pour les rendre disponibles dans la sortie. Assurez-vous que les champs personnalisés sont nommés dans la sortie comme décrit dans le modèle de données de l'application de processus.

Astuce :

Vous pouvez utiliser les commandes dbt docs pour générer un site de documentation pour votre projet dbt et l'ouvrir dans votre navigateur par défaut. Le site de documentation contient également un graphique de lignage qui fournit un diagramme entité-relation avec une représentation graphique du lien entre chaque table de données de votre projet.

Pour des informations détaillées, consultez la documentation officielle de dbt sur dbt docs.

Macros

Les macros facilitent la réutilisation des constructions SQL courantes. Pour des informations détaillées, consultez la documentation officielle de dbt sur les macros jinja.

pm_utils

Le package pm-utils contient un ensemble de macros qui sont généralement utilisées dans les transformations Process Mining. Pour plus d'informations sur les macros pm_utils , consultez ProcessMining-pm-utils.

L'illustration suivante montre un exemple de code jinja appelant la macro pm_utils.optional() .

Graines

Les référence sont des fichiers csv utilisés pour ajouter des tables de données à vos transformations. Pour des informations détaillées, consultez la documentation officielle de dbt sur les donnes jinja.

Dans Process Mining, elle est généralement utilisée pour faciliter la configuration des mappages dans vos transformations.

After editing seed files, these files are not automatically updated in the database immediately. To instruct dbt to load the new seed file contents into the database, run either

• dbt seed - qui ne mettra à jour que les tables des fichiers d'origine, ou

• dbt build - qui exécutera également tous les modèles et tests.

  Remarque :

  If the seed file had no data records initially, the data types in the database might not have been set correctly. To fix this, call run dbt seed --full-refresh. This will also update the set of columns in the database.

Activity configuration

Le fichier activity_configuration.csv est utilisé pour définir des champs supplémentaires liés aux activités. activity_order est utilisé comme briseur de lien lorsque deux événements se produisent sur le même horodatage. L'illustration suivante montre un exemple de fichier activity_configuration.csv .

Tests

Le dossier models\schema\ contient un ensemble de fichiers .yml qui définissent les tests. Ceux-ci valident la structure et le contenu des données attendues. Pour des informations détaillées, consultez la documentation officielle de dbt sur les tests.

Lorsque les transformations sont exécutées dans Process Mining, seuls les tests de sources.yml sont exécutés sur chaque ingestion de données. Cela permet de vérifier si les données d'entrée sont correctement formatées.

Remarque :

When you edit transformations, make sure to update the tests accordingly. The tests can be removed if desired.