Transformações

Folder structure

As transformações de um aplicativo de processo consistem em um projeto dbt . A tabela a seguir descreve o conteúdo de uma pasta de projeto dbt .

Pasta/Arquivo	Contém
dbt_packages\	o pacote pm_utils e suas macros.
macros\	pasta opcional para macros personalizadas
models\	.sql arquivos que definem as transformações.
models\schema\	.yml arquivos que definem testes nos dados.
seed	.csv arquivos com definições de configuração.
dbt_project.yml	as configurações do projeto dbt.

Observação:

Os modelos de aplicativos Log de evento e Processo personalizado têm uma estrutura de transformações de dados simplificada. Os aplicativos de processo criados com esses modelos de aplicativos não têm essa estrutura de pastas.

dbt_project.yml

O arquivo dbt_project.yml contém as configurações do projeto dbt que definem suas transformações. A seção vars contém variáveis que são usadas nas transformações.

Formato de data/hora

Cada modelo de aplicativo contém variáveis que determinam o formato para análise de dados de data/hora. Essas variáveis devem ser ajustadas se os dados de entrada tiverem um formato de data/hora diferente do esperado.

Transformações de dados

As transformações de dados são definidas em arquivos .sql no diretório models\ . As transformações de dados são organizadas em um conjunto padrão de subdiretórios.

Confira Estrutura das transformações para obter mais informações.

Os arquivos .sql são escritos em SQL Jinja, o que permite inserir instruções Jinja dentro de consultas SQL simples. Quando dbt executa todos os arquivos .sql , cada arquivo .sql resulta em uma nova exibição ou tabela no banco de dados.

Normalmente, os arquivos .sql têm a seguinte estrutura: Select * from {{ ref('Table_A') }} Table_A.

O código a seguir mostra um exemplo de consulta SQL.

select
    tableA."Field_1" as "Alias_1",
    tableA."Field_2",
    tableA."Field_3"
from {{ ref('tableA') }} as tableA

Observação:

Em alguns casos, para aplicativos de processo criados com versões anteriores dos modelos de aplicativos, os arquivos .sql têm a seguinte estrutura:

1. Instruções With: Uma ou mais instruções with para incluir as subtabelas necessárias.

   • {{ ref(‘My_table) }} refere-se à tabela definida por outro .sql arquivo.
   • {{ source(var("schema_sources"), 'My_table') }} refere-se a uma tabela de entrada.
2. Consulta principal: a consulta que define a nova tabela.
3. Consulta final: Normalmente, uma consulta como Select * from table é usada no final. Isso facilita fazer subseleções durante a depuração.

   

Para obter mais dicas sobre como escrever transformações de forma eficaz, consulte Dicas para escrever SQL.

Adding source tables

When you upload a new input file, a new source table is automatically added in the models\schema\sources.yml in the dbt project. This way, other models can refer to it by using {{ source(var("schema_sources"), 'My_table') }}. Check outManaging input data for more information on how to configure input tables.

A ilustração a seguir mostra um exemplo.

Para obter informações mais detalhadas, consulte a documentação oficial do dbt em Origens.

Data output

As transformações de dados devem gerar o modelo de dados exigido pelo aplicativo correspondente; cada tabela e campo esperados devem estar presentes.

Se você quiser adicionar novos campos ao seu aplicativo de processo, você pode adicionar esses campos nas transformações.

Macros

As macros facilitam a reutilização de construções SQL comuns. Para obter informações detalhadas, consulte a documentação oficial do dbt sobre macros Jinja.

pm_utils

O pacote pm-utils contém um conjunto de macros que normalmente são usadas em transformações do Process Mining. Para obter mais informações sobre as macros pm_utils , consulte ProcessMining-pm-utils.

A ilustração a seguir mostra um exemplo de código Jinja chamando a macro pm_utils.optional() .

sementes

Sementes são arquivos csv usados para adicionar tabelas de dados às suas transformações. Para obter informações detalhadas, consulte a documentação oficial do dbt sobre sementes ginja.

Em Process Mining, isso é normalmente usado para facilitar a configuração de mapeamentos em suas transformações.

Depois de editar os arquivos semente, execute o arquivo selecionando Executar arquivo ou Executar todos, para atualizar a tabela de dados correspondente.

Activity configuration

activity_order é usado como um desempate quando dois eventos estão acontecendo no mesmo carimbo de data/hora.

Usando consultas SQL

Você pode usar consultas SQL em transformações de dados para definir campos adicionais relacionados às atividades O código a seguir mostra um exemplo de consulta SQL para definir o activity_order.

case
            when tableA."Activity" = 'ActivityA'
                then 1
            when tableA."Activity" = 'ActivityB'
                then 2
            when tableA."Activity" = 'ActivityC'
                then 3
            when tableA."Activity" = 'ActivityD'
                then 4
    end as "Activity_order"

Observação:

A maioria dos modelos de aplicativos possui alguns campos predefinidos para a configuração de atividades que você pode adaptar às suas necessidades de negócios. Para aplicativos de processo que não têm esses campos predefinidos, você pode usar o arquivo sementes activity_configuration.csv .

Como usar o arquivo activity_configuration.csv sementes

O arquivo activity_configuration.csv também pode ser usado para definir campos adicionais relacionados às atividades. A ilustração a seguir mostra um exemplo de arquivo activity_configuration.csv .

Observação:

O activity_configuration.csv não pode ser usado para modelos de aplicativos Log de evento e Processo personalizado .

Testes

A pasta models\schema\ contém um conjunto de arquivos .yml que definem os testes. Estes validam a estrutura e o conteúdo dos dados esperados. Para obter informações detalhadas, consulte a documentação oficial do dbt sobre testes.

Observação: ao editar transformações, certifique-se de atualizar os testes adequadamente. Os testes podem ser removidos, se desejado.

Projetos dbt

As transformações de dados são usadas para transformar dados de entrada em dados adequados para o Process Mining. As transformações no Process Mining são escritas como projetos dbt .

Esta página fornece uma introdução ao dbt. Para obter informações mais detalhadas, consulte a documentação oficial do dbt.

pm-utils package

Os modelos de aplicativos do Process Mining vêm com um pacote dbt chamado pm_utils. Esse pacote pm-utils contém funções utilitárias e macros para projetos dbt do Process Mining. Para obter mais informações sobre o pm_utils , consulte ProcessMining-pm-utils.

Atualização da versão pm-utils usada para seu modelo de aplicativo

A UiPath® aprimora constantemente o pacote pm-utils , adicionando novas funções.

Quando uma nova versão do pacote pm-utils é lançada, é recomendável atualizar a versão usada em suas transformações para garantir que você esteja usando as funções e macros mais recentes do pacote pm-utils .

Você encontra o número da versão mais recente do pacote pm-utils no painel Versões do ProcessMining-pm-utils.

Siga estas etapas para atualizar a versão pm-utils em suas transformações.

1. Baixe o código-fonte (zip) da versão de pm-utils.
2. Extraia o arquivo zip e renomeie a pasta para pm_utils.

3. Exporte as transformações do editor de transformações de dados embutidos e extraia os arquivos.

4. Substitua a pasta pm_utils das transformações exportadas pela nova pasta pm_utils .

5. Compacte o conteúdo das transformações novamente e importe-as no editor Transformações de dados .