Como limpar logs manualmente

Limpeza de logs do Ceph

Alterando o modo somente leitura do Ceph

Se você instalou o AI Center e usa o armazenamento do Ceph, siga as seguintes etapas para retirar o Ceph do modo somente leitura:

1. Verifique se o Ceph está em plena capacidade:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph status
   

   Se o Ceph estiver em plena capacidade, você deve ajustar o limiar somente leitura para iniciar os gateways rgw.

2. Reduza as habilidades de ML:

   kubectl -n uipath scale deployment <skill> --replicas=0
   

3. Coloque o cluster no modo de gravação:

   ceph osd set-full-ratio 0.95 <95 is the default value so you could increase to 96 and go up
   incrementall>
   

4. Execute a coleta de lixo:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- radosgw-admin gc process --include-all
   

5. Quando o armazenamento diminuir, execute os seguintes comandos:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph status
   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph df
   

   Neste ponto, o armazenamento deve ser menor, e o cluster deve estar íntegro.

Desativando registros de streaming

Para garantir que tudo esteja em um bom estado, desabilite os logs de streaming seguindo as seguintes etapas.

1. Desabilite a sincronização automática no UiPath e no AI Center.

2. Desabilite logs de streaming para o AI Center.

3. Se você tiver habilidades de ML que já foram implantadas, execute os seguintes comandos:

   kubectl set env deployment [REPLICASET_NAME] LOGS_STREAMING_ENABLED=false
   

4. Descubra quais buckets usam mais espaço:

   kubectl -n rook-ceph exec deploy/rook-ceph-tools -- radosgw-admin bucket stats | jq -r '["BucketName","NoOfObjects","SizeInKB"], ["--------------------","------","------"], (.[] | [.bucket, .usage."rgw.main"."num_objects", .usage."rgw.main".size_kb_actual]) | @tsv' | column -ts $'\t'
   

5. Instale o s3cmd para se preparar para limpar o sf-logs:

   pip3 install awscli s3cmd
   export PATH=/usr/local/bin:$PATH
   

6. Clean up the sf-logs logs. For details, see How to clean up old logs stored in the sf-logs bundle.

7. Conclua a operação de limpeza:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- radosgw-admin gc process --include-all
   

8. Se as etapas anteriores não resolverem o problema, limpe os dados do AI Center.

9. Verifique se o armazenamento foi reduzido:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph df
   

10. Quando o armazenamento não estiver mais cheio, reduza a configuração do preenchimento:

    kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd set-full-ratio 0.95
    

11. Verifique se as habilidades de ML são afetadas pelo problema de upload de várias partes:

    echo $(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- radosgw-admin bucket list --max-entries 10000000 --bucket train-data | jq '[.[] | select (.name | contains("_multipart")) | .meta.size] | add') | numfmt --to=iec-i
    

    Se forem afetados por esse problema e o valor retornado for alto, você pode precisar fazer um backup e restaurar.

Limpeza de logs do s3

Se você usar um provedor de armazenamento compatível com s3, siga as seguintes etapas para limpar seus logs:

1. Obtenha a chave para acesso ao armazenamento.

2. Encontre os itens grandes:

   export PATH=/usr/local/bin:$PATH
   kubectl  get secret -n logging  logging-secrets -o json |jq -r .data
   
   # Then base64 decode the "S3_ACCESSKEY" and "S3_SECRETKEY"
   

3. Configure a AWS CLI usando as credenciais decodificadas na etapa anterior. Para configurar a AWS, execute o seguinte comando:

   aws configure
   
   --
   Once aws cli is configured, you can run below commands to check content of sf logs
   

4. Exclua o sf-logs. Para obter mais detalhes, consulte a documentação da AWS.

   aws s3 rm --endpoint-url <AWS-ENDPOINT> --no-verify-ssl --recursive s3://sf-logs --include="2022* --exclude="2022_12_8"
   
   # You can craft an include and exclude command to help with this. use --dryrun first
   

5. Exclua o train-data.

Para limpar logs automaticamente, você também pode configurar uma política de limpeza em seu armazenamento de objetos externo.

Observação:

A política de retenção do CORS e do bucket está sujeita a alterações com base no provedor ObjectStore. Consulte a documentação do provedor ObjectStore para saber o mesmo.

Recomendamos a retenção de 15 dias para os logs gerados pela plataforma do Automation Suite. Esses objetos de log são encontrados na pasta automation-suite-logs do bucket da plataforma.

O seguinte exemplo mostra as etapas necessárias para a AWS:

1. Crie policy.json com o seguinte conteúdo:

   {
       "Rules": [
           {
               "Filter": {
                   "Prefix": "automation-suite-logs/"
               },
               "Status": "Enabled",
               "Expiration": {
                   "Days": 15
               },
               "ID": "DeleteOldLogs"
           }
       ]
   }
   

2. Para aplicar policy.json ao bucket, execute o seguinte comando:

   aws s3api put-bucket-lifecycle-configuration --bucket BUCKET_NAME --lifecycle-configuration file://policy.json