Cómo limpiar manualmente los registros

Limpiar los registros de Ceph

Sacar a Ceph del modo solo lectura

Si instalaste AI Center y utilizas el almacenamiento de Ceph, sigue los siguientes pasos para sacar a Ceph del modo de solo lectura:

1. Comprueba si Ceph está a plena capacidad:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph status

   Si Ceph está a plena capacidad, debes ajustar el umbral de solo lectura para iniciar las puertas de enlace rgw.
2. Reduce las Habilidades ML:

   kubectl -n uipath scale deployment <skill> --replicas=0

3. Pon el clúster en modo de escritura:

   ceph osd set-full-ratio 0.95 <95 is the default value so you could increase to 96 and go up 
   incrementall>

4. Ejecuta la recolección de elementos no utilizados:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- radosgw-admin gc process --include-all

5. Cuando el almacenamiento deje de funcionar, ejecuta los siguientes comandos:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph status
   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph df

   Llegados a este punto, el almacenamiento debería ser menor y el clúster debería estar en buen estado.

Deshabilitar registros de transmisión

Para garantizar que todo esté en buen estado, deshabilita los registros de transmisión siguiendo los siguientes pasos.

1. Deshabilita la sincronización automática en UiPath y AI Center.
2. Deshabilita los registros de transmisión para AI Center.
3. Si tienes Habilidades ML que ya hayan sido implementadas, ejecuta los siguientes comandos:

   kubectl set env deployment [REPLICASET_NAME] LOGS_STREAMING_ENABLED=false

4. Descubre qué depósitos utilizan más espacio:

   kubectl -n rook-ceph exec deploy/rook-ceph-tools -- radosgw-admin bucket stats | jq -r '["BucketName","NoOfObjects","SizeInKB"], ["--------------------","------","------"], (.[] | [.bucket, .usage."rgw.main"."num_objects", .usage."rgw.main".size_kb_actual]) | @tsv' | column -ts $'\t'

5. Instala s3cmd para prepararte para limpiar sf-logs:

   pip3 install awscli s3cmd
   export PATH=/usr/local/bin:$PATH

6. Limpia los registros de sf-logs. Para obtener más detalles, consulta Cómo limpiar los registros antiguos almacenados en el paquete sf-logs.
7. Completa la operación de limpieza:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- radosgw-admin gc process --include-all

8. Si los pasos anteriores no resuelven el problema, limpia los datos de AI Center.
9. Comprueba si se ha reducido el almacenamiento:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph df

10. Una vez el almacenamiento ya no esté lleno, reduce la configuración de relleno:

    kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd set-full-ratio 0.95

11. Comprueba si las Habilidades ML se han visto afectadas por la incidencia de la carga en varias partes:

    echo $(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- radosgw-admin bucket list --max-entries 10000000 --bucket train-data | jq '[.[] | select (.name | contains("_multipart")) | .meta.size] | add') | numfmt --to=iec-i

    Si han sido afectadas por esta incidencia y el valor devuelto es alto, es posible que debas hacer una copia de seguridad y restauración.

Limpiar los registros de s3

Si utilizas un proveedor de almacenamiento compatible con s3, sigue los siguientes pasos para limpiar tus registros:

1. Obtén la clave para el acceso al almacenamiento.
2. Busca los elementos más grandes:

   export PATH=/usr/local/bin:$PATH
   kubectl  get secret -n logging  logging-secrets -o json |jq -r .data
    
   # Then base64 decode the "S3_ACCESSKEY" and "S3_SECRETKEY"

3. Configura la AWS CLI utilizando las credenciales decodificadas en el paso anterior. Para configurar AWS, ejecuta el siguiente comando:

   aws configure
   
   --
   Once aws cli is configured, you can run below commands to check content of sf logs

4. Elimina la sf-logs. Para obtener más detalles, consulta la documentación de AWS.

   aws s3 rm --endpoint-url <AWS-ENDPOINT> --no-verify-ssl --recursive s3://sf-logs --include="2022* --exclude="2022_12_8"
   
   # You can craft an include and exclude command to help with this. use --dryrun first

5. Elimina la train-data.

Para limpiar los registros automáticamente, también puedes configurar una política de limpieza en tu almacén de objetos externo.

Nota:

La política de retención de CORS y depósitos está sujeta a cambios en función del proveedor de ObjectStore. Consulta la documentación de tu proveedor de ObjectStore para obtener lo mismo.

Recomendamos una retención de 15 días para los registros generados por la plataforma de Automation Suite. Estos objetos de registro se encuentran en la carpeta automation-suite-logs del depósito de la plataforma.

El siguiente ejemplo muestra los pasos necesarios para AWS:

1. Crea policy.json con el siguiente contenido:

   {
       "Rules": [
           {
               "Filter": {
                   "Prefix": "automation-suite-logs/"
               },
               "Status": "Enabled",
               "Expiration": {
                   "Days": 15
               },
               "ID": "DeleteOldLogs"
           }
       ]
   }

2. Para aplicar policy.json al depósito, ejecuta el siguiente comando:

   aws s3api put-bucket-lifecycle-configuration --bucket BUCKET_NAME --lifecycle-configuration file://policy.json