Cómo limpiar manualmente los registros

Limpiar los registros de Ceph

Sacar a Ceph del modo solo lectura

Si instalaste AI Center y utilizas el almacenamiento de Ceph, sigue los siguientes pasos para sacar a Ceph del modo de solo lectura:

1. Comprueba si Ceph está a plena capacidad:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph status

   Si Ceph está a plena capacidad, debes ajustar el umbral de solo lectura para iniciar las puertas de enlace rgw.
2. Reduce las Habilidades ML:

   kubectl -n uipath scale deployment <skill> --replicas=0

3. Pon el clúster en modo de escritura:

   ceph osd set-full-ratio 0.95 <95 is the default value so you could increase to 96 and go up 
   incrementall>

4. Ejecuta la recolección de elementos no utilizados:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- radosgw-admin gc process --include-all

5. Cuando el almacenamiento deje de funcionar, ejecuta los siguientes comandos:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph status
   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph df

   Llegados a este punto, el almacenamiento debería ser menor y el clúster debería estar en buen estado.

Deshabilitar registros de transmisión

Para garantizar que todo esté en buen estado, deshabilita los registros de transmisión siguiendo los siguientes pasos.

1. Deshabilita la sincronización automática en UiPath y AI Center.
2. Deshabilita los registros de transmisión para AI Center.
3. Si tienes Habilidades ML que ya hayan sido implementadas, ejecuta los siguientes comandos:

   kubectl set env deployment [REPLICASET_NAME] LOGS_STREAMING_ENABLED=false

4. Descubre qué depósitos utilizan más espacio:

   kubectl -n rook-ceph exec deploy/rook-ceph-tools -- radosgw-admin bucket stats | jq -r '["BucketName","NoOfObjects","SizeInKB"], ["--------------------","------","------"], (.[] | [.bucket, .usage."rgw.main"."num_objects", .usage."rgw.main".size_kb_actual]) | @tsv' | column -ts $'\t'

5. Instala s3cmd para prepararte para limpiar sf-logs:

   pip3 install awscli s3cmd
   export PATH=/usr/local/bin:$PATH

6. Limpia los registros de sf-logs. Para obtener más detalles, consulta Cómo limpiar los registros antiguos almacenados en el paquete sf-logs.
7. Completa la operación de limpieza:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- radosgw-admin gc process --include-all

8. Si los pasos anteriores no resuelven el problema, limpia los datos de AI Center.
9. Comprueba si se ha reducido el almacenamiento:

   kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph df

10. Una vez el almacenamiento ya no esté lleno, reduce la configuración de relleno:

    kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd set-full-ratio 0.95

11. Comprueba si las Habilidades ML se han visto afectadas por la incidencia de la carga en varias partes:

    echo $(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- radosgw-admin bucket list --max-entries 10000000 --bucket train-data | jq '[.[] | select (.name | contains("_multipart")) | .meta.size] | add') | numfmt --to=iec-i

    Si han sido afectadas por esta incidencia y el valor devuelto es alto, es posible que debas hacer una copia de seguridad y restauración.

Limpiar los registros de s3

Si utilizas un proveedor de almacenamiento compatible con s3, sigue los siguientes pasos para limpiar tus registros:

1. Obtén la clave para el acceso al almacenamiento.
2. Busca los elementos más grandes:

   export PATH=/usr/local/bin:$PATH
   
   kubectl -n rook-ceph get secrets ceph-object-store-secret -o yaml
    
    base64 decode the OBJECT_STORAGE_ACCESSKEY and OBJECT_STORAGE_SECRETKEY and OBJECT_STORAGE_EXTERNAL_HOST
   
   run: aws configure

   aws s3 ls --endpoint-url <AWS-ENDPOINT> --no-verify-ssl --recursive s3://<bucket name>
   
   So for sf-logs
   
   aws s3 ls --endpoint-url <AWS-ENDPOINT> --no-verify-ssl --recursive s3://sf-logs
   
   aws s3 ls --endpoint-url <AWS-ENDPOINT> --no-verify-ssl --recursive s3://sf-logs --recursive --human-readable --sumarize

3. Elimina la sf-logs. Para obtener más detalles, consulta la documentación de AWS.

   aws s3 rm --endpoint-url <AWS-ENDPOINT> --no-verify-ssl --recursive s3://sf-logs --include="2022* --exclude="2022_12_8"
   
   So craft an include and exclude command to help with this. use --dryrun first

4. Elimina la train-data.