Handbuch: Migrieren des Ceph-Datenpools vom replizierten zum löschungscodierten Typ

Schritt 1: Auswählen eines Pfads für Ceph-Objekte

Sie müssen einen Dateisystempfad auswählen, der über Speicherplatz für Ceph-Objekte verfügt. Angenommen, Sie möchten den Pfad /ceph-data auf dem Kubernetes-Knoten server0 verwenden.

Wichtig: Sie müssen das Ceph-Tool so ausrichten, dass es diesen Hostpfad verwendet, und alle nachfolgenden Befehle müssen auf derselben Maschine ausgeführt werden (in diesem Fall server0).

export ROOK_CEPH_EXPORT_PATH="/ceph-data"

Um den von Objekten im Ceph-Cluster verwendeten Speicherplatz anzuzeigen, führen Sie den folgenden Befehl aus:

ceph_objects_bytes=$(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph status --format json | jq -r '.pgmap.data_bytes')
numfmt --to=iec-i $ceph_objects_bytes

Schritt 2: Vorbereiten der Ceph-Tools für die Verwendung des Pfads

Führen Sie die folgenden Schritte aus, um die Ceph-Tools für die Verwendung des in Schritt 1 ausgewählten Pfads vorzubereiten:

1. Selbstreparatur für rook-ceph-object-store deaktivieren:

   kubectl -n argocd patch application rook-ceph-operator --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":false}]'
   kubectl -n argocd patch application rook-ceph-object-store --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":false}]'
   kubectl -n argocd patch application fabric-installer --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":false}]'

2. Bearbeiten Sie die Ceph-Tools-Bereitstellung, um ${ROOK_CEPH_EXPORT_PATH} auf dem Kubernetes-Knoten bereitzustellen: server0

   kubectl -n rook-ceph patch deploy rook-ceph-tools --type='json' -p='[{"op": "add", "path":"/spec/template/spec/nodeName", "value": "server0"},{"op": "add", "path":"/spec/template/spec/volumes/2", "value": {"name":"ceph-export", "hostPath": {"path": "'${ROOK_CEPH_EXPORT_PATH}'", "type":"Directory"}  }}, {"op":"add", "path": "/spec/template/spec/containers/0/volumeMounts/2", "value": {"name": "ceph-export", "mountPath": "'${ROOK_CEPH_EXPORT_PATH}'"}},{"op": "remove", "path": "/spec/template/spec/containers/0/resources/limits"}]'
   kubectl -n rook-ceph rollout status deploy rook-ceph-tools

3. Zulassen, dass die Tools-Pods in ${ROOK_CEPH_EXPORT_PATH} schreiben

   chmod 777 ${ROOK_CEPH_EXPORT_PATH}

Schritt 3: Blockieren des Zugriffs auf den rook-ceph -Namespace von anderen Namespaces

1. Blockieren Sie den Datenverkehr, der von jedem anderen Namespace außer dem rook-ceph -Namespace in Richtung des rook-ceph -Namespaces kommt:

   kubectl apply -f - <<EOF
   kind: NetworkPolicy
   apiVersion: networking.k8s.io/v1
   metadata:
     namespace: rook-ceph
     name: block-rook-ceph-from-other-ns
   spec:
     podSelector:
       matchLabels:
     ingress:
     - from:
       - podSelector: {}
   EOF

2. Starten Sie die RGW-Bereitstellung neu, um bereits hergestellte Verbindungen von anderen Namespaces zu schließen:

   for rgw_deploy in $(kubectl -n rook-ceph get deploy -l app=rook-ceph-rgw  -o name);do
       kubectl -n rook-ceph rollout restart "${rgw_deploy}"
       kubectl -n rook-ceph rollout status "${rgw_deploy}"
   done

Schritt 4: Anzeigen der Clusterobjektanzahl

Führen Sie den folgenden Befehl aus, um die Anzahl der Clusterobjekte anzuzeigen:

BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT=$(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- rados df --format json | jq -r --arg poolName "rook-ceph.rgw.buckets.data" '.pools[] | select(.name==$poolName).num_objects')
echo "BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT=${BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT}"

Es wird empfohlen, die Objektanzahl nach der Migration erneut zu überprüfen, um sicherzustellen, dass kein Datenverlust aufgetreten ist.

Schritt 5: Exportieren des Ceph-Datenpools

Führen Sie den folgenden Befehl aus, um den Ceph-Datenpool zu exportieren:

nohup kubectl -n rook-ceph exec deploy/rook-ceph-tools -- rados -p 'rook-ceph.rgw.buckets.data' export --workers 5   ${ROOK_CEPH_EXPORT_PATH}/ceph-data-pool >> /tmp/ceph-data-pool-export.log 2>&1 & 
wait $!
if [[ $? -eq 0 && -f ${ROOK_CEPH_EXPORT_PATH}/ceph-data-pool ]]; then
  echo "Export ran successfully"
else
 echo "Error while running export"
fi

Schritt 6: Herunterskalieren des Operators rook-ceph

Führen Sie den folgenden Befehl aus, um den Operator rook-ceph zu verkleinern:

kubectl -n rook-ceph scale --replicas=0 deployment/rook-ceph-operator

Schritt 7: Erneutes Erstellen des löschungscodierten Pools

Führen Sie den folgenden Befehl aus, um den löschungscodierten Pool neu zu erstellen:

kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd pool rm rook-ceph.rgw.buckets.data rook-ceph.rgw.buckets.data --yes-i-really-really-mean-it --yes-i-really-really-mean-it-not-faking
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd crush rule rm rook-ceph.rgw.buckets.data
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd erasure-code-profile set rook-ceph_ecprofile k=2 m=1  crush-failure-domain=host
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd pool create rook-ceph.rgw.buckets.data erasure rook-ceph_ecprofile
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd pool set rook-ceph.rgw.buckets.data compression_mode none
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd pool application enable rook-ceph.rgw.buckets.data rook-ceph-rgw  --yes-i-really-mean-it

Schritt 8: Importieren von Daten in den Datenpool

Führen Sie den folgenden Befehl aus, um die Daten in den Datenpool zu importieren:

nohup kubectl -n rook-ceph exec deploy/rook-ceph-tools -- rados -p 'rook-ceph.rgw.buckets.data'  import --workers 5   ${ROOK_CEPH_EXPORT_PATH}/ceph-data-pool >> /tmp/ceph-data-pool-import.log 2>&1 & 
wait $!
if [[ $? -eq 0 ]]; then
  echo "Import ran successfully"
else
 echo "Error while running import"
fi

Schritt 9: Überprüfen der geladenen Daten

Führen Sie den folgenden Befehl aus, um die geladenen Daten zu überprüfen:

try=120
return_code=1
for index in $(seq 0 "${try}"); do
  AFTER_MIGRATION_DATA_POOL_OBJECT_COUNT=$(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- rados df --format json | jq -r --arg poolName "rook-ceph.rgw.buckets.data" '.pools[] | select(.name==$poolName).num_objects')
  if [[ $AFTER_MIGRATION_DATA_POOL_OBJECT_COUNT -eq $BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT ]]; then
    return_code=0
    break
  fi
  [[ $index -eq $try ]] || sleep 5
done
if [[ $return_code -eq 0 ]]; then
  echo "Found equal object count(${BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT})"
else
  echo "Found difference in object count for pool before(${BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT}) and after(${AFTER_MIGRATION_DATA_POOL_OBJECT_COUNT})"
  echo "Please raise a support ticket with uipath to complete the migration"
fi

Schritt 10: Zurücksetzen temporärer Änderungen

Um temporäre Änderungen rückgängig zu machen, führen Sie den folgenden Befehl aus:

kubectl -n argocd patch application rook-ceph-operator --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":true}]'
kubectl -n argocd patch application rook-ceph-object-store --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":true}]'
kubectl -n argocd patch application fabric-installer --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":true}]'
kubectl -n rook-ceph scale --replicas=1 deployment/rook-ceph-operator
kubectl -n rook-ceph patch deploy rook-ceph-tools --type='json' -p='[{"op": "remove", "path":"/spec/template/spec/nodeName"},{"op": "remove", "path":"/spec/template/spec/volumes/2"}, {"op":"remove", "path": "/spec/template/spec/containers/0/volumeMounts/2"},{"op": "add", "path": "/spec/template/spec/containers/0/resources/limits", "value": {"memory": "256Mi"}}]'
kubectl -n rook-ceph delete NetworkPolicy block-rook-ceph-from-other-ns

Schritt 11: Aktualisieren der ArgoCD-Konfiguration

Sie müssen nun sicherstellen, dass die Konfiguration und der aktuelle Status synchron bleiben. Aktualisieren Sie dazu die ArgoCD-Konfiguration, indem Sie den folgenden Befehl ausführen:

kubectl  -n argocd get application  fabric-installer -o json | jq 'if ([.spec.source.helm.parameters[].name] | index ("global.rook.dataPoolType")) == null then .spec.source.helm.parameters +=  [{"name": "global.rook.dataPoolType" , "value": "erasure-coded"}] else (.spec.source.helm.parameters[] | select(.name == "global.rook.dataPoolType").value) |= "erasure-coded" end'  | kubectl apply  -f -