手動: Ceph データ プールをレプリケートされたものからイレージャーコーディングされたプールに移行する

手順 1: Ceph オブジェクトのパスを選択する

Ceph オブジェクトを格納できるストレージ領域があるファイル システム パスを選択する必要があります。たとえば、server0 の Kubernetes ノードの /ceph-data パスを使用するとします。

重要: このホスト パスを使用するように Ceph ツールを調整し、以降のコマンドはすべて同じマシン (この場合は server0) 上で実行する必要があります。

export ROOK_CEPH_EXPORT_PATH="/ceph-data"

Ceph クラスター内のオブジェクトが使用するストレージ領域を表示するには、次のコマンドを実行します。

ceph_objects_bytes=$(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph status --format json | jq -r '.pgmap.data_bytes')
numfmt --to=iec-i $ceph_objects_bytes

ステップ 2: パスを使用するように Ceph ツールを準備する

手順 1 で選択したパスを使用するように Ceph ツールを準備するには、次の手順を実行します。

1. rook-ceph-object-store に対して自己回復を無効化します。

   kubectl -n argocd patch application rook-ceph-operator --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":false}]'
   kubectl -n argocd patch application rook-ceph-object-store --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":false}]'
   kubectl -n argocd patch application fabric-installer --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":false}]'

2. Ceph ツールのデプロイを編集して、${ROOK_CEPH_EXPORT_PATH} を Kubernetes ノード (server0) にマウントします。

   kubectl -n rook-ceph patch deploy rook-ceph-tools --type='json' -p='[{"op": "add", "path":"/spec/template/spec/nodeName", "value": "server0"},{"op": "add", "path":"/spec/template/spec/volumes/2", "value": {"name":"ceph-export", "hostPath": {"path": "'${ROOK_CEPH_EXPORT_PATH}'", "type":"Directory"}  }}, {"op":"add", "path": "/spec/template/spec/containers/0/volumeMounts/2", "value": {"name": "ceph-export", "mountPath": "'${ROOK_CEPH_EXPORT_PATH}'"}},{"op": "remove", "path": "/spec/template/spec/containers/0/resources/limits"}]'
   kubectl -n rook-ceph rollout status deploy rook-ceph-tools

3. ツール ポッドに ${ROOK_CEPH_EXPORT_PATH} 内での書き込みを許可します。

   chmod 777 ${ROOK_CEPH_EXPORT_PATH}

手順 3: 他の名前空間から rook-ceph 名前空間へのアクセスをブロックする

1. rook-ceph 名前空間を除く他のすべての名前空間から rook-ceph 名前空間にアクセスするトラフィックをブロックします。

   kubectl apply -f - <<EOF
   kind: NetworkPolicy
   apiVersion: networking.k8s.io/v1
   metadata:
     namespace: rook-ceph
     name: block-rook-ceph-from-other-ns
   spec:
     podSelector:
       matchLabels:
     ingress:
     - from:
       - podSelector: {}
   EOF

2. RGW のデプロイを再実行し、他の名前空間から既に確立されている接続を閉じます。

   for rgw_deploy in $(kubectl -n rook-ceph get deploy -l app=rook-ceph-rgw  -o name);do
       kubectl -n rook-ceph rollout restart "${rgw_deploy}"
       kubectl -n rook-ceph rollout status "${rgw_deploy}"
   done

手順 4: クラスター オブジェクト数を表示する

クラスター オブジェクト数を表示するには、次のコマンドを実行します。

BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT=$(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- rados df --format json | jq -r --arg poolName "rook-ceph.rgw.buckets.data" '.pools[] | select(.name==$poolName).num_objects')
echo "BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT=${BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT}"

移行後にオブジェクト数を再チェックして、データが失われていないことを確認することをお勧めします。

手順 5: Ceph データ プールをエクスポートする

Ceph データ プールをエクスポートするには、次のコマンドを実行します。

nohup kubectl -n rook-ceph exec deploy/rook-ceph-tools -- rados -p 'rook-ceph.rgw.buckets.data' export --workers 5   ${ROOK_CEPH_EXPORT_PATH}/ceph-data-pool >> /tmp/ceph-data-pool-export.log 2>&1 & 
wait $!
if [[ $? -eq 0 && -f ${ROOK_CEPH_EXPORT_PATH}/ceph-data-pool ]]; then
  echo "Export ran successfully"
else
 echo "Error while running export"
fi

手順 6: rook-ceph Operator をスケール ダウンする

rook-ceph Operator をスケール ダウンするには、次のコマンドを実行します。

kubectl -n rook-ceph scale --replicas=0 deployment/rook-ceph-operator

手順 7: イレージャーコーディングされたプールを再作成する

イレージャーコーディングされたプールを再作成するには、次のコマンドを実行します。

kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd pool rm rook-ceph.rgw.buckets.data rook-ceph.rgw.buckets.data --yes-i-really-really-mean-it --yes-i-really-really-mean-it-not-faking
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd crush rule rm rook-ceph.rgw.buckets.data
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd erasure-code-profile set rook-ceph_ecprofile k=2 m=1  crush-failure-domain=host
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd pool create rook-ceph.rgw.buckets.data erasure rook-ceph_ecprofile
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd pool set rook-ceph.rgw.buckets.data compression_mode none
kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd pool application enable rook-ceph.rgw.buckets.data rook-ceph-rgw  --yes-i-really-mean-it

手順 8: データをデータ プールにインポートする

データをデータ プールにインポートするには、次のコマンドを実行します。

nohup kubectl -n rook-ceph exec deploy/rook-ceph-tools -- rados -p 'rook-ceph.rgw.buckets.data'  import --workers 5   ${ROOK_CEPH_EXPORT_PATH}/ceph-data-pool >> /tmp/ceph-data-pool-import.log 2>&1 & 
wait $!
if [[ $? -eq 0 ]]; then
  echo "Import ran successfully"
else
 echo "Error while running import"
fi

手順 9: 読み込まれたデータを検証する

読み込まれたデータを確認するには、次のコマンドを実行します。

try=120
return_code=1
for index in $(seq 0 "${try}"); do
  AFTER_MIGRATION_DATA_POOL_OBJECT_COUNT=$(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- rados df --format json | jq -r --arg poolName "rook-ceph.rgw.buckets.data" '.pools[] | select(.name==$poolName).num_objects')
  if [[ $AFTER_MIGRATION_DATA_POOL_OBJECT_COUNT -eq $BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT ]]; then
    return_code=0
    break
  fi
  [[ $index -eq $try ]] || sleep 5
done
if [[ $return_code -eq 0 ]]; then
  echo "Found equal object count(${BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT})"
else
  echo "Found difference in object count for pool before(${BEFORE_MIGRATION_DATA_POOL_OBJECT_COUNT}) and after(${AFTER_MIGRATION_DATA_POOL_OBJECT_COUNT})"
  echo "Please raise a support ticket with uipath to complete the migration"
fi

手順 10: 一時的な変更を元に戻す

一時的な変更を元に戻すには、次のコマンドを実行します。

kubectl -n argocd patch application rook-ceph-operator --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":true}]'
kubectl -n argocd patch application rook-ceph-object-store --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":true}]'
kubectl -n argocd patch application fabric-installer --type=json -p '[{"op":"replace","path":"/spec/syncPolicy/automated/selfHeal","value":true}]'
kubectl -n rook-ceph scale --replicas=1 deployment/rook-ceph-operator
kubectl -n rook-ceph patch deploy rook-ceph-tools --type='json' -p='[{"op": "remove", "path":"/spec/template/spec/nodeName"},{"op": "remove", "path":"/spec/template/spec/volumes/2"}, {"op":"remove", "path": "/spec/template/spec/containers/0/volumeMounts/2"},{"op": "add", "path": "/spec/template/spec/containers/0/resources/limits", "value": {"memory": "256Mi"}}]'
kubectl -n rook-ceph delete NetworkPolicy block-rook-ceph-from-other-ns

手順 11: ArgoCD 構成を更新する

ここで、設定と実際のステートの同期を確実に維持する必要があります。そのためには、次のコマンドを実行して、ArgoCD 構成を更新します。

kubectl  -n argocd get application  fabric-installer -o json | jq 'if ([.spec.source.helm.parameters[].name] | index ("global.rook.dataPoolType")) == null then .spec.source.helm.parameters +=  [{"name": "global.rook.dataPoolType" , "value": "erasure-coded"}] else (.spec.source.helm.parameters[] | select(.name == "global.rook.dataPoolType").value) |= "erasure-coded" end'  | kubectl apply  -f -