Échec de la mise à niveau en raison d’un Ceph défectueux

Vérifiez et réparez l’intégrité du magasin d’objets Ceph avant la mise à niveau d’Automation Suite sur Linux.

Description

Lorsque vous essayez de mettre à niveau vers une nouvelle version d'Automation Suite, le message d'erreur suivant peut s'afficher : Ceph objectstore is not completely healthy at the moment. Inner exception - Timeout waiting for all PGs to become active+clean .

Solution

Pour résoudre ce problème de mise à niveau, vérifiez si les pods OSD sont en cours d'exécution et sains en exécutant la commande suivante :

kubectl -n rook-ceph get pod -l app=rook-ceph-osd  --no-headers | grep -P '([0-9])/\1'  -v

• Si la commande ne génère aucun pod, vérifiez si les groupes de placement (PG) Ceph se rétablissent ou non en exécutant la commande suivante :

  function is_ceph_pg_active_clean() {
    local return_code=1
    if kubectl -n rook-ceph exec  deploy/rook-ceph-tools -- ceph status --format json | jq '. as $root | ($root | .pgmap.num_pgs) as $total_pgs | try ( ($root | .pgmap.pgs_by_state[] | select(.state_name == "active+clean").count)  // 0) as $active_pgs | if $total_pgs == $active_pgs then true else false end' | grep -q 'true';then
      return_code=0
    fi
    [[ $return_code -eq 0 ]] && echo "All Ceph Placement groups(PG) are active+clean"
    if [[ $return_code -ne 0 ]]; then
      echo "All Ceph Placement groups(PG) are not active+clean. Please wait for PGs to become active+clean"
      kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph pg dump --format json | jq -r '.pg_map.pg_stats[] | select(.state!="active+clean") | [.pgid, .state] | @tsv'
    fi
    return "${return_code}"
  }
  # Execute the function multiple times to get updated ceph PG status
  is_ceph_pg_active_clean
  

  Remarque :

  Si aucun des PG Ceph affectés ne reprend même après une attente de plus de 30 minutes, créez un ticket pour l’assistance UiPath®.

• Si la commande génère un ou plusieurs pods, vous devez d'abord résoudre le problème qui les affecte :

  • Si un pod est bloqué dans Init:0/4, il peut s’agir d’un problème du fournisseur de PV (Longhorn). Pour résoudre ce problème, créez un ticket auprès de l’assistance UiPath®.
  • Si un pod se trouve dans CrashLoopBackOff , résolvez le problème en exécutant la commande suivante :

    function cleanup_crashing_osd() {
        local restart_operator="false"
        local min_required_healthy_osd=1
        local in_osd
        local up_osd
        local healthy_osd_pod_count
        local crashed_osd_deploy
        local crashed_pvc_name
    
        if ! kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph osd pool ls detail  | grep 'rook-ceph.rgw.buckets.data' | grep -q 'replicated'; then
            min_required_healthy_osd=2
        fi
        in_osd=$(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph status   -f json  | jq -r '.osdmap.num_in_osds')
        up_osd=$(kubectl -n rook-ceph exec deploy/rook-ceph-tools -- ceph status   -f json  | jq -r '.osdmap.num_up_osds')
        healthy_osd_pod_count=$(kubectl -n rook-ceph get pod -l app=rook-ceph-osd | grep 'Running' | grep -c -P '([0-9])/\1')
        if ! [[ $in_osd -ge $min_required_healthy_osd && $up_osd -ge $min_required_healthy_osd && $healthy_osd_pod_count -ge $min_required_healthy_osd ]]; then
            return
        fi
        for crashed_osd_deploy in $(kubectl -n rook-ceph get pod -l app=rook-ceph-osd  | grep 'CrashLoopBackOff' | cut -d'-' -f'1-4') ; do
            if kubectl -n rook-ceph logs "deployment/${crashed_osd_deploy}" | grep -q '/crash/'; then
                echo "Found crashing OSD deployment: '${crashed_osd_deploy}'"
                crashed_pvc_name=$(kubectl -n rook-ceph get deployment "${crashed_osd_deploy}" -o json | jq -r '.metadata.labels["ceph.rook.io/pvc"]')
                info "Removing crashing OSD deployment: '${crashed_osd_deploy}' and PVC: '${crashed_pvc_name}'"
                timeout 60  kubectl -n rook-ceph delete deployment "${crashed_osd_deploy}" || kubectl -n rook-ceph delete deployment "${crashed_osd_deploy}" --force --grace-period=0
                timeout 100 kubectl -n rook-ceph delete pvc "${crashed_pvc_name}" || kubectl -n rook-ceph delete pvc "${crashed_pvc_name}" --force --grace-period=0
                restart_operator="true"
            fi
        done
        if [[ $restart_operator == "true" ]]; then
            kubectl -n rook-ceph rollout restart deployment/rook-ceph-operator
        fi
        return 0
    }
    # Execute the cleanup function
    cleanup_crashing_osd
    

Après avoir corrigé le plantage de l'OSD, vérifiez si les PG sont en train de récupérer ou non en exécutant la commande suivante :

is_ceph_pg_active_clean