常用的清理 Kubernetes 集群资源命令

长时间运行的集群，常会面临各种资源耗尽的问题，另外磁盘不足时 Kubelet 还会主动清理镜像增加不确定因素，本文提供了一些命令片段用于清理工作。

1. Kubernetes 基础对象清理

清理 Evicted 状态的 Pod

1
sudo kubectl get pods --all-namespaces -o wide | grep Evicted | awk '{print $1,$2}' | sudo xargs -L1 kubectl delete pod -n

清理 Error 状态的 Pod

1
sudo kubectl get pods --all-namespaces -o wide | grep Error | awk '{print $1,$2}' | sudo xargs -L1 kubectl delete pod -n

清理 Completed 状态的 Pod

1
sudo kubectl get pods --all-namespaces -o wide | grep Completed | awk '{print $1,$2}' | sudo xargs -L1 kubectl delete pod -n

清理没有被使用的 PV

1
sudo kubectl describe -A pvc | grep -E "^Name:.*$|^Namespace:.*$|^Used By:.*$" | grep -B 2 "<none>" | grep -E "^Name:.*$|^Namespace:.*$" | cut -f2 -d: | paste -d " " - - | sudo xargs -n2 bash -c 'kubectl -n ${1} delete pvc ${0}'

清理没有被绑定的 PVC

1
sudo kubectl get pvc --all-namespaces | tail -n +2 | grep -v Bound | awk '{print $1,$2}' | sudo xargs -L1 kubectl delete pvc -n

清理没有被绑定的 PV

1
sudo kubectl get pv | tail -n +2 | grep -v Bound | awk '{print $1}' | sudo xargs -L1 kubectl delete pv

2. Linux 清理

查看磁盘全部空间

1
2
3
4
sudo df -hl /

Filesystem      Size  Used Avail Use% Mounted on
/dev/sda2       100G   47G   54G  47% /

1
2
3
sudo du -sh .

24G	.

删除指定前缀的文件夹

1
2
cd /nfsdata
ls | grep archived- |xargs -L1 rm -r

清理僵尸进程

1
sudo ps -A -ostat,ppid | grep -e '^[Zz]' | awk '{print }' | xargs kill -HUP > /dev/null 2>&1

3. Docker 清理

查看磁盘使用情况

1
2
3
4
5
6
7
sudo docker system df

TYPE                TOTAL               ACTIVE              SIZE                RECLAIMABLE
Images              361                 23                  178.5GB             173.8GB (97%)
Containers          29                  9                   6.682GB             6.212GB (92%)
Local Volumes       4                   0                   3.139MB             3.139MB (100%)
Build Cache         0                   0                   0B                  0B

清理 none 镜像

1
sudo docker images | grep none | awk '{print $3}' | sudo xargs docker rmi

清理不再使用的数据卷

1
sudo docker volume rm $(docker volume ls -q)

或者

1
sudo docker volume prune

清理缓存

1
sudo docker builder prune

全面清理

删除关闭的容器、无用的存储卷、无用的网络、dangling 镜像（无 tag 镜像）

1
docker system prune -f

清理正则匹配上的镜像

这里清理的是 master-8bcf8d7-20211206-111155163 格式的镜像。

1
sudo docker images |grep -E "([0-9a-z]*[-]){3,}[0-9]{9}" |awk '{print $3}' | sudo xargs docker rmi

4. 设置定时

查看定时任务

1
sudo crontab -l

设置定时任务

1
sudo crontab -e 

文本新增定时任务

1
2
*/35 */6 * * *  sudo /usr/bin/docker images | grep none | awk '{print $3}' | xargs /usr/bin/docker rmi
45 1 * * * sudo /usr/bin/docker system prune -f

这里第一个任务是每隔六个小时的第 35 分钟执行，第二个任务每天的 1 时 45 分执行。这里需要注意的是，命令需要使用绝对路径，否则可能会执行失败。

定时任务的格式

设置定时格式: * * * * * shell

第一个星号，minute，分钟，值为 0-59
第二个星号，hour，小时，值从 0-23
第三个星号，day，天，值为从 1-31
第四个星号，month，月，值为从 1-12 月，或者简写的英文，比如 Nov、Feb 等
第五个星号，week 周，值为从 0-6 或者简写的英文，Wen、Tur 等，代表周几，其中 0 代表周末

常用的清理 Kubernetes 集群资源命令

1. Kubernetes 基础对象清理

2. Linux 清理

3. Docker 清理

4. 设置定时

相关内容