Kubernetes1.20.2高可用集群快速升级及扩容

2021年已经到来，让我们有一个新的开始。

Kubernetes 1.20.2正式发布啦，高可用集群能够直接进行升级（hub.docker.com已停止更新，要使用registry.cn-hangzhou.aliyuncs.com/google_containers哦）。快速升级（包含国内镜像快速下载链接）主要有三个步骤，分别是升级kubeadm/kubectl/kubelet版本、拉取镜像、升级Kubernetes集群。大家可以参考《Ubuntu上软件锁定版本不更新》来安装特定的DockerCE版本。

提前将镜像传送到相应节点上，然后在任何一个master节点运行下面的命令即可完成升级。

kubeadm upgrade apply v1.20.2

在当前的集群中新增节点：

• 第一步，重新创建certificate key和token：

sudo kubeadm init phase upload-certs --upload-certs

### Got:
# [upload-certs] Using certificate key:
# 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78

# Add certificate-key for Multi Master Node.
kubeadm token create --print-join-command --certificate-key 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78

• 第二步，增加Worker节点：

kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt
    --discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383

• 第三步，增加master节点：

kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt
    --discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383
    --control-plane --certificate-key 440a880086e7e9cbbcebbd7924e6a9562d77ee8de7e0ec63511436f2467f7dde

在arm上部署kubernetes参考：

• Kubernetes for arm 1.18.0快速安装
• kubernetes on arm发展现状

升级时出现一些小错误，后来解决了：

• kubernetes高可用集群升级的etcd错误
• Ubuntu跨版本升级出错问题解决
• Ubuntu apt upgrade出现error "NO_PUBKEY"的解决

1、升级kubeadm/kubectl/kubelet版本

sudo apt install kubeadm=1.20.2-00 kubectl=1.20.2-00 kubelet=1.20.2-00

• 设置中国区的软件源，参考：kubernetes for china

查看该版本的容器镜像版本：

kubeadm config images list

输出如下：

~# kubeadm config images list

k8s.gcr.io/kube-apiserver:v1.20.2
k8s.gcr.io/kube-controller-manager:v1.20.2
k8s.gcr.io/kube-scheduler:v1.20.2
k8s.gcr.io/kube-proxy:v1.20.2
k8s.gcr.io/pause:3.2
k8s.gcr.io/etcd:3.4.13-0
k8s.gcr.io/coredns:1.7.0

2、拉取容器镜像

原始的kubernetes镜像文件在gcr上，不能直接下载。我原来是把镜像到了阿里云的杭州机房的容器仓库里，拉取还是比较快的。现在hub.docker.com的访问没有问题了，有同学把镜像放到料里面，而且更新还挺及时，可以直接用。

#mirrorgcrio已经没有更新了...
#MY_REGISTRY=mirrorgcrio
MY_REGISTRY=registry.cn-hangzhou.aliyuncs.com/google_containers
K8S_VERSION="1.20.2"

echo ""
echo "=========================================================="
echo "Pull Kubernetes for x64 v$K8S_VERSION Images from docker.io ......"
echo "=========================================================="
echo ""


## 拉取镜像
docker pull ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSION
docker pull ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSION
docker pull ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSION
docker pull ${MY_REGISTRY}/kube-proxy:v$K8S_VERSION
docker pull ${MY_REGISTRY}/etcd:3.4.13-0
docker pull ${MY_REGISTRY}/pause:3.2

#docker pull ${MY_REGISTRY}/coredns-arm64:1.7.0
docker pull coredns/coredns:1.7.0

## 添加Tag
docker tag ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSION k8s.gcr.io/kube-apiserver:v$K8S_VERSION
docker tag ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSION k8s.gcr.io/kube-scheduler:v$K8S_VERSION
docker tag ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSION k8s.gcr.io/kube-controller-manager:v$K8S_VERSION
docker tag ${MY_REGISTRY}/kube-proxy:v$K8S_VERSION k8s.gcr.io/kube-proxy:v$K8S_VERSION
docker tag ${MY_REGISTRY}/etcd:3.4.13-0 k8s.gcr.io/etcd:3.4.13-0
docker tag ${MY_REGISTRY}/pause:3.2 k8s.gcr.io/pause:3.2

#docker tag ${MY_REGISTRY}/coredns-arm64:1.7.0 k8s.gcr.io/coredns:1.7.0
docker tag coredns/coredns:1.7.0 k8s.gcr.io/coredns:1.7.0

echo ""
echo "=========================================================="
echo "Pull Kubernetes for x64 v$K8S_VERSION Images FINISHED."
echo "into docker.io/mirrorgcrio, "
echo " by openthings@https://my.oschina.net/u/2306127."
echo "=========================================================="

echo ""

保存为shell脚本，然后执行。

• 或者，下载脚本：https://github.com/openthings/kubernetes-tools/blob/master/kubeadm/2-images/

3、升级Kubernetes集群

全新安装：

#指定IP地址，1.20.2版本：
sudo kubeadm init --kubernetes-version=v1.20.2 --apiserver-advertise-address=10.1.1.199 --pod-network-cidr=10.244.0.0/16

高可用安装（多master节点）：

sudo kubeadm init --kubernetes-version=v1.20.2
--apiserver-advertise-address=192.168.199.173
--control-plane-endpoint=192.168.199.173:6443
--pod-network-cidr=10.244.0.0/16
--upload-certs

• 使用kubeadm部署高可用Kubernetes 1.17.0

先查看一下需要升级的各个组件的版本。

使用kubeadm upgrade plan，输出的版本升级信息如下：

Components that must be upgraded manually after you ha ve upgraded the control plane with 'kubeadm upgrade apply':
COMPONENT   CURRENT       A VAILABLE
Kubelet     1 x v1.20.0   v1.20.2
            8 x v1.20.0   v1.20.2

Upgrade to the latest version in the v1.20 series:

COMPONENT            CURRENT   A VAILABLE
API Server           v1.20.0   v1.20.2
Controller Manager   v1.20.0   v1.20.2
Scheduler            v1.20.0   v1.20.2
Kube Proxy           v1.20.0   v1.20.2
CoreDNS              1.7.0     1.7.0
Etcd                 3.4.13-0     3.4.13-0

You can now apply the upgrade by executing the following command:

    kubeadm upgrade apply v1.20.2

确保上面的容器镜像已经下载（如果没有提前下载，可能被网络阻隔导致挂起），然后执行升级：

kubeadm upgrade apply v1.20.2

看到下面信息，就OK了。

[upgrade/successful] SUCCESS! Your cluster was upgraded to "v1.20.2". Enjoy!

然后，配置当前用户环境：

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

就可以使用kubectl version来查看状态和kubectl cluster-info查看服务地址。

• 如果服务没有起来，测试一下：
  • 查看服务版本，kubectl version
  • 查看集群信息，kubectl cluster-info
  • 查看服务状态，sudo systemctl status kubelet
  • 查看服务日志，journalctl -xefu kubelet

4、工作节点的升级

每个工作节点需要拉取上面对应版本的镜像，以及安装kubelet的对应版本。

检查版本：

~$ kubectl version

查看Pod信息：

kubectl get pod --all-namespaces

完成。

注意：1.17后版本，如果使用kubeadm安装为高可用模式，所有master节点都可以被升为最新版本（需要提前把k8s的容器镜像放到节点上去）。

更多参考：

• Kubernetes 1.17.4快速升级
• Kubernetes 1.17.2快速升级
• Kubernetes 1.17.1快速升级
• Kubernetes 1.17.0 已发布
• 使用kubeadm部署高可用Kubernetes 1.17.0
• Kubernetes 1.17.0管理界面Dashboard 2
• 设置Kubernetes的Master节点运行应用pod
• Kubernetes pod中systemctl状态探针失败问题
• 运用Jupyter Notebook进行系统管理
• 将Jupyter/JupyterHub/JupyterLab运行为系统服务
• 快速设置JupyterHub for K8s
• 在JupyterHub for K8s使用GlusterFS存储