K8S集群搭建

• K8S各节点环境准备
  1 虚拟机操作系统环境准备
  参考链接:
  https://kubernetes.io/zh/docs/setup/production-environment/tools/kubeadm/install-kubeadm/

  2 关闭swap分区
  2.1临时关闭
  swapoff -a && sysctl -w vm.swappiness=0

    2.2 基于配置文件关闭
  

sed -ri '/^[^#]*swap/s@^@#@' /etc/fstab

3 确保各个节点MAC地址或product_uuid唯一

ifconfig eth0 | grep ether | awk '{print $2}'
cat /sys/class/dmi/id/product_uuid

温馨提示:
    一般来讲，硬件设备会拥有唯一的地址，但是有些虚拟机的地址可能会重复。 
    Kubernetes使用这些值来唯一确定集群中的节点。 如果这些值在每个节点上不唯一，可能会导致安装失败。


4 检查网络节点是否互通

简而言之，就是检查你的k8s集群各节点是否互通，可以使用ping命令来测试。

5 允许iptable检查桥接流量

cat <<EOF | tee /etc/modules-load.d/k8s.conf
br_netfilter
EOF

cat <<EOF | tee /etc/sysctl.d/k8s.conf
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
net.ipv4.ip_forward = 1
EOF
sysctl --system

6 检查端口是否被占用

参考链接: https://kubernetes.io/zh-cn/docs/reference/networking/ports-and-protocols/

7 禁用防火墙

systemctl disable --now firewalld

8 禁用selinux

sed -i 's/^SELINUX=enforcing$/SELINUX=disabled/' /etc/selinux/config
grep ^SELINUX= /etc/selinux/config

9 所有节点修改cgroup的管理进程为systemd

[root@master231 ~]# docker info | grep cgroup
Cgroup Driver: cgroupfs
[root@master231 ~]#
[root@master231 ~]# cat /etc/docker/daemon.json
{
"registry-mirrors": ["https://tuv7rqqq.mirror.aliyuncs.com","https://docker.mirrors.ustc.edu.cn/","https://hub-mirror.c.163.com/","https://reg-mirror.qiniu.com"],
"exec-opts": ["native.cgroupdriver=systemd"]
}
[root@master231 ~]#
[root@master231 ~]# systemctl restart docker
[root@master231 ~]#
[root@master231 ~]# docker info | grep "Cgroup Driver"
Cgroup Driver: systemd
[root@master231 ~]#

温馨提示:
如果不修改cgroup的管理驱动为systemd，则默认值为cgroupfs，在初始化master节点时会失败哟！

• 所有节点安装kubeadm，kubelet，kubectl
  1 软件包说明
  你需要在每台机器上安装以下的软件包：
  kubeadm：
  用来初始化集群的指令。
  kubelet：
  在集群中的每个节点上用来启动Pod和容器等。
  kubectl：
  用来与集群通信的命令行工具。

kubeadm不能帮你安装或者管理kubelet或kubectl，所以你需要确保它们与通过kubeadm安装的控制平面(master)的版本相匹配。 如果不这样做，则存在发生版本偏差的风险，可能会导致一些预料之外的错误和问题。

然而，控制平面与kubelet间的相差一个次要版本不一致是支持的，但kubelet的版本不可以超过"API SERVER"的版本。 例如，1.7.0版本的kubelet可以完全兼容1.8.0版本的"API SERVER"，反之则不可以。

2 配置软件源

cat > /etc/yum.repos.d/kubernetes.repo <<EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/
enabled=1
gpgcheck=0
repo_gpgcheck=0
EOF

3 查看kubeadm的版本（将来你要安装的K8S时请所有组件版本均保持一致!）

yum -y list kubeadm --showduplicates | sort -r

4 安装kubeadm，kubelet，kubectl软件包

yum -y install kubeadm-1.23.17-0 kubelet-1.23.17-0 kubectl-1.23.17-0

当然，你也可以使用我下载好的软件包

tar xf oldboyedu-kubeadm-kubelet-kubectl.tar.gz && yum -y localinstall kubeadm-kubelet-kubectl/*.rpm

5 启动kubelet服务(若服务启动失败时正常现象，其会自动重启，因为缺失配置文件，初始化集群后恢复！)

systemctl enable --now kubelet
systemctl status kubelet

参考链接:
https://kubernetes.io/zh/docs/tasks/tools/install-kubectl-linux/

• 初始化master节点
  0.彩蛋：
  批量导出master镜像:
  [root@master231 ~]# docker save docker images | awk 'NR>1{print $1":"$2}' -o oldboyedu-master-v1.23.17.tar.gz

  导入master镜像
  [root@master231 ~]# docker load -i oldboyedu-master-v1.23.17.tar.gz

  1 使用kubeadm初始化master节点
  [root@master231 ~]# kubeadm init --kubernetes-version=v1.23.17 --image-repository registry.aliyuncs.com/google_containers --pod-network-cidr=10.100.0.0/16 --service-cidr=10.200.0.0/16 --service-dns-domain=oldboyedu.com

相关参数说明:
--kubernetes-version:
指定K8S master组件的版本号。

--image-repository:
	指定下载k8s master组件的镜像仓库地址。
	
--pod-network-cidr:
	指定Pod的网段地址。
	
--service-cidr:
	指定SVC的网段

--service-dns-domain:
	指定service的域名。若不指定，默认为"cluster.local"。

使用kubeadm初始化集群时，可能会出现如下的输出信息:
[init]
使用初始化的K8S版本。

[preflight]
主要是做安装K8S集群的前置工作，比如下载镜像，这个时间取决于你的网速。

[certs]
生成证书文件，默认存储在"/etc/kubernetes/pki"目录哟。

[kubeconfig]
生成K8S集群的默认配置文件，默认存储在"/etc/kubernetes"目录哟。

[kubelet-start]
启动kubelet，
环境变量默认写入:"/var/lib/kubelet/kubeadm-flags.env"
配置文件默认写入:"/var/lib/kubelet/config.yaml"

[control-plane]
使用静态的目录，默认的资源清单存放在:"/etc/kubernetes/manifests"。
此过程会创建静态Pod，包括"kube-apiserver"，"kube-controller-manager"和"kube-scheduler"

[etcd]
创建etcd的静态Pod，默认的资源清单存放在:""/etc/kubernetes/manifests"

[wait-control-plane]
等待kubelet从资源清单目录"/etc/kubernetes/manifests"启动静态Pod。

[apiclient]
等待所有的master组件正常运行。

[upload-config]
创建名为"kubeadm-config"的ConfigMap在"kube-system"名称空间中。

[kubelet]
创建名为"kubelet-config-1.22"的ConfigMap在"kube-system"名称空间中，其中包含集群中kubelet的配置

[upload-certs]
跳过此节点，详情请参考”--upload-certs"

[mark-control-plane]
标记控制面板，包括打标签和污点，目的是为了标记master节点。

[bootstrap-token]
创建token口令，例如:"kbkgsa.fc97518diw8bdqid"。
如下图所示，这个口令将来在加入集群节点时很有用，而且对于RBAC控制也很有用处哟。

[kubelet-finalize]
更新kubelet的证书文件信息

[addons]
添加附加组件，例如:"CoreDNS"和"kube-proxy”

...

Your Kubernetes control-plane has initialized successfully!

To start using your cluster, you need to run the following as a regular user:

mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u)