Pod调度
在默认情况下，一个Pod在哪个Node节点上运行，是由Scheduler组件采用相应的算法计算出来的，这个过程是不受人工控制的。
但是在实际使用中，这并不满足的需求，因为很多情况下，我们想控制某些Pod到达某些节点上，那么应该怎么做呢？
这就要求了解kubernetes对Pod的调度规则，kubernetes提供了四大类调度方式：
- 自动调度：运行在哪个节点上完全由Scheduler经过一系列的算法计算得出 - 定向调度：NodeName、NodeSelector - 亲和性调度：NodeAffinity（pod与node之间）、PodAffinity（pod与pod之间）、PodAntiAffinity - 污点（容忍）调度：Taints、Toleration 注：Node可设置污点，不让Pod过来；而Pod可设置容忍污点，强行到污点Node内
定向调度
定向调度，指的是利用在pod上声明nodeName或者nodeSelector，以此将Pod调度到期望的node节点上。注意，这里的调度是强制的，
这就意味着即使要调度的目标Node不存在，也会向上面进行调度，只不过pod运行失败而已。
NodeName
NodeName用于强制约束将Pod调度到指定的Name的Node节点上。
这种方式，其实是直接跳过Scheduler的调度逻辑，直接将Pod调度到指定名称的节点。
案例
创建一个pod-nodename.yaml文件
apiVersion: v1
kind: Pod
metadata:
name: pod-nodename
namespace: dev
spec:
containers:
- name: nginx
image: nginx:1.17.1
nodeName: node1 # 指定调度到node1节点上
创建Pod，观察效果#创建Pod [root@master ~]# kubectl create -f pod-nodename.yaml #查看Pod调度到NODE属性，确实是调度到了node1节点上 [root@master ~]# kubectl get pods pod-nodename -n dev -o wide # 接下来，删除pod，修改nodeName的值为node3（注：并没有node3节点） [root@master ~]# kubectl delete -f pod-nodename.yaml [root@master ~]# vim pod-nodename.yaml [root@master ~]# kubectl create -f pod-nodename.yaml #再次查看，发现已经向Node3节点调度，但是由于不存在node3节点，所以pod无法正常运行 [root@master ~]# kubectl get pods pod-nodename -n dev -o wide
NodeSelector
NodeSelector用于将pod调度到添加了指定标签的node节点上。它是通过kubernetes的label-selector机制实现的，
也就是说，在pod创建之前，会由scheduler使用MatchNodeSelector调度策略进行label匹配，找出目标node，然后将pod调度到目标节点，该匹配规则是强制约束。
案例
1 首先分别为node节点添加标签 [root@master ~]# kubectl label nodes node1 nodeenv=pro [root@master ~]# kubectl label nodes node2 nodeenv=test 查看node上的标签 [root@master ~]# kubectl get nodes --show-labels
2 创建一个pod-nodeselector.yaml文件
apiVersion: v1
kind: Pod
metadata:
name: pod-nodeselector
namespace: dev
spec:
containers:
- name: nginx
image: nginx:1.17.1
nodeSelector:
nodeenv: pro # 指定调度到具有nodeenv=pro标签的节点上，即Node1节点
#创建Pod
[root@master ~]# kubectl create -f pod-nodeselector.yaml
#查看Pod，确实是调度到了node1节点上
[root@master ~]# kubectl get pods pod-nodeselector -n dev -o wide
# 接下来，删除pod，修改nodeSelector的值为nodeenv: xxxx（不存在打有此标签的节点） [root@master ~]# kubectl delete -f pod-nodeselector.yaml [root@master ~]# vim pod-nodeselector.yaml [root@master ~]# kubectl create -f pod-nodeselector.yaml #再次查看，发现pod无法正常运行,Node的值为none（因为没有节点符合要求） [root@master ~]# kubectl get pods -n dev -o wide # 查看详情,发现node selector匹配失败的提示 [root@master ~]# kubectl describe pods pod-nodeselector -n dev
亲和性调度
两种定向调度的方式，使用起来非常方便，但是也有一定的问题，
那就是如果没有满足条件的Node，那么Pod将不会被运行，即使在集群中还有可用Node列表也不行，这就限制了它的使用场景。
基于上面的问题，kubernetes还提供了一种亲和性调度（Affinity）。
它在NodeSelector的基础之上的进行了扩展，可以通过配置的形式，实现优先选择满足条件的Node进行调度，如果没有，也可以调度到不满足条件的节点上，使调度更加灵活。
Affinity主要分为三类：
nodeAffinity(node亲和性）: 以node为目标，解决pod可以调度到哪些node的问题 podAffinity(pod亲和性) : 以pod为目标，解决pod可以和哪些已存在的pod部署在同一个拓扑域中的问题 podAntiAffinity(pod反亲和性) : 以pod为目标，解决pod不能和哪些已存在pod部署在同一个拓扑域中的问题使用场景
关于亲和性(反亲和性)使用场景的说明： > 亲和性：如果两个应用频繁交互，那就有必要利用亲和性让两个应用的尽可能的靠近，这样可以减少因网络通信而带来的性能损耗。 > 反亲和性：当应用的采用多副本部署时，有必要采用反亲和性让各个应用实例打散分布在各个node上，这样可以提高服务的高可用性。
NodeAffinity
NodeAffinity的可配置项
pod.spec.affinity.nodeAffinity
requiredDuringSchedulingIgnoredDuringExecution # Node节点必须满足指定的所有规则才可以，相当于硬限制
nodeSelectorTerms 节点选择列表
matchFields 按节点字段列出的节点选择器要求列表
matchExpressions 按节点标签列出的节点选择器要求列表(推荐)
key 键
values 值
operator 关系符 支持Exists, DoesNotExist, In, NotIn, Gt（大于）, Lt（小于）
注：matchFields 也支持key、values、operator
preferredDuringSchedulingIgnoredDuringExecution #优先调度到满足指定的规则的Node，相当于软限制 (倾向)
preference 一个节点选择器项，与相应的权重相关联
matchFields 按节点字段列出的节点选择器要求列表
matchExpressions 按节点标签列出的节点选择器要求列表(推荐)
key 键
values 值
operator 关系符 支持In, NotIn, Exists, DoesNotExist, Gt, Lt
weight 倾向权重，在范围1-100（权重越大，优先级越高）
关系符的使用说明:
- matchExpressions:
- key: nodeenv
operator: Exists # 匹配存在标签的key为nodeenv的节点（常用）
- key: nodeenv
operator: In # 匹配标签的key为nodeenv,且value是"xxx"或"yyy"的节点（常用）
values: ["xxx","yyy"]
- key: nodeenv
operator: Gt # 匹配标签的key为nodeenv,且value大于"xxx"的节点
values: "xxx"
案例一
演示一下requiredDuringSchedulingIgnoredDuringExecution`的使用
创建pod-nodeaffinity-required.yaml
apiVersion: v1
kind: Pod
metadata:
name: pod-nodeaffinity-required
namespace: dev
spec:
containers:
- name: nginx
image: nginx:1.17.1
affinity: #亲和性设置
nodeAffinity: #设置node亲和性
requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
nodeSelectorTerms:
- matchExpressions: # 匹配env的值在["xxx","yyy"]中的标签
- key: nodeenv
operator: In
values: ["xxx","yyy"] #目前nodeenv不满足
创建Pod并观察
# 创建pod [root@master ~]# kubectl create -f pod-nodeaffinity-required.yaml # 查看pod状态 （运行失败） [root@master ~]# kubectl get pods pod-nodeaffinity-required -n dev -o wide # 查看Pod的详情 # 发现调度失败，提示node选择失败 [root@master ~]# kubectl describe pod pod-nodeaffinity-required -n dev
#接下来，停止pod [root@master ~]# kubectl delete -f pod-nodeaffinity-required.yaml # 修改文件，将values: ["xxx","yyy"]改成 ["pro","yyy"] node1的nodeenv是pro [root@master ~]# vim pod-nodeaffinity-required.yaml # 再次启动 [root@master ~]# kubectl create -f pod-nodeaffinity-required.yaml # 此时查看，发现调度成功，已经将pod调度到了node1上 [root@master ~]# kubectl get pods pod-nodeaffinity-required -n dev -o wide
案例二
演示requiredDuringSchedulingIgnoredDuringExecution的使用
创建pod-nodeaffinity-preferred.yaml
apiVersion: v1
kind: Pod
metadata:
name: pod-nodeaffinity-preferred
namespace: dev
spec:
containers:
- name: nginx
image: nginx:1.17.1
affinity: #亲和性设置
nodeAffinity: #设置node亲和性
preferredDuringSchedulingIgnoredDuringExecution: # 软限制
- weight: 1 #只有一个软限制时，可省略
preference:
matchExpressions: # 匹配env的值在["xxx","yyy"]中的标签(当前环境没有)
- key: nodeenv
operator: In
values: ["xxx","yyy"]
创建Pod并观察
# 创建pod [root@master ~]# kubectl create -f pod-nodeaffinity-preferred.yaml # 查看pod状态 （运行成功）没有满足的节点，就随机到任意一个节点上 [root@master ~]# kubectl get pod pod-nodeaffinity-preferred -n dev
NodeAffinity规则设置的注意事项：
1 如果同时定义了nodeSelector和nodeAffinity，那么必须两个条件同时满足，Pod才能运行在指定的Node上 2 如果nodeAffinity指定了多个nodeSelectorTerms，那么只需要其中一个能够匹配成功即可 3 如果一个nodeSelectorTerms中有多个matchExpressions ，则一个节点必须满足所有的才能匹配成功 4 如果一个pod所在的Node在Pod运行期间其标签发生了改变，不再符合该Pod的节点亲和性需求，则系统将忽略此变化 注： nodeSelector 节点标签选择器 nodeAffinity 节点亲和性 nodeSelectorTerms 节点选择列表 matchExpressions 节点标签列出的节点选择器要求列表
PodAffinity
PodAffinity主要实现以运行的Pod为参照，实现让新创建的Pod跟参照pod在一个区域的功能。
PodAffinity可配置项
pod.spec.affinity.podAffinity
requiredDuringSchedulingIgnoredDuringExecution 硬限制
namespaces 指定参照pod的namespace
topologyKey指定调度作用域
labelSelector 标签选择器
matchExpressions按节点标签列出的节点选择器要求列表(推荐)
key 键
values 值
operator 关系符 支持In, NotIn, Exists, DoesNotExist.
matchLabels 指多个matchExpressions映射的内容
preferredDuringSchedulingIgnoredDuringExecution 软限制
podAffinityTerm 选项
namespaces
topologyKey
labelSelector
matchExpressions
key 键
values 值
operator
matchLabels
weight 倾向权重，在范围1-100
topologyKey用于指定调度时作用域,例如:
如果指定为kubernetes.io/hostname，那就是以Node节点为区分范围 如果指定为beta.kubernetes.io/os,则以Node节点的操作系统类型来区分
案例
演示requiredDuringSchedulingIgnoredDuringExecution的使用
1）首先创建一个参照Pod，pod-podaffinity-target.yaml：
apiVersion: v1
kind: Pod
metadata:
name: pod-podaffinity-target
namespace: dev
labels:
podenv: pro #设置标签
spec:
containers:
- name: nginx
image: nginx:1.17.1
nodeName: node1 # 将目标pod名确指定到node1上
启动Pod并观察
# 启动目标pod [root@master ~]# kubectl create -f pod-podaffinity-target.yaml # 查看pod状况 [root@master ~]# kubectl get pods pod-podaffinity-target -n dev 显示标签 [root@master ~]# kubectl get pods pod-podaffinity-target -n dev --show-labels
2）创建pod-podaffinity-required.yaml，内容如下：
apiVersion: v1
kind: Pod
metadata:
name: pod-podaffinity-required
namespace: dev
spec:
containers:
- name: nginx
image: nginx:1.17.1
affinity: #亲和性设置
podAffinity: #设置pod亲和性
requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
- labelSelector:
matchExpressions: # 匹配env的值在["xxx","yyy"]中的标签
- key: podenv
operator: In
values: ["xxx","yyy"]
topologyKey: kubernetes.io/hostname
上面配置表达的意思是：新Pod必须要与拥有标签nodeenv=xxx或者nodeenv=yyy的pod在同一Node上；
显然现在没有这样pod，接下来，运行测试一下。
启动Pod并观察
# 启动pod [root@master ~]# kubectl create -f pod-podaffinity-required.yaml # 查看pod状态，发现未运行 [root@master ~]# kubectl get pods pod-podaffinity-required -n dev # 查看详细信息 [root@master ~]# kubectl describe pods pod-podaffinity-required -n dev
# 接下来修改 values: ["xxx","yyy"]，改为values:["pro","yyy"] # 意思是：新Pod必须要与拥有标签nodeenv= pro或者nodeenv=yyy的pod在同一Node上 [root@master ~]# vim pod-podaffinity-required.yaml # 然后重新创建pod，查看效果 [root@master ~]# kubectl delete -f pod-podaffinity-required.yaml [root@master ~]# kubectl create -f pod-podaffinity-required.yaml # 发现此时Pod运行正常 [root@master ~]# kubectl get pods pod-podaffinity-required -n dev -o wide
注：关于`PodAffinity`的 `preferredDuringSchedulingIgnoredDuringExecution`，这里不再演示。
PodAntiAffinity
PodAntiAffinity主要实现以运行的Pod为参照，让新创建的Pod跟参照pod不在一个区域中的功能。
案例
它的配置方式和选项跟PodAffinty是一样的，这里不再做详细解释，直接做一个测试案例。
1）继续使用上个案例中目标pod
[root@master ~]# kubectl get pods -n dev -o wide --show-labels
2）创建pod-podantiaffinity-required.yaml，内容如下：
apiVersion: v1
kind: Pod
metadata:
name: pod-podantiaffinity-required
namespace: dev
spec:
containers:
- name: nginx
image: nginx:1.17.1
affinity: #亲和性设置
podAntiAffinity: #设置pod反亲和性
requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
- labelSelector:
matchExpressions: # 匹配podenv的值在["pro"]中的标签
- key: podenv
operator: In
values: ["pro"]
topologyKey: kubernetes.io/hostname
上面配置表达的意思是：新Pod必须要与拥有标签nodeenv=pro的pod不在同一Node上，运行测试一下。
创建Pod并测试
# 创建pod [root@master ~]# kubectl create -f pod-podantiaffinity-required.yaml # 查看pod # 发现调度到了node2上 [root@master ~]# kubectl get pods pod-podantiaffinity-required -n dev -o wide 注：目标pod在node1上，有标签podenv=pro
污点和容忍
污点（Taints）
前面的调度方式都是站在Pod的角度上，通过在Pod上添加属性，来确定Pod是否要调度到指定的Node上，
其实我们也可以站在Node的角度上，通过在Node上添加污点属性，来决定是否允许Pod调度过来。
Node被设置上污点之后就和Pod之间存在了一种相斥的关系，进而拒绝Pod调度进来，甚至可以将已经存在的Pod驱逐出去。
污点的格式为：key=value:effect, key和value是污点的标签，effect描述污点的作用，支持如下三个选项：
PreferNoSchedule：kubernetes将尽量避免把Pod调度到具有该污点的Node上，除非没有其他节点可调度 NoSchedule：kubernetes将不会把Pod调度到具有该污点的Node上，但不会影响当前Node上已存在的Pod NoExecute：kubernetes将不会把Pod调度到具有该污点的Node上，同时也会将Node上已存在的Pod驱离
使用kubectl设置和去除污点的命令示例如下：
# 设置污点 kubectl taint nodes node1 key=value:effect # 去除污点 kubectl taint nodes node1 key:effect- # 去除所有污点 kubectl taint nodes node1 key-
查询所有节点的污点：
wget -O jq https://github.com/stedolan/jq/releases/download/jq-1.6/jq-linux64 chmod +x ./jq cp jq /usr/bin 列出所有节点的污点 kubectl get nodes -o json | jq '.items[].spec' 或 kubectl get nodes -o json | jq '.items[].spec.taints' 查看指定节点上的污点 kubectl describe node 节点名称案例
接下来，演示下污点的效果：
1. 准备节点node1（为了演示效果更加明显，暂时停止node2节点，可直接关闭node2的虚拟机） 2. 为node1节点设置一个污点: `tag=heima:PreferNoSchedule`；然后创建pod1( 结果：pod1 可以 ) 3. 修改为node1节点设置一个污点: `tag=heima:NoSchedule`；然后创建pod2(结果： pod1 正常 pod2 失败 ) 4. 修改为node1节点设置一个污点: `tag=heima:NoExecute`；然后创建pod3 ( 结果：3个pod都失败 )kubectl cordon NODE [options] 将节点标记为不可调度。
kubectl uncordon NODE [options]
先关停node2（直接关机）
# 为node1设置污点(PreferNoSchedule) [root@master ~]# kubectl taint nodes node1 tag=heima:PreferNoSchedule # 创建pod1 [root@master ~]# kubectl run taint1 --image=nginx:1.17.1 -n dev [root@master ~]# kubectl get pods -n dev -o wide taint1 # 为node1设置污点(取消PreferNoSchedule，设置NoSchedule) [root@master ~]# kubectl taint nodes node1 tag:PreferNoSchedule- [root@master ~]# kubectl taint nodes node1 tag=heima:NoSchedule # 创建pod2 [root@master ~]# kubectl run taint2 --image=nginx:1.17.1 -n dev [root@master ~]# kubectl get pods taint2 -n dev -o wide 注：此时taint2状态为Pending，taint1状态仍为Running
# 为node1设置污点(取消NoSchedule，设置NoExecute) [root@master ~]# kubectl taint nodes node1 tag:NoSchedule- [root@master ~]# kubectl taint nodes node1 tag=heima:NoExecute # 创建pod3 [root@master ~]# kubectl run taint3 --image=nginx:1.17.1 -n dev [root@master ~]# kubectl get pods -n dev -o wide taint1 taint2 taint3 注：此时taint1 taint2均消失, taint3状态为Pending 查看报错信息 [root@master ~]# kubectl describe pod taint3 -n dev 查看此时node1的污点 [root@master ~]# kubectl describe node node1 | grep -i taint
小提示：
使用kubeadm搭建的集群，默认就会给master节点添加一个污点标记,所以pod就不会调度到master节点上.
容忍（Toleration）
上面介绍了污点的作用，我们可以在node上添加污点用于拒绝pod调度上来，但是如果就是想将一个pod调度到一个有污点的node上去，这时候应该怎么做呢？这就要使用到容忍。
污点就是拒绝，容忍就是忽略，Node通过污点拒绝pod调度上去，Pod通过容忍忽略拒绝
下面先通过一个案例看下效果：
1. 上一小节，已经在node1节点上打上了`NoExecute`的污点，此时pod是调度不上去的
2. 本小节，可以通过给pod添加容忍，然后将其调度上去
创建pod-toleration.yaml,内容如下
apiVersion: v1
kind: Pod
metadata:
name: pod-toleration
namespace: dev
spec:
containers:
- name: nginx
image: nginx:1.17.1
tolerations: # 添加容忍
- key: "tag" # 要容忍的污点的key
operator: "Equal" # 操作符
value: "heima" # 容忍的污点的value
effect: "NoExecute" # 添加容忍的规则，这里必须和标记的污点规则相同
注：此时容忍 匹配的只是node1的污点
# 添加容忍之前的pod
[root@master ~]# kubectl get pods -n dev -o wide [root@master ~]# vim pod-toleration.yaml [root@master ~]# kubectl create -f pod-toleration.yaml
# 添加容忍之后的pod
[root@master ~]# kubectl get pods -n dev -o wide pod-toleration taint3
下面看一下容忍的详细配置:
[root@master ~]# kubectl explain pod.spec.tolerations FIELDS: key # 对应着要容忍的污点的键，空意味着匹配所有的键 value # 对应着要容忍的污点的值 operator # key-value的运算符，支持Equal和Exists（默认） 注：Exists只作用在key上，若是Exists，则不用配置value effect # 对应污点的effect，空意味着匹配所有影响 tolerationSeconds # 容忍时间, 当effect为NoExecute时生效，表示pod在Node上的停留时间（一般不做配置）
#创建Pod [root@master ~]# kubectl create -f pod-nodeselector.yaml #查看Pod调度到NODE属性，确实是调度到了node1节点上 [root@master ~]# kubectl get pods pod-nodeselector -n dev -o wide
参考
黑马B站k8s课程https://www.bilibili.com/video/BV1Qv41167ck/ https://gitee.com/yooome/golang/blob/main/k8s%E8%AF%A6%E7%BB%86%E6%95%99%E7%A8%8B-%E8%B0%83%E6%95%B4%E7%89%88/k8s%E8%AF%A6%E7%BB%86%E6%95%99%E7%A8%8B.md https://www.yuque.com/fairy-era/yg511q/xyqxge标签：kubectl,调度,节点,详解,master,Pod,root,pod From： https://www.cnblogs.com/gys001/p/16893467.html