Pod 进阶
资源限制
当定义 Pod 时可以选择性地为每个容器设定所需要的资源数量。 最常见的可设定资源是 CPU 和内存大小,以及其他类型的资源。 当为 Pod 中的容器指定了 request 资源时,代表容器运行所需的最小资源量,调度器就使用该信息来决定将 Pod 调度到哪个节点上。当还为容器指定了 limit 资源时,kubelet 就会确保运行的容器不会使用超出所设的 limit 资源量。kubelet 还会为容器预留所设的 request 资源量, 供该容器使用。 如果 Pod 运行所在的节点具有足够的可用资源,容器可以使用超出所设置的 request 资源量。不过,容器不可以使用超出所设置的 limit 资源量。 如果给容器设置了内存的 limit 值,但未设置内存的 request 值,Kubernetes 会自动为其设置与内存 limit 相匹配的 request 值。 类似的,如果给容器设置了 CPU 的 limit 值但未设置 CPU 的 request 值,则 Kubernetes 自动为其设置 CPU 的 request 值 并使之与 CPU 的 limit 值匹配
官网示例:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
Pod 和 容器 的资源请求和限制: spec.containers[].resources.requests.cpu //定义创建容器时预分配的CPU资源 spec.containers[].resources.requests.memory //定义创建容器时预分配的内存资源 spec.containers[].resources.limits.cpu //定义 cpu 的资源上限 spec.containers[].resources.limits.memory //定义内存的资源上限
CPU 资源单位
CPU 资源的 request 和 limit 以 cpu 为单位。Kubernetes 中的一个 cpu 相当于1个 vCPU(1个超线程)。 Kubernetes 也支持带小数 CPU 的请求。spec.containers[].resources.requests.cpu 为 0.5 的容器能够获得一个 cpu 的一半 CPU 资源(类似于Cgroup对CPU资源的时间分片)。表达式 0.1 等价于表达式 100m(毫核),表示每 1000 毫秒内容器可以使用的 CPU 时间总量为 0.1*1000 毫秒。 Kubernetes 不允许设置精度小于 1m 的 CPU 资源。
内存 资源单位
内存的 request 和 limit 以字节为单位。可以以整数表示,或者以10为底数的指数的单位(E、P、T、G、M、K)来表示, 或者以2为底数的指数的单位(Ei、Pi、Ti、Gi、Mi、Ki)来表示。 如:1KB=10^3=1000,1MB=10^6=1000000=1000KB,1GB=10^9=1000000000=1000MB 1KiB=2^10=1024,1MiB=2^20=1048576=1024KiB PS:在买硬盘的时候,操作系统报的数量要比产品标出或商家号称的小一些,主要原因是标出的是以 MB、GB为单位的,1GB 就是1,000,000,000Byte,而操作系统是以2进制为处理单位的,因此检查硬盘容量时是以MiB、GiB为单位,1GiB=2^30=1,073,741,824,相比较而言,1GiB要比1GB多出1,073,741,824-1,000,000,000=73,741,824Byte,所以检测实际结果要比标出的少一些。
#镜像换成nginx
apiVersion: v1 kind: Pod metadata: name: frontend spec: containers: - name: app image: nginx env: - name: MYSQL_ROOT_PASSWORD value: "password" resources: requests: memory: "64Mi" cpu: "250m" limits: memory: "128Mi" cpu: "500m" - name: log-aggregator image: nginx resources: requests: memory: "64Mi" cpu: "250m" limits: memory: "128Mi" cpu: "500m"
此例子中的 Pod 有两个容器。每个容器的 request 值为 0.25 cpu 和 64MiB 内存,每个容器的 limit 值为 0.5 cpu 和 128MiB 内存。那么可以认为该 Pod 的总的资源 request 为 0.5 cpu 和 128 MiB 内存,总的资源 limit 为 1 cpu 和 256MiB 内存
apiVersion: v1 kind: Pod metadata: name: frontend spec: containers: - name: web image: nginx env: - name: WEB_ROOT_PASSWORD value: "password" resources: requests: memory: "64Mi" cpu: "250m" limits: memory: "128Mi" cpu: "500m" - name: db image: mysql env: - name: MYSQL_ROOT_PASSWORD value: "abc123" resources: requests: memory: "512Mi" cpu: "0.5" limits: memory: "1Gi" cpu: "1"
健康检查:又称为探针(Probe)
探针是由kubelet对容器执行的定期诊断
探针的三种规则: ●livenessProbe :判断容器是否正在运行。如果探测失败,则kubelet会杀死容器,并且容器将根据 restartPolicy 来设置 Pod 状态。 如果容器不提供存活探针,则默认状态为Success。 ●readinessProbe :判断容器是否准备好接受请求。如果探测失败,端点控制器将从与 Pod 匹配的所有 service endpoints 中剔除删除该Pod的IP地址。 初始延迟之前的就绪状态默认为Failure。如果容器不提供就绪探针,则默认状态为Success。 ●startupProbe(这个1.17版本增加的):判断容器内的应用程序是否已启动,主要针对于不能确定具体启动时间的应用。如果配置了 startupProbe 探测,则在 startupProbe 状态为 Success 之前,其他所有探针都处于无效状态,直到它成功后其他探针才起作用。 如果 startupProbe 失败,kubelet 将杀死容器,容器将根据 restartPolicy 来重启。如果容器没有配置 startupProbe, 则默认状态为 Success。 #注:以上规则可以同时定义。在readinessProbe检测成功之前,Pod的running状态是不会变成ready状态的。 Probe支持三种检查方法: ●exec :在容器内执行指定命令。如果命令退出时返回码为0则认为诊断成功。 ●tcpSocket :对指定端口上的容器的IP地址进行TCP检查(三次握手)。如果端口打开,则诊断被认为是成功的。 ●httpGet :对指定的端口和uri路径上的容器的IP地址执行HTTPGet请求。如果响应的状态码大于等于200且小于400,则诊断被认为是成功的 每次探测都将获得以下三种结果之一: ●成功(Success):表示容器通过了检测。 ●失败(Failure):表示容器未通过检测。 ●未知(Unknown):表示检测没有正常进行。
#initialDelaySeconds:指定 kubelet 在执行第一次探测前应该等待5秒,即第一次探测是在容器启动后的第6秒才开始执行。默认是 0 秒,最小值是 0。 #periodSeconds:指定了 kubelet 应该每 5 秒执行一次存活探测。默认是 10 秒。最小值是 1。 #failureThreshold: 当探测失败时,Kubernetes 将在放弃之前重试的次数。 存活探测情况下的放弃就意味着重新启动容器。就绪探测情况下的放弃 Pod 会被打上未就绪的标签。默认值是 3。最小值是 1。 #timeoutSeconds:探测的超时后等待多少秒。默认值是 1 秒。最小值是 1。(在 Kubernetes 1.20 版本之前,exec 探针会忽略 timeoutSeconds 探针会无限期地 持续运行,甚至可能超过所配置的限期,直到返回结果为止。) 可以看到 Pod 中只有一个容器。kubelet 在执行第一次探测前需要等待 5 秒,kubelet 会每 5 秒执行一次存活探测。kubelet 在容器内执行命令 cat /tmp/healthy 来进行探测。如果命令执行成功并且返回值为 0,kubelet 就会认为这个容器是健康存活的。 当到达第 31 秒时,这个命令返回非 0 值,kubelet 会杀死这个容器并重新启动它。
apiVersion: v1 kind: Pod metadata: name: liveness-exec namespace: default spec: containers: - name: liveness-exec-container image: busybox imagePullPolicy: IfNotPresent command: ["/bin/sh","-c","touch /tmp/live ; sleep 30; rm -rf /tmp/live; sleep 3600"] livenessProbe: exec: command: ["test","-e","/tmp/live"] initialDelaySeconds: 1 periodSeconds: 3
kubectl describe pods liveness-exec
httpGet方式
apiVersion: v1 kind: Pod metadata: name: liveness-httpget namespace: default spec: containers: - name: liveness-httpget-container image: soscscs/myapp:v1 imagePullPolicy: IfNotPresent ports: - name: http containerPort: 80 livenessProbe: httpGet: port: http path: /index.html initialDelaySeconds: 1 periodSeconds: 3 timeoutSeconds: 10
#删除nginx的web首页文件
kubectl exec -it liveness-httpget -- rm -rf /usr/share/nginx/html/index.html
#监控查看,httpge出来了,并且status为running
tcpSocket方式
apiVersion: v1 kind: Pod metadata: name: probe-tcp spec: containers: - name: nginx image: soscscs/myapp:v1 livenessProbe: initialDelaySeconds: 5 timeoutSeconds: 1 tcpSocket: port: 8080 periodSeconds: 10 failureThreshold: 2
kubectl exec -it probe-tcp -- netstat -natp
就绪检测
apiVersion: v1 kind: Pod metadata: name: readiness-httpget namespace: default spec: containers: - name: readiness-httpget-container image: soscscs/myapp:v1 imagePullPolicy: IfNotPresent ports: - name: http containerPort: 80 readinessProbe: httpGet: port: 80 path: /index1.html initialDelaySeconds: 1 periodSeconds: 3 livenessProbe: httpGet: port: http path: /index.html initialDelaySeconds: 1 periodSeconds: 3 timeoutSeconds: 10
kubectl exec -it readiness-httpget -- rm -rf /usr/share/nginx/html/index.html
就绪检测
apiVersion: v1 kind: Pod metadata: name: myapp1 labels: app: myapp spec: containers: - name: myapp image: soscscs/myapp:v1 ports: - name: http containerPort: 80 readinessProbe: httpGet: port: 80 path: /index.html initialDelaySeconds: 5 periodSeconds: 5 timeoutSeconds: 10 --- apiVersion: v1 kind: Pod metadata: name: myapp2 labels: app: myapp spec: containers: - name: myapp image: soscscs/myapp:v1 ports: - name: http containerPort: 80 readinessProbe: httpGet: port: 80 path: /index.html initialDelaySeconds: 5 periodSeconds: 5 timeoutSeconds: 10 --- apiVersion: v1 kind: Pod metadata: name: myapp3 labels: app: myapp spec: containers: - name: myapp image: soscscs/myapp:v1 ports: - name: http containerPort: 80 readinessProbe: httpGet: port: 80 path: /index.html initialDelaySeconds: 5 periodSeconds: 5 timeoutSeconds: 10 --- apiVersion: v1 kind: Service metadata: name: myapp spec: selector: app: myapp type: ClusterIP ports: - name: http port: 80 targetPort: 80
kubectl get pods,svc,endpoints -o wide
kubectl exec -it pod/myapp1 -- rm -rf /usr/share/nginx/html/index.html
#进入容器里创建个index.html的文件
#状态又变为running
#又回来了
启动、退出动作
apiVersion: v1 kind: Pod metadata: name: lifecycle-demo spec: containers: - name: lifecycle-demo-container image: soscscs/myapp:v1 lifecycle: #此为关键字段 postStart: exec: command: ["/bin/sh", "-c", "echo Hello from the postStart handler >> /var/log/nginx/message"] preStop: exec: command: ["/bin/sh", "-c", "echo Hello from the poststop handler >> /var/log/nginx/message"] volumeMounts: - name: message-log mountPath: /var/log/nginx/ readOnly: false initContainers: - name: init-myservice image: soscscs/myapp:v1 command: ["/bin/sh", "-c", "echo 'Hello initContainers' >> /var/log/nginx/message"] volumeMounts: - name: message-log mountPath: /var/log/nginx/ readOnly: false volumes: - name: message-log hostPath: path: /data/volumes/nginx/log/ type: DirectoryOrCreate
#node01节点
kubectl exec -it lifecycle-demo -- cat /var/log/nginx/message
#去node01节点上查看,init Container先执行,然后当一个主容器启动后,Kubernetes 将立即发送 postStart 事件。
删除pod lifecycle-demo
由上可知,当在容器被终结之前, Kubernetes 将发送一个 preStop 事件
Pod容器的资源限制
Pod容器的资源限制: resources.requests|limits (resources与image字段同层级) resources.requests.cpu|memory|hugepages=<size>|ephemeral-storage|nvidia.com/gpu(需要第三方插件支持) #设置Pod容器创建时需要预留的资源量 resources.limits.cpu|memory|hugepages=<size>|ephemeral-storage|nvidia.com/gpu(需要第三方插件支持) #设置Pod容器能够使用的资源量上限 如果Pod容器的进程使用的内存资源量超过limits.memory设置的值则会引发内存不足OOM错误 CPU资源量单位: cpu个数 1 2 0.25 1.25 毫核 1000m 2000m 500m 1250m memory|hugepages=<size>|ephemeral-storage资源量单位: 纯证书(默认单位字节) 2为底的单位(Ki Mi Gi Ti) 10为底数的单位(K M G T) QOS服务质量: 确定Pod的调度和驱逐优先级 Guaranteed: Pod中的每个容器,包含初始化容器,必须指定内存、CPU的requests 和 limits 并且 requests 和limits 要相等 Burstable: Pod 中至少有一个容器具有内存 或 CPU requests BestEffort: Pod中的所有容器都没有指定内存 或CPU 的requests 和 limits 优先级: Guaranteed > Burstable > BestEffort Guaranteed(QoS) DE pod,其优先级最高,在其资源使用量不超过其 limits 的情况下,可用确保不被杀死 在系统内存紧张,且集群中没有QoS 为Best-Effort 级别的其他Pod时,一旦Burstable (QOS) 的 Pod 使用的资源量超过了其requests,这些 Pod 就容易被杀死 BestEffort (QoS) 的 Pod,其优先级最低,当系统内存资源紧张时,这些Pod底层容器中的进程时最先会被杀死的 kubectl describe -n <命名空间> Pods <资源名称> #查看Pod中的每个容器的资源限制的配置 kubectl describe node <node节点名称> #查看node节点的资源总量、每个Pod的资源限制和节点的资源限制总量及比列
健康检查:又称为探针(Probe)
#Pod容器的三种探针(健康检查): 存活探针(livenessProbe): 探测Pod容器是否在正常运行,如果探测失败则kubelet杀掉容器,并根据容器重启策略决定是否重启 就绪探针(readinessPorbe): 探测Pod是否进入就绪状态(ready状态栏是否100%比例),如进入就绪状态,并做好接受service转发来的请求准备。如探测失败则Pod会变成未就绪状态(0/1 1/2 ...),service就会删除相关联的Pod端点,并不再转发请求给处于未就绪状态的Pod 启动探针(startupProbe): 探测Pod容器内的应用进程是否启动成功,在启动探针探测成功之前,存活探针和就绪探针都会暂时处于暂停状态,直到启动探针成功为止。如果探测失败,则kubelet杀掉容器,并且根据容器重启策略决定是否重启容器 #探针参数 initialDelaySeconds #指定容器启动延迟探测的时间(单位为秒) periodSeconds #指定每次探测的间隔时间 failureThreshold #指定判定探测失败的连续失败次数 timeoutSeconds #指定探测超时等待时间 #探针的三种探测方式 exec: 在容器里执行Linux命令,如果命令返回码为0则认为探测成功,繁殖命令返回码为非0值,则认为探测失败 HttpGet: 向PodIP和指定的端口及url路径发送HTTP GET请求,如果HTTP响应状态码为2XX,3XX则认为探测成功,如果HTTP响应状态码为4xx,5xx则认为探测失败 tcpSocket: 向PodIP和指定的端口发送TCP连接请求(发起三次握手),如果端口正确且TCP连接成功,则认为探测成功,如果TCP连接失败,则认为探测失败 #推荐使用HttpGet或tcpSocket。由于在1.20版本之前有点小bug,怕影响容器的性能,所以不建议使用exec
Pod容器启动动作和退出动作
Pod容器启动动作和退出动作: lifecycle.postStart|preStop(lifecycle与image同层级) lifecycle.postStart #设置Pod容器启动时额外执行的操作,此操作不会作为容器pid=1的主进程 lifecycle.preStop #设置Pod容器被kubelet杀掉后,执行操作,使用kubectl delete pods 或 探针探测失败后会杀掉容器
标签:容器,进阶,探测,v1,Pod,K8S,cpu,name From: https://www.cnblogs.com/yanrui07/p/18045346