首页 > 其他分享 >statefulset有状态应用管理

statefulset有状态应用管理

时间:2022-09-29 15:35:18浏览次数:47  
标签:状态 statefulset web root Running 应用 pod k8s kubectl

statefulset介绍

StatefulSet(有状态集,缩写为sts)常用于部署有状态的且需要有序启动的应用程序,比如在进行SpringCloud项目容器化时,Eureka的部署是比较适合用StatefulSet部署方式的,可以给每个Eureka实例创建一个唯一且固定的标识符,并且每个Eureka实例无需配置多余的Service,其余Spring Boot应用可以直接通过Eureka的Headless Service即可进行注册。
Eureka的statefulset的资源名称是eureka,
eureka-0 eureka-1 eureka-2
Service:headless service,没有ClusterIP eureka-svc
Eureka-0.eureka-svc.NAMESPACE_NAME eureka-1.eureka-svc

StatefulSet的基本概念

    StatefulSet主要用于管理有状态应用程序的工作负载API对象。比如在生产环境中,可以部署ElasticSearch集群、MongoDB集群或者需要持久化的RabbitMQ集群、Redis集群、Kafka集群和ZooKeeper集群等。
和Deployment类似,一个StatefulSet也同样管理着基于相同容器规范的Pod。不同的是,StatefulSet为每个Pod维护了一个粘性标识。这些Pod是根据相同的规范创建的,但是不可互换,每个Pod都有一个持久的标识符,在重新调度时也会保留,一般格式为StatefulSetName-Number。比如定义一个名字是Redis-Sentinel的StatefulSet,指定创建三个Pod,那么创建出来的Pod名字就为Redis-Sentinel-0、Redis-Sentinel-1、Redis-Sentinel-2。而StatefulSet创建的Pod一般使用Headless Service(无头服务)进行通信,和普通的Service的区别在于Headless Service没有ClusterIP,它使用的是Endpoint进行互相通信,Headless一般的格式为:

statefulSetName-{0..N-1}.serviceName.namespace.svc.cluster.local。

说明:
serviceName为Headless Service的名字,创建StatefulSet时,必须指定Headless Service名称;
0..N-1为Pod所在的序号,从0开始到N-1;
statefulSetName为StatefulSet的名字;
namespace为服务所在的命名空间;
.cluster.local为Cluster Domain(集群域)

假如公司某个项目需要在Kubernetes中部署一个主从模式的Redis,此时使用StatefulSet部署就极为合适,因为StatefulSet启动时,只有当前一个容器完全启动时,后一个容器才会被调度,并且每个容器的标识符是固定的,那么就可以通过标识符来断定当前Pod的角色

StatefulSet注意事项

一般StatefulSet用于有以下一个或者多个需求的应用程序:
需要稳定的独一无二的网络标识符。
需要持久化数据。
需要有序的、优雅的部署和扩展。
需要有序的自动滚动更新。

如果应用程序不需要任何稳定的标识符或者有序的部署、删除或者扩展,应该使用无状态的控制器部署应用程序,比如Deployment或者ReplicaSet。

StatefulSet是Kubernetes 1.9版本之前的beta资源,在1.5版本之前的任何Kubernetes版本都没有。
Pod所用的存储必须由PersistentVolume Provisioner(持久化卷配置器)根据请求配置StorageClass,或者由管理员预先配置,当然也可以不配置存储。
为了确保数据安全,删除和缩放StatefulSet不会删除与StatefulSet关联的卷,可以手动选择性地删除PVC和PV(关于PV和PVC请参考2.2.12节)。
StatefulSet目前使用Headless Service(无头服务)负责Pod的网络身份和通信,需要提前创建此服务。
删除一个StatefulSet时,不保证对Pod的终止,要在StatefulSet中实现Pod的有序和正常终止,可以在删除之前将StatefulSet的副本缩减为0

定义一个StatefulSet资源文件

定义一个简单的StatefulSet的示例如下:
Cat StatefulSet-1.yaml

apiVersion: v1
kind: Service
metadata:
name: nginx
labels:
app: nginx
spec:
ports:
- port: 80
name: web
clusterIP: None #这里可以有IP,也可以无IP,推荐无IP,也就是 无头service
selector:
app: nginx
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
name: web
spec:
serviceName: "nginx"
replicas: 2
selector:
matchLabels:
app: nginx
template:
metadata:
labels:
app: nginx
spec:
containers:
- name: nginx
image: nginx:1.15.2
ports:
- containerPort: 80
name: web

此示例没有添加存储配置,后面的章节会单独讲解存储相关的知识点

创建一个StatefulSet

# 创建一个sts
[root@k8s-m01 yaml-file]# kubectl create -f StatefulSet-1.yaml #-n namespace_name
service/nginx created
statefulset.apps/web created
[root@k8s-m01 yaml-file]# kubectl get sts
NAME READY AGE
web 2/2 3s

[root@k8s-m01 yaml-file]# kubectl get pod
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 73s
web-1 1/1 Running 0 72s


[root@k8s-m01 yaml-file]# kubectl get svc
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
kubernetes ClusterIP 192.168.0.1 <none> 443/TCP 37d
nginx ClusterIP None <none> 80/TCP 2m59s
# <<--没有ClusterIP的service 简称 '无头service'

无头service

演示案例:

cat sts-busybox.yaml

apiVersion: v1
kind: Pod
metadata:
name: busybox
namespace: default
spec:
containers:
- name: busybox
image: busybox:1.28
command:
- sleep
- "3600"
imagePullPolicy: IfNotPresent
restartPolicy: Always
#启动进入 busybox ping  StatefulSet的web节点,理解如何解析无头service

[root@k8s-m01 yaml-file]# kubectl exec -it busybox -- sh

#nslookup解析
/ # nslookup web-0.nginx
Server: 192.168.0.10
Address 1: 192.168.0.10 kube-dns.kube-system.svc.cluster.local

Name: web-0.nginx
Address 1: 172.16.57.124 web-0.nginx.default.svc.cluster.local

可以看到 可以直接ping通 service的名字

缩容扩容StatefulSet

[root@k8s-m01 yaml-file]# kubectl scale --replicas=3 sts web
statefulset.apps/web scaled
[root@k8s-m01 yaml-file]# kubectl get pod
NAME READY STATUS RESTARTS AGE
nginx-55bbd66bbd-6n9jl 1/1 Running 0 9h
nginx-55bbd66bbd-9gxhf 1/1 Running 0 9h
web-0 1/1 Running 0 6m54s
web-1 1/1 Running 0 6m53s
web-2 1/1 Running 0 4s

[root@k8s-m01 yaml-file]# kubectl scale --replicas=2 sts web
statefulset.apps/web scaled
[root@k8s-m01 yaml-file]# kubectl get pod -o wide|grep web
web-0 1/1 Running 0 29m 172.16.57.124 k8s-n02
web-1 1/1 Running 0 29m 172.17.207.167 k8s-n01

#查看sts标签
[root@k8s-m01 yaml-file]# kubectl get pod --show-labels |grep web
web-0 1/1 Running 0 30m app=nginx,controller-revision-hash=web-6949d64dc8,statefulset.kubernetes.io/pod-name=web-0
web-1 1/1 Running 0 30m app=nginx,controller-revision-hash=web-6949d64dc8,statefulset.kubernetes.io/pod-name=web-1

#过滤标签,找到属于某个标签下的pod
[root@k8s-m01 yaml-file]# kubectl get pod -l controller-revision-hash=web-6949d64dc8
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 32m
web-1 1/1 Running 0 32m


#查看扩缩容过程:
#执行命令监视pod变化动态
kubectl get pod -l controller-revision-hash=web-6949d64dc8 -w

#扩容sts
[root@k8s-m01 ~]# kubectl scale --replicas=5 statefulset web
statefulset.apps/web scaled

#检查状态:
[root@k8s-m01 yaml-file]# kubectl get pod -l controller-revision-hash=web-6949d64dc8 -w
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 42m
web-1 1/1 Running 0 42m
web-2 0/1 Pending 0 0s
web-2 0/1 Pending 0 0s
web-2 0/1 ContainerCreating 0 0s
web-2 1/1 Running 0 2s
web-3 0/1 Pending 0 0s
web-3 0/1 Pending 0 0s
web-3 0/1 ContainerCreating 0 0s
web-3 1/1 Running 0 1s
web-4 0/1 Pending 0 0s
web-4 0/1 Pending 0 0s
web-4 0/1 ContainerCreating 0 0s
web-4 1/1 Running 0 1s
可以看到扩容时,web序号呈现递增更新


#缩容sts
[root@k8s-m01 ~]# kubectl scale --replicas=3 statefulset web
statefulset.apps/web scaled

[root@k8s-m01 yaml-file]# kubectl get pod -l controller-revision-hash=web-6949d64dc8 -w
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 46m
web-1 1/1 Running 0 46m
web-2 1/1 Running 0 115s
web-3 1/1 Running 0 113s
web-4 1/1 Running 0 112s

web-4 1/1 Terminating 0 2m1s
web-4 0/1 Terminating 0 2m1s
web-4 0/1 Terminating 0 2m2s
web-4 0/1 Terminating 0 2m2s
web-3 1/1 Terminating 0 2m3s
web-3 0/1 Terminating 0 2m4s
web-3 0/1 Terminating 0 2m4s
web-3 0/1 Terminating 0 2m4s
可以看到缩容时,web序号呈现倒序缩减


#删除sts查看流程
[root@k8s-m01 ~]# kubectl get pod
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 53m
web-1 1/1 Running 0 53m
web-2 1/1 Running 0 21s
[root@k8s-m01 ~]# kubectl delete pod web-2
pod "web-2" deleted

[root@k8s-m01 yaml-file]# kubectl get pod -l controller-revision-hash=web-6949d64dc8 -w
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 53m
web-1 1/1 Running 0 53m
web-2 1/1 Running 0 13s

web-2 1/1 Terminating 0 31s
web-2 0/1 Terminating 0 31s
web-2 0/1 Terminating 0 31s
web-2 0/1 Terminating 0 31s
web-2 0/1 Pending 0 0s
web-2 0/1 Pending 0 0s
web-2 0/1 ContainerCreating 0 0s
web-2 1/1 Running 0 2s

# sts 会保证副本数达到期望值,删除一个副本后会重新拉起一个新的副本
[root@k8s-m01 ~]# kubectl get pod
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 55m
web-1 1/1 Running 0 55m
web-2 1/1 Running 0 87s #<=== 重新拉起的新副本

注意:

StatefulSet的pod也会被命名为 pod的name
[root@k8s-m01 ~]# kubectl get pod
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 55m
web-1 1/1 Running 0 55m
web-2 1/1 Running 0 87s

[root@k8s-m01 ~]# kubectl exec -it web-0 -- sh
# hostname
web-0

StatefulSet更新策略

1. RollingUpdate 更新策略

#监视 statefulset 
kubectl get pod -l statefulset.kubernetes.io/pod-name

#修改nginx版本让它进行滚动更新
[root@k8s-m01 ~]# kubectl edit sts web

#默认更新策略RollingUpdate
updateStrategy:
rollingUpdate:
partition: 0 #不更新小于 N 的副本
type: RollingUpdate


#检查更新过程
[root@k8s-m01 ~]# kubectl get pod -l statefulset.kubernetes.io/pod-name -w
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 8m44s
web-1 1/1 Running 0 8m47s
web-2 1/1 Running 0 8m50s

web-2 1/1 Terminating 0 9m26s
web-2 0/1 Terminating 0 9m27s
web-2 0/1 Terminating 0 9m27s
web-2 0/1 Terminating 0 9m27s
web-2 0/1 Pending 0 0s
web-2 0/1 Pending 0 0s
web-2 0/1 ContainerCreating 0 0s
web-2 1/1 Running 0 2s
web-1 1/1 Terminating 0 9m26s
web-1 0/1 Terminating 0 9m27s
web-1 0/1 Terminating 0 9m27s
web-1 0/1 Terminating 0 9m27s
web-1 0/1 Pending 0 0s
web-1 0/1 Pending 0 0s
web-1 0/1 ContainerCreating 0 0s
web-1 1/1 Running 0 1s
web-0 1/1 Terminating 0 9m25s
web-0 0/1 Terminating 0 9m26s
web-0 0/1 Terminating 0 9m26s
web-0 0/1 Terminating 0 9m26s
web-0 0/1 Pending 0 0s
web-0 0/1 Pending 0 0s
web-0 0/1 ContainerCreating 0 0s
web-0 1/1 Running 0 1s

#可以看到更新过程会先从 web-2 更新,倒序更新

2. Ondelete 更新策略 [适用于灰度发布]

[root@k8s-m01 yaml-file]# kubectl edit sts web

修改:
updateStrategy:
rollingUpdate:
partition: 0
type: RollingUpdate

改为:
updateStrategy:
type: OnDelete #修改为OnDelete更新模式并保存,该更新策略是,删除时才会进行更新



#检查策略更新过程
开启一个窗口进行监视pod过程
# kubectl get pod -l statefulset.kubernetes.io/pod-name -w


#此时修改一个镜像版本,看是否像之前一样会被更新
- image: nginx:1.15.1 修改为 - image: nginx:1.15.3

#这时候另一个窗口完全没有变化


#删除pod查看窗口变化:
[root@k8s-m01 yaml-file]# kubectl get pod -l statefulset.kubernetes.io/pod-name
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 8m31s
web-1 1/1 Running 0 8m34s
web-2 1/1 Running 0 8m37s

[root@k8s-m01 yaml-file]# kubectl delete pod web-0
pod "web-0" deleted

#另一个窗口的变化:
[root@k8s-m01 ~]# kubectl get pod -l statefulset.kubernetes.io/pod-name -w
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 11m
web-1 1/1 Running 0 11m
web-2 1/1 Running 0 12m


web-0 1/1 Terminating 0 15m
web-0 0/1 Terminating 0 15m
web-0 0/1 Terminating 0 15m
web-0 0/1 Terminating 0 15m
web-0 0/1 Pending 0 0s
web-0 0/1 Pending 0 0s
web-0 0/1 ContainerCreating 0 0s
web-0 1/1 Running 0 1s

可以看到这时候web-0已经开始发生变化,这时候检查该pod版本是否被更新:

[root@k8s-m01 yaml-file]# kubectl get pod -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
web-0 1/1 Running 0 64s 172.17.207.176 k8s-n01 <none> <none> #<--被更新
web-1 1/1 Running 0 16m 172.17.207.174 k8s-n01 <none> <none>
web-2 1/1 Running 0 16m 172.16.57.68 k8s-n02 <none> <none>

#检查版本:
kubectl get pod web-0 -o yaml|grep image #也可以用这个命令来看版本

[root@k8s-m01 yaml-file]# kubectl exec -it web-0 -- sh
# nginx -v
nginx version: nginx/1.15.3

[root@k8s-m01 yaml-file]# kubectl exec -it web-1 -- sh
# nginx -v
nginx version: nginx/1.15.2

[root@k8s-m01 yaml-file]# kubectl exec -it web-2 -- sh
# nginx -v
nginx version: nginx/1.15.2

结论:
OnDelete策略只会在pod被删除时进行更新版本,该方法在进行灰度发布时效果较好

yaml中参数 partition含义 #分段更新配置

updateStrategy 
rollingUpdate:
partition: 2 #副本大于设置的值时进行更新,也就是分段更新,这里是大于2的副本更新
type: RollingUpdate

statefulset有状态应用管理_4s

partition: 2 #不更新小于 N 的副本

案例:
修改当前statefulset配置添加更新参数:

kubectl edit sts web

找到:
updateStrategy:
type: OnDelete

修改为:
updateStrategy:
type: RollingUpdate
rollingUpdate:
partition: 2

顺便修改镜像版本:
- image: nginx:1.15.3 修改为 - image: nginx:1.15.2

新开窗口监视变化
kubectl get pod -l statefulset.kubernetes.io/pod-name -w

修改镜像版本进行更新测试 partition: 2 参数

#这里可以看到 保留2个副本后,只有web-2进行了自动更新,web-0 web-1都没有更新
[root@k8s-m01 ~]# kubectl get pod -l statefulset.kubernetes.io/pod-name -w
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 21m
web-1 1/1 Running 0 22m
web-2 1/1 Running 0 21m
web-2 1/1 Terminating 0 22m
web-2 0/1 Terminating 0 22m
web-2 0/1 Terminating 0 22m
web-2 0/1 Terminating 0 22m
web-2 0/1 Pending 0 0s
web-2 0/1 Pending 0 0s
web-2 0/1 ContainerCreating 0 0s
web-2 1/1 Running 0 1s

#检查更新结果:
[root@k8s-m01 yaml-file]# kubectl get pod -l statefulset.kubernetes.io/pod-name -o yaml|grep image
- image: nginx:1.15.3
imagePullPolicy: IfNotPresent
image: nginx:1.15.3
imageID: docker-pullable://nginx@sha256:24a0c4b4a4c0eb97a1aabb8e29f18e917d05abfe1b7a7c07857230879ce7d3d3
- image: nginx:1.15.3
imagePullPolicy: IfNotPresent
image: nginx:1.15.3
imageID: docker-pullable://nginx@sha256:24a0c4b4a4c0eb97a1aabb8e29f18e917d05abfe1b7a7c07857230879ce7d3d3
- image: nginx:1.15.2
imagePullPolicy: IfNotPresent
image: nginx:1.15.2
imageID: docker-pullable://nginx@sha256:d85914d547a6c92faa39ce7058bd7529baacab7e0cd4255442b04577c4d1f424

可以看到只有一个nginx进行了更新到了 1.15.2
这就是 partition 参数的作用,在进行灰度发布时作用较大

statefulset删除

statefulset删除分为两种

级联删除[默认]
删除statefulset时删除pod


非级联删除
删除statefulset时不删除pod



级联删除:
默认级联删除时 会删除statefulset和pod

[root@k8s-m01 yaml-file]# kubectl delete sts web
statefulset.apps "web" deleted
[root@k8s-m01 yaml-file]# kubectl delete svc nginx
service "nginx" deleted
[root@k8s-m01 yaml-file]# kubectl get pod -l statefulset.kubernetes.io/pod-name
No resources found in default namespace. #删除后 web这个sts pod 已经没了



非级联删除:
[root@k8s-m01 yaml-file]# kubectl create -f StatefulSet-1.yaml
service/nginx created
statefulset.apps/web created
[root@k8s-m01 yaml-file]# kubectl get pod
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 7m
web-1 1/1 Running 0 5m

非级联删除:
[root@k8s-m01 yaml-file]# kubectl delete sts web --cascade=orphan
statefulset.apps "web" deleted

检查:
[root@k8s-m01 yaml-file]# kubectl get sts
No resources found in default namespace.

#此时这些pod会变成 孤儿pod,可以删除并不会被重建
[root@k8s-m01 yaml-file]# kubectl get pod
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 7m
web-1 1/1 Running 0 5m

非级联删除时,删除了sts 但是pod并未被删除
#kubernetes 1.24以前版本参数 --cascade=false
#kubernetes 1.24以后版本参数 --cascade=orphan


标签:状态,statefulset,web,root,Running,应用,pod,k8s,kubectl
From: https://blog.51cto.com/90xpy/5723006

相关文章

  • 探索优傲机器人丨UR10e在电子制造业的应用
    背景:随着时代发展,全球化已成为时代主题,电子产品受到广大消费者的追捧。电子制造产业是目前全球化、市场化最彻底的领域,追求高新技术和低廉成本是电子制造产业的发展趋势。我......
  • Lua 脚本在 Redis 事务中的应用实践
    Lua脚本在Redis事务中的应用实践使用过Redis事务的应该清楚,Redis事务实现是通过打包多条命令,单独的隔离操作,事务中的所有命令都会按顺序地执行。事务在执行的过程中......
  • 一、react基本应用
    一、helloworld(可直接用浏览器打开文件即可)cdn:bootcdn有各种js的cdn;一般提供开发版(js未压缩)和生产版(js压缩过了)需要引入3个js核心库:<scriptsrc="./node_modules/reac......
  • 比较运算符compareTo()、equals()、==之间的区别与应用总结
    在函数中定义的一些基本类型的变量和对象的引用变量都是在函数的栈内存中分配。当在一段代码块中定义一个变量时,java就在栈中为这个变量分配内存空间,当超过变量的作用域后,ja......
  • 有什么软件应用能够助力企业数字化转型?
    像工业APPs、ERP、MES等软件都是在企业数字化转型中发挥实实在在的作用的!总的来说对每个企业而言哪类软件助力更明显取决于企业所属行业、类型、规模、管理理念等多个方面,......
  • 第四章 序列的应用
    实例01输出每日一贴使用datetime.datatime.now()用来获取当前的日期点击查看代码importdatetime#导入日期时间类#定义一个列表mot=["今天星期一:\n坚......
  • 序列的应用例子
    第四章序列的应用实例01:输出每日一贴1importdatetime2#定义一个列表3mot=["今天星期一:\n坚持下去不是因为我很坚强,而是因为我别无选择。",4"今天......
  • 序列的应用
    1.输出每日一帖:    2.分两列显示2017~2018赛季NBA西部联盟前八名的球队    3.向NBA名人堂列表中追加2018年新进入的球队    4.使用二维列表输......
  • win10 升级至 win11 跳过TPM限制 (保留应用和数据)
    下载win11镜像:https://www.microsoft.com/zh-cn/software-download/windows11/运行Skip_TPM_Check_on_Dynamic_Update.cmd脚本,下载地址:https://github.com/AveYo/M......
  • ActiveMQ的最简单应用-队列消息
    有一段时间不使用JMS了。现在的项目又有可能需要应用JMS,来提高服务质量和提高系统资源的利用率。提高服务质量,主要是保证不间断的服务。用JMS服务器接收任务,排成队列。应用......