1.容器资源限制
官网文档
https://docs.docker.com/config/containers/resource_constraints/
2.docker内存限制
-m或者--memory= 容器可以使用的最大内存量。如果设置此选项,则允许的最小值为6m(6 兆字节)。也就是说,您必须将该值设置为至少 6 兆字节。
--oom-kill-disable 默认情况下,如果发生内存不足 (OOM) 错误,内核会终止容器中的进程。要更改此行为,请使用该--oom-kill-disable选项。仅在您还设置了该-m/--memory选项的容器上禁用 OOM 杀手。如果-m未设置该标志,主机可能会耗尽内存,内核可能需要终止主机系统的进程以释放内存。
下载性能压测工具
1.安装
docker pull lorel/docker-stress-ng
2.查看压测工具帮助信息
[root@docker-200 ~]#docker run --name mem_test -it --rm lorel/docker-stress-ng |grep 'mem'
--cache-flush flush cache after every memory write (x86 only)
--memcpy N start N workers performing memory copies
--memcpy-ops N stop when N memcpy bogo operations completed
--vm-hang N sleep N seconds before freeing memory
--vm-keep redirty memory instead of reallocating
--vm-locked lock the pages of the mapped region into memory
3.创建一个没有资源限制的容器任务
[root@docker-200 ~]#
[root@docker-200 ~]#docker run --name mem_test -it lorel/docker-stress-ng |grep 'vm'
-m N, --vm N start N workers spinning on anonymous mmap
--vm-bytes N allocate N bytes per vm worker (default 256MB)
--vm-hang N sleep N seconds before freeing memory
--vm-keep redirty memory instead of reallocating
--vm-ops N stop when N vm bogo operations completed
--vm-locked lock the pages of the mapped region into memory
--vm-method m specify stress vm method m, default is all
--vm-populate populate (prefault) page tables for a mapping
Example: stress-ng --cpu 8 --io 4 --vm 2 --vm-bytes 128M --fork 4 --timeout 10s
内存压测结果
创建容器且限制内存
[root@docker-200 ~]#docker run --rm --name mem_test_www.yuchaoit.cn -m 200m -it lorel/docker-stress-ng --vm 2
stress-ng: info: [1] defaulting to a 86400 second run per stressor
stress-ng: info: [1] dispatching hogs: 2 vm
3.容器CPU限制
https://docs.docker.com/config/containers/resource_constraints/#cpu
--cpus=<value> 指定容器可以使用多少可用 CPU 资源。例如,如果主机有两个 CPU,并且您设置--cpus="1.5"了 ,则容器最多可以保证一个半的 CPU。这相当于设置--cpu-period="100000"和--cpu-quota="150000"。
限制CPU实践
1.看宿主机CPU数量
[root@docker-200 ~]#lscpu |grep cpu -i
CPU op-mode(s): 32-bit, 64-bit
CPU(s): 4
On-line CPU(s) list: 0-3
CPU family: 6
CPU MHz: 2112.001
NUMA node0 CPU(s): 0-3
[root@docker-200 ~]#
2.压测命令
指定使用4个CPU,注意这是该工具提供的 --cpu参数,和容器无关
[root@docker-200 ~]#docker run --name cpu_test_www.yuchoait.cn --rm lorel/docker-stress-ng --cpu 4
stress-ng: info: [1] defaulting to a 86400 second run per stressor
stress-ng: info: [1] dispatching hogs: 4 cpu
工具指定用2个CPU压测
[root@docker-200 ~]#docker run --name cpu_test_www.yuchoait.cn --rm lorel/docker-stress-ng --cpu 2
stress-ng: info: [1] defaulting to a 86400 second run per stressor
stress-ng: info: [1] dispatching hogs: 2 cpu
top查看容器进程状态
docker提供的CPU使用限制
top查看限制
4.docker资源监控
注意ntp时间问题,时序数据库很关注这个。
4.1 docker自带监控
docker ps # 运行着的容器进程列表
docker top container_id # 查看容器内进程
docker stats container_id # 查看容器内cpu,mem,io情况
通过 docker stats 命令可以很方便的看到当前宿主机上所有容器的CPU,内存,以及网络流量等数据。
但 docker stats 命令的缺点是只是统计当前宿主机的所有容器,获取的数据是实时的,没有地方存储,也没有报警功能。
4.2 cADvisor、prometheus、grafana容器监控方案
1.CAdvisor出自Google,优点是开源产品,监控指标齐全,部署方便,而且有官方的docker镜像,采集容器的CPU,内存,网络,文件系统等信息
2. cAdvisor主要用于采集数据,并且导出数据交给其他展示软件即可。
3.可以用CAdviror结合很多其他工具实现容器资源监控+展示;
Prometheus是主流方案之一。
4.是什么
CAdvisor
CAdvisor是一个容器资源监控工具,包括容器的内存,CPU,网络IO,磁盘IO等,同时提供了一个WEB页面用于查看容器的实时运行状态。CAdvisor默认存储2分钟的数据,而且只是针对单物理机,不过,CAdvisor提供了很多数据集成接口,支持InfluxDB,Redis,Kafka,Elasticsearch等集成,可以加上对应配置将监控数据发往这些数据库存储起来。
CAdvisor功能主要有两点,展示Host,容器两个层次的监控数据和展示历史变化
4.3 prometheus是什么
官网:https://prometheus.io
github地址:https://github.com/prometheus
普罗米修斯
2、Prometheus 特点
• 多维数据模型:由度量名称和键值对标识的时间序列数据
• PromSQL:一种灵活的查询语言,可以利用多维数据完成复杂的查询
• 不依赖分布式存储,单个服务器节点可直接工作
• 基于HTTP的pull方式采集时间序列数据
• 推送时间序列数据通过PushGateway组件支持
• 通过服务发现或静态配置发现目标
• 多种图形模式及仪表盘支持(grafana)
主要组件是
node exporter:用于采集主机硬件,系统,应用等运行数据,以容器的形式运行在目标主机上。
cAdvisor,负责采集容器数据,以容器的形式运行在所有目标机器上。
什么是node_exporter
Node Exporter 是 Prometheus 官方提供的一个节点资源采集组件,可以用于收集服务器节点的数据,如 CPU频率信息、磁盘IO统计、剩余可用内存 等等。
Node Exporter 会将收集到的信息转换为 Prometheus 可识别的 Metrics 数据。
Prometheus 可以从 Node Exporter 中对这些指标进行收集与存储,并且可以根据这些数据的实时变化进行服务器节点资源监控。
普罗米修斯工作原理流程
Prometheus的基本原理是通过HTTP协议周期性抓取被监控组件的状态,任意组件只要提供对应的HTTP接口就可以接入监控。
不需要任何SDK或者其他的集成过程。
这样做非常适合做虚拟化环境监控系统,比如VM、Docker、Kubernetes等。输出被监控组件信息的HTTP接口被叫做exporter 。
目前互联网公司常用的组件大部分都有exporter可以直接使用,比如Varnish、Haproxy、Nginx、MySQL、Linux系统信息(包括磁盘、内存、CPU、网络等等)。
grafana
Grafana 是一个分析平台,可用于查询和可视化数据,然后根据可视化结果创建和共享仪表板。
4.4 实践部署
10.0.0.200 部署cAdvisor + node exporter + prometheus + grafana
10.0.0.201 部署 cAdvisor + node exporter
docker-200机器
编写普罗米修斯配置文件
cat > prometheus.yml <<'EOF'
scrape_configs:
- job_name: cadvisor
scrape_interval: 5s
static_configs:
- targets:
- 10.0.0.200:8080
- 10.0.0.201:8080
- job_name: prometheus
scrape_interval: 5s
static_configs:
- targets:
- 10.0.0.200:9090
- job_name: node_exporter
scrape_interval: 5s
static_configs:
- targets:
- 10.0.0.200:9100
- 10.0.0.201:9100
EOF
docker-compose配置文件
cat > docker-compose.yml << 'EOF'
version: '3.2'
services:
prometheus:
image: prom/prometheus:latest
container_name: prometheus
ports:
- 9090:9090
command:
- --config.file=/etc/prometheus/prometheus.yml
volumes:
- ./prometheus.yml:/etc/prometheus/prometheus.yml:ro
depends_on:
- cadvisor
node-exporter:
image: prom/node-exporter:latest
container_name: node_exporter
ports:
- 9100:9100
cadvisor:
image: google/cadvisor:latest
container_name: cadvisor
ports:
- 8080:8080
volumes:
- /:/rootfs:ro
- /var/run:/var/run:rw
- /sys:/sys:ro
- /var/lib/docker/:/var/lib/docker:ro
grafana:
image: grafana/grafana:latest
container_name: grafana
ports:
- 3000:3000
EOF
文件列表
[root@docker-200 /www.yuchaoit.cn/compose_prometheus]#ll
total 8
-rw-r--r-- 1 root root 736 Aug 31 02:58 docker-compose.yml
-rw-r--r-- 1 root root 389 Aug 31 02:44 prometheus.yml
安装
docker-compose -f docker-compose.yml up -d
访问cAdvisor
可以传递给prometheus的指标
http://10.0.0.200:8080/metrics
访问node_exporters节点采集
docker-201配置
docker-compose配置
cat > docker-compose.yml << 'EOF'
version: '3.2'
services:
node-exporter:
image: prom/node-exporter:latest
container_name: node_exporter
ports:
- 9100:9100
cadvisor:
image: google/cadvisor:latest
container_name: cadvisor
ports:
- 8080:8080
volumes:
- /:/rootfs:ro
- /var/run:/var/run:rw
- /sys:/sys:ro
- /var/lib/docker/:/var/lib/docker:ro
EOF
安装
yum install docker-compose -y
docker-compose -f docker-compose.yml up -d
4.5 访问grafana
10.0.0.200:3000
默认admin
admin
新密码
www.yuchaoit.cn
数据采集架构
添加数据源
添加普罗米修斯
打开数据展示仪表盘
使用如下模板
https://grafana.com/grafana/dashboards/8919-1-node-exporter-for-prometheus-dashboard-cn-0413-consulmanager/
展示主机数据监控情况)
继续添加采集容器的数据
cAdvisor采集到容器的数据,已经交给Prometheus了
只需要通过一个模板展示即可
https://grafana.com/grafana/dashboards/11600-docker-container/
再跑一个容器,压测试试,查看监控情况
[root@docker-201 ~]#docker run --name www.yuchaoit.cn -d -p 81:80 nginx
ef9e26cec58a7c2f0d97db75a894d22836b7099748028c1eaeeff73e5e9e9515
[root@docker-201 ~]#
[root@docker-201 ~]#
[root@docker-201 ~]#
[root@docker-201 ~]#ab -c 100 -n 1000000 http://10.0.0.201:81/
至此,就完成了基于Prometheus + grafana完成了对 linux服务器,以及docker容器的数据采集+展示。
更多普罗米修斯的玩法,还得继续学习,这是一块非常大的知识点。
学习如普罗米修斯查询语句等。
标签:容器,--,vm,应用,docker,root,CPU,综合
From: https://www.cnblogs.com/sxy-blog/p/17916525.html