首页 > 其他分享 >初学prometheus监控(一)

初学prometheus监控(一)

时间:2023-05-31 14:57:20浏览次数:50  
标签:node Prometheus prometheus 初学 监控 root cpu

初学prometheus监控(一)

1、promethues 介绍

1.1 监控的分类

监控重要性由高到低

  • 业务监控:公司领导比较关心的指标,如电商平台的订单数量,用户的日活等
  • 系统监控:主要是跟操作系统相关的基本监控项,比如CPU,内存,硬盘,IO,TCP链接,流量等等
  • 网络监控:对网络状态的监控(交换机,路由器,防火墙,VPN等),互联网公司必不可少,但是很多时候又被忽略,例如:IDC机房内网之间,外网之间的丢包率,延迟等等。
  • 日志监控:监控中的重头戏,往往单独设计和搭建,全部种类的日志都有需要采集,常见的解决方案如Elstic stack(有免费版),Splunk(付费版)等。
  • 程序监控:一般需要和开发人员配合,程序中嵌入各种接口,直接获取数据或者特质的日志格式。

1.2 promethues 优点

Prometheus是一个开源的完整监控解决方案,其对传统监控系统的测试和告警模型进行了彻底的颠覆,形成了基于中央化的规则计算、统一分析和告警的新模型。

相比于传统监控系统Prometheus具有以下优点:

  • 易于管理
    • Prometheus核心部分只有一个单独的二进制文件,不存在任何的第三方依赖(数据库,缓存等等)。唯一需要的就是本地磁盘,因此不会有潜在级联故障的风险。
    • Prometheus基于Pull模型的架构方式,可以在任何地方(本地电脑,开发环境,测试环境)搭建我们的监控系统。对于一些复杂的情况,还可以使用Prometheus服务发现(Service Discovery)的能力动态管理监控目标。
  • 监控服务的内部运行状态
    • Pometheus鼓励用户监控服务的内部状态,基于Prometheus丰富的Client库,用户可以轻松的在应用程序中添加对Prometheus的支持,从而让用户可以获取服务和应用内部真正的运行状态。
  • 时间序列(time series)
    • 所谓的时间序列(time series)指的是一系列有序的数据,通常是指等时间间隔的采样数据,说白了就是分为X和Y轴,其中X轴是按照时间间隔进行推进,而Y轴是有序的数字。
  • 强大的数据模型
    • 所有采集的监控数据均以指标(metric)的形式保存在内置的时间序列数据库当中(TSDB)。所有的样本除了基本的指标名称以外,还包含一组用于描述该样本特征的标签。
  • 强大的查询语言PromQL
    • Prometheus内置了一个强大的数据查询语言PromQL。 通过PromQL可以实现对监控数据的查询、聚合。同时PromQL也被应用于数据可视化(如Grafana)以及告警当中。
    • 通过PromQL可以轻松回答类似于以下问题:
      1>.在过去一段时间中95%应用延迟时间的分布范围?
      2>.预测在4小时后,磁盘空间占用大致会是什么情况?
      3>.CPU占用率前5位的服务有哪些?(过滤)
  • 高效
    • 对于监控系统而言,大量的监控任务必然导致有大量的数据产生。而Prometheus可以高效地处理这些数据,对于单一Prometheus Server实例而言它可以处理:数以百万的监控指标和每秒处理数十万的数据点。而zabbix对此相对来说就有点吃力了;
  • 可扩展(支持集群)
    • Prometheus是如此简单,因此你可以在每个数据中心、每个团队运行独立的Prometheus Sevrer。
    • Prometheus对于联邦集群的支持,可以让多个Prometheus实例产生一个逻辑集群,当单实例Prometheus Server处理的任务量过大时,通过使用功能分区(sharding)+联邦集群(federation)可以对其进行扩展。
  • 易于集成
    • 使用Prometheus可以快速搭建监控服务,并且可以非常方便地在应用程序中进行集成。目前支持: "Java","JMX","Python","Go","Ruby",".Net", "Node.js"等等语言的客户端SDK,基于这些SDK可以快速让应用程序纳入到Prometheus的监控当中,或者开发自己的监控数据收集程序。同时这些客户端收集的监控数据,不仅仅支持Prometheus,还能支持Graphite这些其他的监控工具。
    • 同时Prometheus还支持与其他的监控系统进行集成:"Graphite", "Statsd", "Collected", "Scollector", "muini", "Nagios"等。
    • Prometheus社区还提供了大量第三方实现的监控数据采集支持:"JMX", "CloudWatch", "EC2","MySQL","PostgresSQL", "Haskell", "Bash", "SNMP", "Consul", "Haproxy", "Mesos", "Bind", "CouchDB", "Django", "Memcached", "RabbitMQ", "Redis", "RethinkDB", "Rsyslog"等等。
  • 可视化
    • Prometheus Server中自带了一个Prometheus UI,通过这个UI可以方便地直接对数据进行查询,并且支持直接以图形化的形式展示数据。
    • 同时Prometheus还提供了一个独立的基于Ruby On Rails的Dashboard解决方案Promdash。
    • 最新的Grafana可视化工具也已经提供了完整的Prometheus支持,基于Grafana可以创建更加精美的监控图标。基于Prometheus提供的API还可以实现自己的监控可视化UI。
  • 开放性
    • 通常来说当我们需要监控一个应用程序时,一般需要该应用程序提供对相应监控系统协议的支持。因此应用程序会与所选择的监控系统进行绑定。为了减少这种绑定所带来的限制。对于决策者而言要么你就直接在应用中集成该监控系统的支持,要么就在外部创建单独的服务来适配不同的监控系统。
    • 而对于Prometheus来说,使用Prometheus的client library的输出格式不止支持Prometheus的格式化数据,也可以输出支持其它监控系统的格式化数据,比如Graphite。
    • 因此你甚至可以在不使用Prometheus的情况下,采用Prometheus的client library来让你的应用程序支持监控数据采集。

Prometheus除了上述说到的优点,其实也有以下不足之处:

  • 学习成本太大,尤其是其独有的数学命令行,学习起来很吃力,而且全是英文文档;
  • 对磁盘资源也是耗费的较大,这个具体要看监控的集群量和监控项的多少和保存时间的长短;
  • 有网友称在1.x版本中可能会发生数据丢失的风险,因此生产环境中建议大家使用较新的2.x发行版;

温馨提示:

  • zabbix采用的是MySQL数据库,Prometheus采用的是时间序列数据库,由于监控数据并不需要更新,监控数据会存在大量的写入和查询,其底层实现会更高,具体细节原理可自行查阅资料,Prometheus是支持外部数据库存储的,但我觉得完全没有必要在生产环境中这样做;
  • 如果上述10点还不足以打动你学习Prometheus,那我再说一点比较现实的,国内目前很多中小企业都在使用Prometheus监控docker,Kubernetes,学习它有助于咱们找工作。

1.3 promethues 使用场景

适用的场景(When does it fit?)

  • Prometheus适用于记录任何纯数字时间序列。它既适合以机器为中心的监控,也适合监控高度动态的面向服务的架构。在微服务的世界中,它对多维数据收集和查询的支持是一个特殊的优势。
  • Prometheus是为可靠性而设计的,它是您在中断期间访问的系统,让您能够快速诊断问题。每个 Prometheus服务器都是独立的,不依赖于网络存储或其他远程服务。当基础架构的其他部分损坏时,您可以依赖它,并且您无需设置大量基础架构即可使用它。(请记住该点,这是优点也是缺点哟~)

不适用的场景(When does it not fit?)

  • 如上所示,Prometheus重视可靠性。即使在出现故障的情况下,您也可以随时查看有关系统的可用统计信息。
  • 如果您需要100%的准确性,例如按请求计费,Prometheus不是一个好的选择,因为收集的数据可能不够详细和完整。在这种情况下,您最好使用其他系统来收集和分析计费数据,并使用Prometheus进行其余的监控。

推荐阅读:
https://prometheus.io/docs/introduction/overview/#when-does-it-fit
https://prometheus.io/docs/introduction/overview/#when-does-it-not-fit

1.4 promethues 宏观架构图

图片.png-501.8kB

如下图所示,展示了普罗米修斯(prometheus)的建筑和它的一些生态系统组成部分。

  • Prometheus server:
    • prometheus的服务端,负责收集指标和存储时间序列数据,并提供查询接口。
  • exporters:
    • 如果想要监控,前提是能获取被监控端数据,并且这个数据格式必须遵循Prometheus数据模型,这样才能识别和采集,一般使用exporter数据采集器(类似于zabbix_agent端)提供监控指标数据。
    • exporter数据采集器,除了官方和GitHub提供的常用组件exporter外,我们也可以为自己自研的产品定制exporters组件哟。
  • Pushgateway:
    • 短期存储指标数据,主要用于临时性的任务。比如备份数据库任务监控等。
    • 本质上我们可以理解为Pushgateway可以帮咱们监控自定义的监控项,这需要咱们自己编写脚本来推送到Pushgateway端,而后由Prometheus
      server从Pushgateway去pull监控数据。
    • 换句话说,请不要被官方的架构图蒙骗了,咱们完全可以基于Pushgateway来监控咱们自定义的监控项哟,这些监控项完全可以是长期运行的呢!
  • Service discovery:
    • 服务发现,例如我们可以配置动态的服务监控,无需重启Prometheus server实例就能实现动态监控。
  • Alertmanager:
    • 支持报警功能,比如可以支持基于邮件,微信,钉钉报警。
    • 据网友反馈该组件在生产环境中存在缺陷,因此我们可以考虑使用Grafana来展示并实现报警功能。
  • Prometheus Web UI
    • Prometheus比较简单的Web控制台,通常我们可以使用grafana来集成做更漂亮的Web展示哟。

温馨提示:
大多数Prometheus组件都是用Go编写的,这使得它们易于构建和部署为静态二进制文件。

2、部署服务端

Prometheus包 下载链接
图片.png-302.1kB

2.1 下载安装包

[root@prometheus ~]# wget https://github.com/prometheus/prometheus/releases/download/v2.44.0/prometheus-2.44.0.linux-amd64.tar.gz

2.2 解压启动

[root@prometheus ~]# tar xf prometheus-2.44.0.linux-amd64.tar.gz
[root@prometheus ~]# mv prometheus-2.44.0.linux-amd64 /usr/local/prometheus

2.3 编辑配置文件

[root@prometheus ~]# vim /usr/local/prometheus/prometheus.yml
[root@prometheus ~]# cat /usr/local/prometheus/prometheus.yml
#全局配置
global:
#设置prometheus采集数据的间隔时间,默认是1分钟。通常该值设置15秒就够用了。如果设置的间隔时间过短可能会造成更多的存储空间哟。
  scrape_interval: 30s
#监控数据规则的评估评论,默认值为每1分钟。通常该值设置每15秒评估一次规则就够用了。
  evaluation_interval: 30s

# Alertmanager configuration(先战略性忽略)

# 抓取数据的配置 
scrape_configs:
#定义任务的名称
  - job_name: "prometheus"
    #定义静态的配置,比如使用targets指定要监控的对象
    static_configs:
      - targets: [localhost:9100]

#定义基于文件的动态配置,比如使用files指定文件路径,使用refresh_interval指定监控的间隔时间
#      - file_sd_configs:

  - job_name: "ceshi"
    static_configs:
      - targets: [192.168.200.15:9100]

有关自动发现的配置

  • azure_sd_configs
  • consul_sd_configs
  • dns_sd_configs
  • ec2_sd_configs
  • openstack_sd_configs
  • file_sd_configs
  • gce_sd_configs
  • kubernetes_sd_configs
  • marathon_sd_configs
  • nerve_sd_configs
  • serverset_sd_configs
  • triton_sd_configs

2.4 使用后台启动

[root@prometheus ~]# cd /usr/local/prometheus/
[root@prometheus prometheus]# nohup ./prometheus &>/var/log/prometheus.log &

3、部署node exporter 客户端 监控软件

3.1 安装包下载

node exporter包 下载链接

图片.png-196.5kB

[root@prometheus 1]# wget https://github.com/prometheus/node_exporter/releases/download/v1.6.0/node_exporter-1.6.0.linux-amd64.tar.gz

3.2 解压使用

[root@prometheus ~]# tar xf node_exporter-1.6.0.linux-amd64.tar.gz 
[root@prometheus ~]# mv node_exporter-1.6.0.linux-amd64 /usr/local/node_exporter

3.3 后台启动

[root@prometheus ~]# cd /usr/local/node_exporter/
[root@prometheus node_exporter]# nohup ./node_exporter &>/var/log/node_exporter.log &

3.4 查看监控数据

http://192.168.200.15:9090/targets?search=

图片.png-126.5kB

3.5 查看node exports 实例采集的metrics指标

访问:http://192.168.200.15:9100/metrics

图片.png-259.8kB

官方文档:

3.6 metrics 简单介绍

3.6.1 metrics 简单介绍

  • 在Prometheus监控中,对于采集到服务端的指标数据,统一称为metrics数据。
  • metrics是一种对采样数据的总称,其并不代表一种具体的数据格式,而是一种对于度量计算单位的抽象。
  • 当我们需要为某个系统或者某个服务做监控,统计时,就需要用到metrics。
  • metrics指标为时间序列数据,它们按相同的时序,以时间维度来存储连续数据的集合。

3.6.2 metric格式

prometheus采集回来的指标数据(metric)是以key/value格式存储和展示可以通过curl localhost:9100/metrics获取key/value 值,如下:

[root@prometheus ~]# curl localhost:9100/metrics
...略...
node_cpu_seconds_total{cpu="0",mode="user"} 1.78
node_cpu_seconds_total{cpu="1",mode="idle"} 10053.3
node_cpu_seconds_total{cpu="1",mode="iowait"} 0.3
node_cpu_seconds_total{cpu="1",mode="irq"} 0
node_cpu_seconds_total{cpu="1",mode="nice"} 0.07
node_cpu_seconds_total{cpu="1",mode="softirq"} 0.28
node_cpu_seconds_total{cpu="1",mode="steal"} 0
node_cpu_seconds_total{cpu="1",mode="system"} 7.34
node_cpu_seconds_total{cpu="1",mode="user"} 6.3
node_cpu_seconds_total{cpu="2",mode="idle"} 10044.33
node_cpu_seconds_total{cpu="2",mode="iowait"} 0.05
node_cpu_seconds_total{cpu="2",mode="irq"} 0
node_cpu_seconds_total{cpu="2",mode="nice"} 0.03
node_cpu_seconds_total{cpu="2",mode="softirq"} 0.57
...略...

3.6.3 Metric类型

Prometheus的时序数据分为Gauge(仪表盘),Counter(计数器),Histogram(直方图)。

  • Gauge类型:
    • Gauge类型的指标用于展示瞬时的值,只有一个简单返回值,例如CPU、内存、硬盘容量等,用来反映目标在某个时间点的状态。
  • Counter类型
    • counter类型的指标与计数器一样,从0开始不断积累,趋势线上升或水平,如用户访问累积量、服务请求总量、错误总数等。
  • Histogram 类型
    • Histogram 统计数据的分布情况。比如最小值,最大值,中间值,中位数。75%,90%,92%,99.9% ,百分位值。特殊的 Metrics 数据类型,比例型数据,百分比估算数值。
    • 如我们平时用的比较多的针对请求响应时间的90线、95线,对于90分为值也就是P90,我们简单的可以这样理解,假设有100个请求,按照响应时间从小到大排序,第90个请求的响应时间3000ms就是P90值,也就是说有90%的请求响应时间小于3000ms。

4、 promethues 服务自动发现

我们在添加客户端后,每次需要手动去重启peomethues 服务端,这种方式是基于静态配置。使用promethues 自动发现(动态配置),则不需要重启服务端。

4.1 添加测试机器(以容器为例)

[root@prometheus ~]# docker images
REPOSITORY                         TAG       IMAGE ID       CREATED      SIZE
quay.io/prometheus/node-exporter   latest    173d3570a5af   3 days ago   22.7MB

[root@prometheus ~]# docker container run -dp 19100:9100 -v "/:/host:ro,rslave" --name=node_exporter2 quay.io/prometheus/node-exporter:latest --path.rootfs /host

4.2 编辑promethues.yml文件

[root@prometheus ~]# vim /usr/local/prometheus/prometheus.yml 
[root@prometheus ~]# cat /usr/local/prometheus/prometheus.yml
global:
  scrape_interval:     30s
  evaluation_interval: 30s

#基于文件实现动态配置
scrape_configs:
  - job_name: "auto_discovery_node_exporter"
    file_sd_configs:
    - files:
      - /usr/local/prometheus/discovery/node_exporter.yml
      #刷新间隔
      refresh_interval: 5s
#编辑自动发现文件
[root@prometheus ~]# mkdir -p /usr/local/prometheus/discovery
[root@prometheus ~]# vim /usr/local/prometheus/discovery/node_exporter.yml
[root@prometheus ~]# cat /usr/local/prometheus/discovery/node_exporter.yml
[
  {
    "targets":  ["192.168.200.15:19100"]
 # 可监控多个
 # "targets":  ["192.168.200.15:8080","192.168.200.15:18080"]
  }
]

4.3 重启promethues

# kill掉旧进程
[root@prometheus ~]# ps -ef|grep prometheus|grep -v grep|awk '{print $2}'|xargs -i kill -9 {}

# 重启promethues
[root@prometheus ~]# cd /usr/local/prometheus/
[root@prometheus prometheus]# nohup ./prometheus &>/var/log/prometheus.log &

后期就不用再次重启配置文件了,只需要修改/usr/local/prometheus/discovery/node_exporter.yml
promethues 会每隔5s读取文件(refresh_interval: 5s

图片.png-108.3kB

4.4 cadvisor 容器的自动发现

4.4.1 cadvisor 容器介绍

docker stats 可以查看容器的运行状态,但是数据比较原始且没有界面,数据可视化还需要做大量的工作

[root@prometheus ~]# docker stats node_exporter2

CONTAINER ID   NAME             CPU %     MEM USAGE / LIMIT     MEM %     NET I/O          BLOCK I/O   PIDS
7e3f17d58d01   node_exporter2   0.00%     11.84MiB / 3.682GiB   0.31%     14.7kB / 232kB   0B / 0B     5

CONTAINER ID   NAME             CPU %     MEM USAGE / LIMIT     MEM %     NET I/O          BLOCK I/O   PIDS
7e3f17d58d01   node_exporter2   0.00%     11.84MiB / 3.682GiB   0.31%     14.7kB / 232kB   0B / 0B     5

CONTAINER ID   NAME             CPU %     MEM USAGE / LIMIT     MEM %     NET I/O          BLOCK I/O   PIDS
7e3f17d58d01   node_exporter2   0.00%     11.84MiB / 3.682GiB   0.31%     14.7kB / 232kB   0B / 0B     5

4.4.2 cadvisor 容器启动

[root@prometheus ~]# docker run \
  --volume=/:/rootfs:ro \
  --volume=/var/run:/var/run:rw \
  --volume=/sys:/sys:ro \
  --volume=/var/lib/docker/:/var/lib/docker:ro \
  --volume=/dev/disk/:/dev/disk:ro \
  --publish=18104:8080\
  --detach=true \
  --name=cadvisor \
  google/cadvisor:latest

4.4.3 cadvisor 使用介绍

cadvisor部分界面如下:

图片.png-127kB

grafana容器内CPU,内存,网络,磁盘信息

图片.png-145.3kB

图片.png-117.5kB

4.4.4 结合promethues 动态配置(file_sd_configs)使用

配置promethues 动态发现

[root@prometheus ~]# cat /usr/local/prometheus/discovery/node_exporter.yml
[
  {
    "targets":  ["192.168.200.15:19100","192.168.200.15:18104"]
  }
]

查看数据

图片.png-77.5kB

图片.png-164.9kB

标签:node,Prometheus,prometheus,初学,监控,root,cpu
From: https://www.cnblogs.com/ywb123/p/17446015.html

相关文章

  • 海康、大华、tplink监控摄像头和硬盘录像机接入GB28181平台配置细节
    海康、大华、tplink等各种型号监控摄像头或硬盘录像机(NVR/HVR)接入GB28181平台,配置过程都非常简单明了,但有些细节需要注意,避免走弯路踩泥坑。首先要说明一点的是,只要监控设备和GB28181平台的网络是连通的,都可以顺畅的接入,不需要为监控设备配置外网地址,更不需要做任何映射操作。本文......
  • 【夜莺监控】管理Kubernetes组件指标
    !!大家好,我是乔克,一个爱折腾的运维工程,一个睡觉都被自己丑醒的云原生爱好者。作者:乔克公众号:运维开发故事博客:www.jokerbai.com开始之前Kubernetes是一个简单且复杂的系统,简单之处在于其整体架构比较简单清晰,是一个标准的Master-Slave模式,如下:但是,它又是一个复杂的系统,不论是M......
  • 【夜莺监控】海王——Categraf
    !!大家好,我是乔克,一个爱折腾的运维工程,一个睡觉都被自己丑醒的云原生爱好者。作者:乔克公众号:运维开发故事博客:www.jokerbai.com有没有人和我一样,遇到同样的困惑:当我使用Prometheus来搭建监控体系的时候,每当有一个组件需要监控,我就要为其增加一个exporter,如果有10个组件,我就要......
  • 【夜莺监控】从日志中提取指标的瑞士军刀
    !!大家好,我是乔克,一个爱折腾的运维工程,一个睡觉都被自己丑醒的云原生爱好者。作者:乔克公众号:运维开发故事博客:www.jokerbai.commtail是谷歌开源的一款从应用日志提取metrics的工具,它会实时读取应用程序的日志,然后通过自己编写的脚本分析日志,最终生成时间序列的指标,项目地址是:htt......
  • 智慧档案室八防十防建设平台之监控室硬件产品配置清单
    ​智慧档案馆八防十防环境建设平台所需配置清单之监控室所需硬件产品配置表      序号名称型号品牌单位数量1工业控制主机订制盛世宏博套1.00 2显示屏X23E1HAOC台1.00 3数字化智慧档案馆物联网综合一体化建设平台V1.0V1.0盛世宏博......
  • prometheus Loki日志采集分析工具,loki与ELK的区别
    一、Loki是什么?Loki是由GrafanaLabs开源的一个水平可扩展、高可用性,多租户的日志聚合系统的日志聚合系统。它的设计初衷是为了解决在大规模分布式系统中,处理海量日志的问题。Loki采用了分布式的架构,并且与Prometheus、Grafana密切集成,可以快速地处理大规模的日志数据。该项目......
  • zabbix监控脚本01-磁盘监控一
    1基础说明(1)配合的监控工具zabbix,被监控端操作系统版本信息操作系统:CentOSLinuxrelease7.4.1708(Core)内核版本:3.10.0-693.el7.x86_64(2)说明:此处的脚本直接使用的是linux下进程文件的数据做计算(3)文件内容说明:/proc/pid/iorchar:读出的总字节数,read或者pread()中的......
  • Qt编写视频监控系统77-Onvif组件支持非正常时间的设备
    一、前言在经历了大量的现场设备测试,至少几十种厂家、几百种设备,遇见过奇奇怪怪的问题,一个个想方设法解决,发现有个问题是在下发鉴权的时候,需要带上设备的时间,而不是发送端的时间,如果带的不是设备上的时间很可能鉴权失败。这个问题亲测十几种市面上各种视频监控系统客户端,均未实现......
  • 您的监控策略是否可扩展?
    家公司都在努力更好地了解其运营效率,但他们都遇到了同样的问题:规模。那么,可扩展的监控策略是什么样的?您如何防范可观察性中最重要的问题?什么是可扩展监控策略?我们将从确定受规模影响最大的两件事开始:成本和性能。成本可以分解为存储和计算。很明显,要容纳更多数据,就需要更多存储空间......
  • 【AGC】云监控日志服务查询不到Logger日志相关问题
     【关键字】AGC、云监控、日志服务 【问题描述】开发者反馈在使用AGC云监控,填写了Logger日志,但是在云监控的日志服务查不到的问题。具体如下所述:云函数按要求写了Logger日志,但是在云监控的日志服务页面查询不到,监控大盘页面也没有调用记录。日志类似下面案例的写法。​......