• 2024-05-04RabbitMQ的基本使用
    在数据采集的过程中,可能需要一些进程间的通信,如一个进程负责构造爬取请求,另一个负责执行这些请求;某个数据爬取进程执行完毕,通知另一个负责数据处理的进程开始爬取数据;某个进程新建了一个爬取任务,通知另一个负责数据爬取的进程开始爬取数据。为了降低进程耦合度,需一个消息
  • 2024-04-29Prometheus源码解读系列 prometheus---告警处理源码剖析
    一、Target数据采集scrape模块解读1、scrapetarget业务流程框架1、由scrape.Manager管理所有的抓取对象;2、所有的抓取对象按group分组,每个group是一个job_name;3、每个group下含多个scrapeTarget,即具体的抓取目标endpoint;4、对每个目标endpoint,启动一个抓取goroutine,按照
  • 2024-03-26rsync
    importasyncioimportaiohttpCONCURRENCY=99999URL='https://www.baidu.com'semaphore=asyncio.Semaphore(CONCURRENCY)session=Noneasyncdefscrape_api():#asyncwithsemaphore:awaitasyncio.sleep(1)return"{}".format()async
  • 2024-03-25grafana+prometheus+cadvisor监控容器指标数据
    前言整理技术,在这篇文章中,将会搭建grafana+prometheus+cadvisor监控容器,并使用一个热门数据看板,再监控容器的性能指标dashboard效果这个是node-exporter采集到的数据,我没装node-exporter,而且这也不是本文的内容,所以这个看板就没东西这个是容器性能指标这个性能指标里
  • 2024-03-20【Prometheus】联邦集群配置demo
    点击查看代码#myglobalconfigglobal:scrape_interval:15s#Setthescrapeintervaltoevery15seconds.Defaultisevery1minute.evaluation_interval:15s#Evaluaterulesevery15seconds.Thedefaultisevery1minute.#scrape_timeoutissetto
  • 2024-01-29专栏:数据库、中间件的监控一网打尽
    前言对于数据库、中间件的监控,目前社区里最为完善的就是Prometheus生态的各个Exporter,不过这些Exporter比较分散,不好管理,如果有很多目标实例需要监控,就要部署很多个Exporter,要是能有一个大一统的Exporter,具备所有这些Exporter的能力就好了。还真有,而且还不止一个,一个是 G
  • 2024-01-29专栏:数据库、中间件的监控一网打尽
    前言对于数据库、中间件的监控,目前社区里最为完善的就是Prometheus生态的各个Exporter,不过这些Exporter比较分散,不好管理,如果有很多目标实例需要监控,就要部署很多个Exporter,要是能有一个大一统的Exporter,具备所有这些Exporter的能力就好了。还真有,而且还不止一个,一个是
  • 2024-01-25prometheus基本使用
    参考链接:https://www.prometheus.wang/作者总结的很好,大家都可以跟着学习看看prometheus的由来受启发与google的brogmon监控系统,从2012年开始由前Google工程师在Soundcloud以开源软件的形式进行研发,并且于2015年早期对外发布早期版本。2016年5月继Kubernetes之后成为第二个正
  • 2024-01-16Windows 硬件信息监控工具 OhmGraphite 部署
    1、下载OhmGraphitehttps://github.com/nickbabcock/OhmGraphite/releases2、修改OhmGraphite.exe.config配置(此处使用Prometheus做为数据源)<?xmlversion="1.0"encoding="utf-8"?><configuration><appSettings><addkey="t
  • 2024-01-02TiDB多集群监控部署方案实战
    作者:dba-kit1.单集群部署可选配置项TiDB在部署时候可以选择部署监控系统,可选配置有:monitoring_servers:包含Prometheus和NgMonitoring(用于支持TiDBDashboard中持续性能分析和TopSQL功能),详细见:官方文档-monitoring_serversgrafana_servers:部署Grafana的相关参数,详细
  • 2023-12-01prometheus federate特性(数据维度抽取)
    一、背景描述:prometheus存有大量的监控明细数据,但是报表或者大屏监控需要的是更高维度的数据统计。如果直接从明细数据统计,很可能会因为数据量过大而导致查询缓慢,甚至prometheus发生OOM。 二、解决思路:借助prometheus提供的federate特性和recording rule特性实现。 1.在
  • 2023-11-03prometheus Error on ingesting samples that are too old or a re too far into the future
    目录prometheusErroroningestingsamplesthataretoooldoraretoofarintothefuture磁盘问题时间问题版本问题历史prometheus旧数据prometheusErroroningestingsamplesthataretoooldoraretoofarintothefuture之前在自己服务器上用docker部署过一个p
  • 2023-08-29Prometheus监控实战系列七:任务与实例
    一. 功能概述 任务与实例,是Prometheus监控中经常会提到的词汇。在其术语中,每一个提供样本数据的端点称为一个实例(instance),它可以是各种exporter,如node-exporter、mysql-exporter,也可以是你自己开发的一个服务。只要提供符合prometheus要求的数据格式,并允许通过HTTP请求获取
  • 2023-08-29Prometheus监控实战系列三:配置介绍
    Prometheus使用名为prometheus.yml的配置文件进行设置,通过在启动时指定相关的文件,对配置内容进行加载。该配置文件分为四个模块:global(全局配置)、alerting(告警配置)、rule_files(规则配置)、scrape_configs(目标拉取配置),本文将分别对其进行讲解介绍。一.global 用于定义promethe
  • 2023-05-16SpringBoot+Prometheus+Grafana实现应用程序可视化监控
    1、SpringBoot应用暴露监控指标maven依赖<dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-actuator</artifactId></dependency><dependency><groupI
  • 2023-05-07Prometheus系列---【如何部署Prometheus?】
    如何部署Prometheus?1.下载和解压缩PrometheusServer从https://prometheus.io/download/下载适合您系统的PrometheusServer压缩包。将下载的文件解压缩到您选择的目录中。2.配置PrometheusServer打开prometheus.yml文件,这是PrometheusServer的配置文件。您可以使用文本编
  • 2023-04-19普罗米修斯MySQL监控
    1.下载MySQL的exporter下载地址:https://prometheus.io/download/ 2.上传到需要监控的MySQL的机器上进行解压 解压安装tar-xzvfmysqld_exporter-0.14.0.linux-amd64.tar.gz 为了后续使用方便将名称修改为:mysqld_exporterexportDATA_SOURCE_NAME='root:123456
  • 2023-04-06网络爬虫完整案例
    网页爬虫也并非那么难,只要理解他几个模块已经步骤,正常来说完成一个爬虫来说很容易。将requests、正则表达式的基本用法等知识点串联起来,实现一个完整的网站爬虫。1、准备工作(1)安装好Python3,最低为3.6版本,并能成功运行Python3程序。(2)了解PythonHTTP请求库requests的基本用
  • 2023-04-03prometheus-mysql
    wgethttps://github.com/prometheus/prometheus/releases/download/v2.42.0/prometheus-2.42.0.linux-amd64.tar.gznohup./node_exporter&netstat-lnptu|grep9100#启动mysqld_exporternohup./mysqld_exporter--config.my-cnf=./.my.cnf&#确认是否正常启动
  • 2023-03-15使用docker安装prometeus和grafana
    1.拉取镜像dockerpullprom/prometheusdockerpullprom/pushgatewaydockerpullgrafana/grafana2.部署prometheus2.1创建prometheus.yamlglobal:scrape_inte
  • 2023-03-03prometheus + grafana对 springboot 项目进行监控
    1.prometheus接入springbootprometheus安装后,在安装目录有一个默认的配置文件prometheus.yml#myglobalconfigglobal:scrape_interval:15s#Setthescrapeinte
  • 2023-01-17Prometheus笔记-Label标签
    LabelLable是为了方便管理及查询监控目标,在后续写promtheus查询语法的时候需要使用标签作为查询条件配置文件#Ascrapeconfigurationcontainingexactlyoneendpoin
  • 2023-01-17Prometheus笔记-file_sd_config
    一般一个job作为一个业务服务,它下面的监控的机器/节点都是这个服务的节点,为了方便管理,我们可以按照job划分,为每个job创建一个子配置文件,这样方便管理配置文件#myglob
  • 2023-01-12Centos 二进制安装 Prometheus
    二进制下载地址:https://prometheus.io/download/下载以linux-amd64.tar.gz结尾的文件。1.下载二进制压缩包wget-P/homehttps://github.com/prometheus/prometheus
  • 2023-01-10Prometheus 监控 jenkins
        global:scrape_interval:15sevaluation_interval:15srule_files:-/mnt/rules/*.rulesscrape_configs:-job_name:'jenkins'metr