首页 > 其他分享 >基于Telegraf+Influxdb+Grafana的监控平台介绍

基于Telegraf+Influxdb+Grafana的监控平台介绍

时间:2024-10-21 14:33:09浏览次数:1  
标签:Telegraf InfluxDB ## javascript telegraf influxdb Grafana Influxdb

我们知道这种监控平台的数据特征一般都是时间序列数据(简称 时序数据),那么相应的这些数据最好是存储在时序数据库中,目前主流的时序数据库有InfluxDB、OpenTSDB、Graphite、TimescaleDB等。其中,InfluxDB是目前监控领域使用较多的时序数据库,并且基于InfluxDB有一套完善的开源解决方案 —— TICK Stack,如下图所示:

TICK Stack 是 InfluxData 公司提供的包括采集、存储、展示及监控告警在内的一体化解决方案,包含以下 4 个核心组件:

  • Telegraf:Time-Series Data Collector
  • InfluxDB:Time-Series Data Storage
  • Chronograf:Time-Series Data Visualization
  • Kapacitor:Time-Series Data Processing

今天我们选用 TICK Stack 中的 Telegraf 与 InfluxDB,配合另一个常用的数据可视化组件 Grafana,即前文所说的 Telegraf+InfluxDB+Grafana,实现对我们大数据平台的基础指标监控,包括但不限于CPU/Mem/Net/Disk/Diskio等。接下来主要介绍下各个组件的安装部署,请阅读下文。

一、InfluxDB

InfluxDB是目前IoT监控、DevOps监控等领域最主流的开源时序数据库,属于TICK Stack的核心组件。

优点:Go语言编写,没有任何第三方依赖。

1 安装influxdb

代码语言:javascript 复制
# wget https://dl.influxdata.com/influxdb/releases/influxdb-1.7.7.x86_64.rpm
# yum install -y influxdb-1.7.7.x86_64.rpm

2 启动influxdb

代码语言:javascript 复制
# systemctl start influxdb

3 操作influxdb

下面演示创建一个名为“telegraf”的数据库,及名为“telegraf”的普通用户、“admin”的管理员用户:

代码语言:javascript 复制
# influx
Connected to http://localhost:8086 version 1.7.7
InfluxDB shell version: 1.7.7
> create database telegraf
> show databases
name: databases
name
----
_internal
telegraf
> create user "admin" with password 'admin' with all privileges
> create user "telegraf" with password 'telegraf'
> show users;
user     admin
----     -----
telegraf false
admin    true
> exit

4 查看influxdb配置

代码语言:javascript 复制
# more /etc/influxdb/influxdb.conf
代码语言:javascript 复制
...[data]
  # The directory where the TSM storage engine stores TSM files.
  dir = "/var/lib/influxdb/data"


  # The directory where the TSM storage engine stores WAL files.
  wal-dir = "/var/lib/influxdb/wal"
...

二、Telegraf

Telegraf 是一个插件驱动的轻量级数据采集工具,用于收集系统和服务的各项指标。支持多种输入与输出插件,其中输入端支持直接获取操作系统的各项指标数据,从第三方API获取指标数据,甚至可以通过statsd和Kafka获取指标数据;输出端可以将采集的指标发送到各种数据存储,服务或消息队列中,支持InfluxDB,Graphite,OpenTSDB,Datadog,Librato,Kafka,MQTT等。

优点:Go语言编写,没有任何第三方依赖。

 

1 安装Telegraf

代码语言:javascript 复制
# wget https://dl.influxdata.com/telegraf/releases/telegraf-1.11.2-1.x86_64.rpm
# yum install -y telegraf-1.11.2-1.x86_64.rpm

2 配置Telegraf,这里修改outputs.influxdb的配置项

代码语言:javascript 复制
# vi /etc/telegraf/telegraf.conf
代码语言:javascript 复制
[[outputs.influxdb]]
  ## The full HTTP or UDP URL for your InfluxDB instance.
  ##
  ## Multiple URLs can be specified for a single cluster, only ONE of the
  ## urls will be written to each interval.
  # urls = ["unix:///var/run/influxdb.sock"]
  # urls = ["udp://127.0.0.1:8089"]
  urls = ["http://127.0.0.1:8086"]

  ## The target database for metrics; will be created as needed.
  ## For UDP url endpoint database needs to be configured on server side.
  database = "telegraf"

  ## The value of this tag will be used to determine the database.  If this
  ## tag is not set the 'database' option is used as the default.
  # database_tag = ""

  ## If true, no CREATE DATABASE queries will be sent.  Set to true when using
  ## Telegraf with a user without permissions to create databases or when the
  ## database already exists.
  # skip_database_creation = false

  ## Name of existing retention policy to write to.  Empty string writes to
  ## the default retention policy.  Only takes effect when using HTTP.
  # retention_policy = ""

  ## Write consistency (clusters only), can be: "any", "one", "quorum", "all".
  ## Only takes effect when using HTTP.
  # write_consistency = "any"

  ## Timeout for HTTP messages.
  timeout = "5s"

  ## HTTP Basic Auth
  username = "telegraf"
  password = "telegraf"

3 启动Telegraf

代码语言:javascript 复制
# systemctl start telegraf

4 查看influxdb数据

代码语言:javascript 复制
# influxConnected to http://localhost:8086 version 1.7.7InfluxDB shell version: 1.7.7> use telegrafUsing database telegraf> show measurementsname: measurementsname----cpudiskdiskiokernelmemprocessesswapsystem> SELECT * FROM "cpu" limit 10name: cputime                cpu       host                    usage_guest usage_guest_nice usage_idle        usage_iowait usage_irq usage_nice usage_softirq       usage_steal usage_system        usage_user----                ---       ----                    ----------- ---------------- ----------        ------------ --------- ---------- -------------       ----------- ------------        ----------1563430490000000000 cpu-total ali-rds-kafka.novalocal 0           0                98.08294699768652 0            0         0          0                   0           0.17541661445337134 1.74163638636498441563430490000000000 cpu0      ali-rds-kafka.novalocal 0           0                98.19819820155767 0            0         0          0                   0           0.2002002001582113  1.60160160126569041563430490000000000 cpu1      ali-rds-kafka.novalocal 0           0                92.18436872588022 0            0         0          0                   0           0.20040080159860416 7.61523046058292151563430490000000000 cpu2      ali-rds-kafka.novalocal 0           0                98.99598392124761 0            0         0          0.10040160637911746 0           0.30120481914398695 0.6024096382697111563430490000000000 cpu3      ali-rds-kafka.novalocal 0           0                99.29789367823233 0            0         0          0                   0           0.10030090268482908 0.60180541609072981563430490000000000 cpu4      ali-rds-kafka.novalocal 0           0                99.29789367796998 0            0         0          0                   0           0.1003009027223065  0.60180541631559441563430490000000000 cpu5      ali-rds-kafka.novalocal 0           0                98.99899898391868 0            0         0          0                   0           0.20020020023286633 0.80080080093146531563430490000000000 cpu6      ali-rds-kafka.novalocal 0           0                99.09909910044288 0            0         0          0                   0           0.20020020023741836 0.70070070081275611563430490000000000 cpu7      ali-rds-kafka.novalocal 0           0                98.4969940029743  0            0         0          0                   0           0.30060120238879307 1.20240480956428541563430500000000000 cpu-total ali-rds-kafka.novalocal 0           0                99.54954956886654 0            0         0          0.01251251251458971 0           0.10010010011870918 0.33783783789836747> exit

注意:influxdb 自1.2版本之后关闭了自带的 web 界面,安装之前的方式访问 web 界面将会报 "404 page not found",如果想用 web 界面访问influxdb,建议使用第三方工具,或者使用低版本influxdb的web界面访问。

三、Grafana

Grafana是目前比较流行的开源可视化组件,支持多种数据源,包括InfluxDB、OpenTSDB、Graphite、Prometheus、Elasticsearch等主流的时序数据库,以及MySQL、PostgreSQL等关系数据库等。

优点:Go语言编写,自带用户管理、告警等功能。

1 安装Grafana

代码语言:javascript 复制
# wget https://dl.grafana.com/oss/release/grafana-6.2.5-1.x86_64.rpm
# yum install -y grafana-6.2.5-1.x86_64.rpm
代码语言:javascript 复制  

2 启动Grafana

代码语言:javascript 复制
# systemctl start grafana-server

3 访问Grafana

Grafana的默认http端口为3000,默认管理员用户密码为admin/admin,因此访问Grafana只需访问 http://IP:3000 即可,初始访问的时候会提示修改密码。首页如下:

4 查看Grafana配置

代码语言:javascript 复制
# more /etc/grafana/grafana.ini
代码语言:javascript 复制
...

[paths]
# Path to where grafana can store temp files, sessions, and the sqlite3 db (if that is used)
;data = /var/lib/grafana

# Temporary files in `data` directory older than given duration will be removed
;temp_data_lifetime = 24h

# Directory where grafana can store logs
;logs = /var/log/grafana

...

# The http port  to use
;http_port = 3000

...

5 界面配置Grafana访问influxdb

进入Grafana界面后,首先是添加数据源:Data Sources --> Add data source,这里选择influxdb作为数据源;然后是新建可视化面板:Dashboards --> Manage --> New dashboard,简单配置展示项后数据就可以展示出来了。页面操作比较简单,具体细节不多赘述,自行进一步熟悉Grafana界面即可。

至此,我们演示了相关组件的安装部署与基本使用,成功展示了采集的指标数据。本文介绍了 TICK Stack,以及基于 Telegraf+InfluxDB+Grafana的监控平台搭建。后续更多的大数据监控运维分享请关注本公众号。

—— END ——

标签:Telegraf,InfluxDB,##,javascript,telegraf,influxdb,Grafana,Influxdb
From: https://www.cnblogs.com/gaoyanbing/p/18489443

相关文章

  • Grafana+ Node+ Prometheus对服务器进行性能监控
    目录一、Grafana1.把Grafana压缩文件上传到Linux服务器2.安装服务3.启动服务4.访问二、Node1.上传node_exporter-1.5.0.linux-amd64.tar到服务器2.解压3.启动服务三、Prometheus1.上传prometheus-2.43.0.linux-amd64.tar到服务器2.解压3.进入prometheus.yml中修改......
  • Grafana学习笔记1
    安装Grafana容器镜像拉取dockerpullgrafana/grafana启用Grafana容器命名为Grafa,再把主机端口3000映射到容器端口3000,把主机上的目录/path/to/your/grafana/data(这个路径自己定义)挂载到容器内的目录/var/lib/grafana,设置管理员密码为admin,使用已经拉取的镜像grafana/gra......
  • prometheus+grafana 监控nginx
    一:安装插件1.1 查看nginx已启用tub_status模块nginx-V2>&1|grep-owith-http_stub_status_module如果在终端输出with-http_stub_status_module,说明nginx已启用tub_status模块在nginx的配置文件添加如下配置location/nginx_status{stub_statuson;......
  • Prometheus + Grafana 监控 MySQL 数据库
    文章目录1、前置介绍2、搭建流程2.1、安装Docker2.2、安装MySQL2.3、安装MySQLExporter2.4、安装Prometheus2.5、安装Grafana1、前置介绍本次监控平台搭建,我使用2台阿里云服务器来完成本次的搭建部署操作,配置如下:阿里云ECS1:2核2G,Ubuntu22.02,内网ip:172.16.0......
  • 基于 Prometheus+Grafana+Alertmanager 搭建 K8S 云平台系统(附配置告警至QQ、钉钉)
    目录一、机器规划二、部署安装node-exporter、prometheus、Grafana、kube-state-metrics1、创建monitor-sa命名空间2、安装node-exporter组件2.1、说明2.2、应用资源清单2.3、通过node-exporter采集数据3、k8s集群中部署prometheus3.1、创建一个sa账号3.2、将sa账号moni......
  • prometheus学习笔记之Grafana 常用操作
    一、Panel设置1.单位设置2.Panel名称修改3.曲线别名修改前修改后 4.曲线排序 5.曲线复制6.曲线静默 7.Panel复制当前dashboard中复制跨dashboard或folder在其他dashboard中操作8.设置告警线设置告警条件其他按提示填写如果触发告警规则则......
  • 云原生之运维监控实践-OpenEuler22.03SP3上安装Prometheus与Grafana实现主机状态监测
    背景如果没有监控,那么最好的情况是没有问题发生,最糟糕的情况则是问题发生了但没有被发现。——《Prometheus监控实战》去年写了一篇在Docker环境下部署若依微服务ruoyi-cloud项目的文章,当时使用的是docker-compose在单台机器上部署若依微服务ruoyi-cloud项目;在这个......
  • 利用Python开发Exporter,集成Prometheus和Grafana对进程监控
    利用Python开发Exporter,集成Prometheus和Grafana对进程监控在现代软件开发和运维中,监控是确保系统稳定运行和快速响应问题的重要手段。Prometheus和Grafana的组合是监控领域的强大工具,它们能够收集、处理和展示各种指标数据。本文将介绍如何利用Python开发一个Exporter,通过Promet......
  • NGINX 代理grafana-server
    一、grafana修改配置在root_url后边添加路径/grafana(该路径可自定义,和nginx配置中保持一致即可)vim/etc/grafana/default.ini#后缀与nginx代理后缀保持一致root_url=%(protocol)s://%(domain)s:%(http_port)s/grafana#允许跨域allowed_origins=*#允许iframe嵌入all......
  • InfluxDB 与 TDengine 的使用场景差异分析
    InfluxDB和TDengine都是时序数据库,但它们在使用场景上有所不同。以下是它们的具体差异:1.数据结构与写入性能InfluxDB:适合高写入速率的应用,通常用于监控和分析数据。数据结构简单,支持压缩和存储优化,适合短期数据存储。TDengine:设计为处理海量数据的高性能场景,支持复杂数据结构。......