首页 > 数据库 >Prometheus+grafana实践:Doris数据库的监控

Prometheus+grafana实践:Doris数据库的监控

时间:2025-01-23 10:09:30浏览次数:1  
标签:tar 数据库 prometheus grafana Prometheus fe Doris

Doris数据库背景

Doris(Apache Doris)是一个现代化的MPP(Massive Parallel Processing,大规模并行处理)数据库,主要用于在线分析处理(OLAP)场景。

Doris数据库的特点

高性能:Doris采用了列式存储和MPP架构,能够对海量数据进行快速查询。

易用性:提供了类似SQL的查询接口,易于上手和使用。

实时性:支持实时数据更新和查询,适用于实时数据分析场景。

兼容性:支持多种数据源接入,如MySQL、Apache Hive、Apache HDFS等。

高可用:支持集群部署,具有容错和自动恢复功能。

Doris数据库的架构

前端:FE(Frontend)节点负责接收查询请求、查询解析、查询计划生成和执行。

后端:BE(Backend)节点负责数据存储、查询执行和数据导入等操作。

元数据管理:采用分布式元数据管理,保证了系统的高可用性和扩展性。

Doris数据库的部署

对于Doris数据库的架构方式分为前端和后端的方式,因此我们要分别部署前端和后端两部分。

准备4核心+4G内存+10G硬盘的centos7 X86的Linux虚拟机。

 

1. 拉取Doris数据库的安装包

Wget https://apache-doris-releases.oss-accelerate.aliyuncs.com/apache-doris-2.0.12-bin-x64.tar.gz

 

 

2. 解压安装包到/usr/local/目录下

tar xzvf apache-doris-2.0.12-bin-x64.tar.gz -C /usr/local/

 

 

3. 给安装目录重新命名

mv apache-doris-2.0.12-bin-x64 apache-doris

 

4. 在目录下分为3部分

 

5. 安装Doris数据库需要jdk8的环境

yum install -y java-1.8.0-openjdk.x86_64

 

 

6. 部署fe

vim fe/conf/fe.conf

 

7. 加上fe的jdk的环境变量

 

8. 启动fe

./bin/start_fe.sh --daemon

 

 9 部署be

vim be/conf/be.conf

 

10. 加上be的jdk的环境变量

 

11. 启动be

 

12. 启动be时需要执行三条命令

sysctl -w vm.max_map_count=2000000

ulimit -n 60000

swapoff -a

13. 在mysql官网中下载mysql的客户端(Doris数据库需要使用mysql客户端进行连接)
14. 连接Doris数据库的fe

mysql -uroot -P9030 -h127.0.0.1

 

15. 将be添加到集群

ALTER SYSTEM ADD BACKEND "be_host_ip:heartbeat_service_port";(自己主机IP加上默认端口9050)

 

16. 修改root密码和admin密码

SET PASSWORD FOR 'root' = PASSWORD('p@ssw0rd');

SET PASSWORD FOR 'admin' = PASSWORD('p@ssw0rd');

17. Doris数据库部署完成

部署prometheus并监控Doris数据库

1. 在官网中下载prometheus的安装包

https://prometheus.io/download/

2. 解压tar包

tar xzvf prometheus-3.0.1.linux-amd64.tar.gz

3. 修改prometheus.yml配置文件监控Doris数据库

vim prometheus.yml

 

4. Doris数据库自带metrics的接口,prometheus可以直接拿取数据,不用安装export
5. 设置metrics的地址以及组

 

6. 启动prometheus

nohup ./prometheus --web.listen-address="0.0.0.0:8181"

 

7. 停止防火墙

Systemctl stop firewalld

 

8. 访问网址看是否监控成功

http://192.168.91.170:8181

 

 

部署grafana

1. 安装grafana

yum install -y https://dl.grafana.com/enterprise/release/grafana-enterprise-11.3.1-1.x86_64.rpm

2. 启动grafana服务

systemctl start grafana-server.service

 

3. 访问网址(密码是默认密码admin/admin)

http://192.168.91.170:3000

systemctl start grafana-server.service

 

联动prometheus+grafana

1. 配置数据源

 prometheus地址

 

2. 导入dashboard(从官网找一些dashboard导入即可)

 

3 查看指标(Doris数据库的指标)

 

 

 

 

 

 

 

 

 
 
 

 

 

标签:tar,数据库,prometheus,grafana,Prometheus,fe,Doris
From: https://www.cnblogs.com/lwops/p/18687199

相关文章

  • Prometheus+Grafana 监控搭建
    Prometheus+Grafana监控搭建Prometheus是使用Golang开发的,安装和运行都非常简单,只需直接运行可执行文件即可。个人认为,只要理解了Prometheus的架构图,整体概念就会变得非常清晰。Prometheus做的挺成熟,使用非常简单,主要是想自己记录一下,方便后续记忆。1、Prometheus架构......
  • Flink把kafa数据写入Doris的N种方法及对比。
    用Flink+Doris来开发实时数仓,首要解决是如何接入kafka实时流,下面是参考Doris官方文档和代码,在自己项目开发的实践中总结,包括一些容易踩坑的细节。目录RoutineLoad方法 接入kafka实时数据踩坑的问题细节 FlinkDorisConnector方法完整示例RoutineLoad方法如果Dor......
  • grafana插件开发
    搭建环境&创建项目npminstall-g@grafana/toolkitgrafana-toolkitplugin:createmy-grafana-plugin插件项目结构一个典型的Grafana插件项目包含以下主要文件和目录:src:包含插件的源代码。module.ts:用于导入和导出插件模块。plugin.ts:插件的主要实现文件,通常包含Pa......
  • Doris 2.1 Queries Acceleration -Tuning Plan学习笔记
    1OptimizingTableSchemaDesign1.1Case1:TableEngineSelection1.1.1Thequeryperformanceofthesetablemodels,frombesttoworst,is:Duplicate>MOW>MOR==Aggregate.1.2Case2:BucketColumnSelection1.2.1Selectingappropriatebucket......
  • Kubernetes 中 JVM 监控实战:Prometheus + JMX Exporter 全解析
    背景skywalking采集的jvm要自己在页面选择endpoint来查看,不合符开发者使用习惯前置知识prometheus-operator的四个CRD作用Prometheus:由Operator依据一个自定义资源kind:Prometheus类型中,所描述的内容而部署的PrometheusServer集群,可以将这个自定义资源看作是一......
  • Prometheus +VictoriaMetrics+Consul+Granafa安装部署
    测试环境prometheus-2.54.1.linux-amd64.tar.gz下载地址:https://www.prometheus.io/download/https://github.com/prometheus/prometheus/releases/download/v2.54.1/prometheus-2.54.1.linux-amd64.tar.gznode_exporter-1.8.2.linux-amd64.tar.gz下载地址:https://github.c......
  • node_exporter 集成Prometheus+Grafana
    一、配置Prometheus采集nano/root/apisix-docker/example/prometheus_conf/prometheus.yml========================末尾添加一段===================-job_name:"nodeexporter"scrape_interval:5smetrics_path:"metrics"static_configs:......
  • Prometheus +VictoriaMetrics+Granafa安装部署
    测试环境prometheus-2.54.1.linux-amd64.tar.gz下载地址:https://www.prometheus.io/download/https://github.com/prometheus/prometheus/releases/download/v2.54.1/prometheus-2.54.1.linux-amd64.tar.gznode_exporter-1.8.2.linux-amd64.tar.gz下载地址:https://github.c......
  • Prometheus中Sample(样本)与Series(序列)的区别详解
    Prometheus中Sample(样本)与Series(序列)的区别详解 在Prometheus这一强大的开源监控和警报系统中,Sample(样本)与Series(序列)是两个核心概念,它们在数据模型和数据处理流程中扮演着至关重要的角色。本文将详细探讨这两个概念的定义、组成、作用以及它们之间的区别。一、Sample(样本)1.1......
  • Prometheus Server一键部署脚本
    一.PrometheusServer一键部署脚本脚本内容展示[root@prometheus-server31~]#catinstall-prometheus-server.sh#!/bin/bash#auther:almco#blog:https://www.cnblogs.com/yinzhengjieVERSION=2.53.2ARCH=amd64SOFTWARE=prometheus-${VERSION}.linux-${ARCH}.ta......