首页 > 其他分享 >使用grafana loki dashboard排查系统间mq消息问题

使用grafana loki dashboard排查系统间mq消息问题

时间:2024-07-01 15:10:23浏览次数:23  
标签:format grafana tag mq dashboard MqAction line loki

背景:

几个系统间通过rocketmq的消息传递信息,用户反馈该功能存在一些数据不一致,应该是mq消息丢失或者系统在发消息时候报错,因此在代码中先打上日志并发布。日志由多个[tag]加详细信息组成,例子如:
log.info("[MqAction][Proxy][ProxyMqReceive][ProxyNotificationCnsmRouteMqReceive] Notification receive:{}", json.toString());

步骤:

  1. 编写loki promQL分类查询日志数量详细可以参考loki官方文档,或者stackoverflow的例子,建议使用loki的builder功能构建查询语句

    下面例子是将上述log通过第三个tag进行分类并汇总数量
count by(tag) (rate({env="dev2"} |= `MqAction` | json | line_format `{{.message}}` | pattern `[MqAction][<app>][<tag>]` | line_format `{{.app}}---{{.tag}}` [$__range]))
  1. 构建好后将该查询添加到dashBoard

    然后就可以在Grafana dashboard页面看到自己构建的展示表
  2. 通过dashboard找到异常数据
    image
    该图表展示的是汇总数据,如果需要查看更详细的log及其时间戳,可以把查询语句中的汇总去掉,将两个panel放在同一个dashboard里
{env="dev2"} |= `MqAction` | json | line_format `{{.message}}` | pattern `[MqAction][<app>][<tag>]` | line_format `{{.app}}---{{.tag}}`

还要把option中的type选项改为Range
image
更改后效果如下:
image

标签:format,grafana,tag,mq,dashboard,MqAction,line,loki
From: https://www.cnblogs.com/CodeSpike/p/18278093

相关文章

  • Centos7 安装Rabbitmq3.9.11
    安装erlang安装依赖包yum-yinstallgccglibc-develmakencurses-developenssl-develxmltoperlwgetgtk2-develbinutils-devel下载wgethttps://github.com/erlang/otp/releases/download/OTP-24.1.7/otp_src_24.1.7.tar.gz解压tar-zxvfotp_src_24.1.7.tar......
  • RabbitMQ如何备份与恢复数据
    阅读目录一、场景二、元数据备份和还原1、操作2、导出数据 3、导入数据4、验证数据 三、消息数据备份和还原1、确定数据目录2、为避免数据的一致性,需先停掉服务3、备份数据目录 4、还原数据5、修改数据目录权限6、启动B服务器上rabbitmq服务7、验证消息数......
  • 消息队列选型之 Kafka vs RabbitMQ
    在面对众多的消息队列时,我们往往会陷入选择的困境:“消息队列那么多,该怎么选啊?Kafka和RabbitMQ比较好用,用哪个更好呢?”想必大家也曾有过类似的疑问。对此本文将在接下来的内容中以Kafka和RabbitMQ为例分享消息队列选型的一些经验。一、什么是消息队列消息队列即Messag......
  • MQTT + 微信小程序:打造你的掌上ESP32智能鱼缸,远程监控,实时掌控
    一、项目概述厌倦了传统鱼缸的繁琐管理?想要随时随地了解鱼儿的生活状态?本项目将带你使用ESP32开发板、MQTT通信协议和微信小程序,打造一个功能完善的智能鱼缸系统。实时监测水温、远程控制灯光、定时定量喂食……一切尽在掌握!二、系统架构本系统采用典型的物联网架构,......
  • C#使用MQTT通讯协议发布订阅主题报文
    一、服务端1.添加引用MQTTnet类库   2.代码:启动一个MQTT服务1//启动一个MQTT服务器2//MQTT3IMqttServerserver=newMqttFactory().CreateMqttServer();4server.ClientConnecte......
  • Centos7.9安装普罗米修斯+grafana
    一、基本概念​1、之间的关系​prometheus与grafana之间是相辅相成的关系。作为完美的分布式监控系统的Prometheus,就想布加迪威龙一样示例和动力强劲。在猛的车也少不了仪表盘来观察。于是优雅的可视化平台Grafana出现了。​简而言之Grafana作为可视化......
  • 深度解析RocketMq源码-高可用存储组件(一) raft协议详解
    1.绪论前面的文章已经分析过,以前rocketmq通过主从复制的思想实现系统的高可用,即在搭建集群的时候会手动的设置一个主节点和从节点,在写入数据的时候,会先写入到主broker,然后再同步到从节点中。但是这样会有一个问题,就是主节点宕机过后,需要手动的修改从节点成为新的主节点。在roc......
  • RocketMQ 基础教程-系统架构
    作者简介:大家好,我是smart哥,前中兴通讯、美团架构师,现某互联网公司CTO联系qq:184480602,加我进群,大家一起学习,一起进步,一起对抗互联网寒冬学习必须往深处挖,挖的越深,基础越扎实!阶段1、深入多线程阶段2、深入多线程设计模式阶段3、深入juc源码解析阶段4、深入jdk其余源码解析......
  • 深度分析Kafka与RocketMQ:定义、优缺点、使用场景及选型指南
    在大数据处理和分布式系统中,消息中间件扮演着至关重要的角色。ApacheKafka和ApacheRocketMQ是两种广泛使用的分布式消息系统,本文将深入分析它们的定义、优缺点、使用场景,并提供选型指南和使用注意事项。一、Kafka与RocketMQ的定义Kafka:ApacheKafka是一个分布式流处理......
  • RocketMQ的安装和原理
    .RocketMQ的安装一.RocketMQ安装1.1.下载RocketMQ下载地址:http://rocketmq.apache.org/release_notes/release-notes-4.2.0/下载后解压Bin:可执行文件目录config:配置文件目录Lib:依赖库,一堆Jar包1.2.配置ROCKETMQ_HOME解压压缩包,配置ROCKETMQ_HOME1.3.......