首页 > 其他分享 >Flume监控方式

Flume监控方式

时间:2023-04-28 18:45:58浏览次数:28  
标签:Flume rt 方式 src sources tj 监控 data dir

Flume主要有以下几种监控方式:

 

1.JMX监控
配置 {$FLUME_HOME}/conf/flume-env.sh
cd $FLUME_HOME/conf
vi flume-env.sh

export JAVA_OPTS="-Xms500m -Xmx10240m -Dcom.sun.management.jmxremote \
    -Dcom.sun.management.jmxremote \
    -Dcom.sun.management.jmxremote.authenticate=false \
    -Dcom.sun.management.jmxremote.ssl=false \
    -Dcom.sun.management.jmxremote.port=54321 \
    -Dcom.sun.management.jmxremote.rmi.port=54322
    -Djava.rmi.server.hostname=10.202.76.218"

之后启动flume

bin/flume-ng agent --conf conf/ --name tj_rt_data --conf-file jobs/dir_console.conf -Dflume.root.logger=INFO,console

附:一个agent配置
cat dir_console.conf

#描述所有组件
tj_rt_data.sources = spooling-dir-src
tj_rt_data.channels = mem-channel1
tj_rt_data.sinks = console-sink2

#描述source
tj_rt_data.sources.spooling-dir-src.type = spooldir
tj_rt_data.sources.spooling-dir-src.spoolDir = /home/sfapp/tianjin/rt_src_path
tj_rt_data.sources.spooling-dir-src.fileHeader = true
tj_rt_data.sources.spooling-dir-src.fileHeaderKey = file
tj_rt_data.sources.spooling-dir-src.basenameHeader = true
tj_rt_data.sources.spooling-dir-src.basenameHeaderKey = basename
tj_rt_data.sources.spooling-dir-src.includePattern = (^bill.*\.txt)
tj_rt_data.sources.spooling-dir-src.ignorePattern = ([^ ]*\.tmp)|([^ ]*\.COMPLETED)
tj_rt_data.sources.spooling-dir-src.inputCharset = GBK
tj_rt_data.sources.spooling-dir-src.pollDelay = 5000
tj_rt_data.sources.spooling-dir-src.recursiveDirectorySearch = true
tj_rt_data.sources.spooling-dir-src.batchSize = 200
tj_rt_data.sources.spooling-dir-src.deserializer = LINE
tj_rt_data.sources.spooling-dir-src.deserializer.maxLineLength = 20480
tj_rt_data.sources.spooling-dir-src.deserializer.outputCharset = UTF-8
tj_rt_data.sources.spooling-dir-src.selector.type = replicating
tj_rt_data.sources.spooling-dir-src.interceptors = i1
tj_rt_data.sources.spooling-dir-src.interceptors.i1.type = regex_extractor
tj_rt_data.sources.spooling-dir-src.interceptors.i1.regex = ^.*\\$(apex|cae|dhl|ems|fedex|hto|sf|sto|tnt|ups|yto|yunda|zjs|zto|zyh)\\$.*$
tj_rt_data.sources.spooling-dir-src.interceptors.i1.serializers = s1
tj_rt_data.sources.spooling-dir-src.interceptors.i1.serializers.s1.type = org.apache.flume.interceptor.RegexExtractorInterceptorPassThroughSerializer
tj_rt_data.sources.spooling-dir-src.interceptors.i1.serializers.s1.name = src_company_code

#组织sinks
tj_rt_data.sinks.console-sink2.type = logger

#组织channel
tj_rt_data.channels.mem-channel1.type = memory
tj_rt_data.channels.mem-channel1.capacity = 20480
tj_rt_data.channels.mem-channel1.transactionCapacity = 2048

# 将source和sink绑定到channel
tj_rt_data.sources.spooling-dir-src.channels = mem-channel1
tj_rt_data.sinks.console-sink2.channel = mem-channel1

在图形界面的系统(windows、mac、linux图形)和jdk的环境下启动jconsole
jconsole

 连接jmx端口.jpg

 jmx监控控制台.jpg

 

可以看到flume应用所使用的内存、线程、类、CPU等使用情况。
MBean可以监控flume的各个组件运行情况。

 

 

2.HTTP监控

Flume可以通过HTTP以JSON形式报告metrics,启用HTTP监控,Flume需要配置一个端口。
配置一个简单的打印conf文件: dir_console.conf ,如第1章

 

启动flume并指定http监控形式和端口

bin/flume-ng agent --conf conf/ --name tj_rt_data --conf-file jobs/dir_console.conf -Dflume.root.logger=INFO,console -Dflume.monitoring.type=http -Dflume.monitoring.port=1234

查看metric监控
用浏览器或者GET方式打开
http://ip:1234/metrics
获得数据如下:

 

标签:Flume,rt,方式,src,sources,tj,监控,data,dir
From: https://www.cnblogs.com/LIAOBO/p/17362941.html

相关文章

  • Java 项目中一种简单的动态修改配置即时生效的方式 WatchService
    这种方式仅适合于比较小的项目,例如只有一两台服务器,而且配置文件是可以直接修改的。例如Springmvc以war包的形式部署,可以直接修改resources中的配置文件。如果是Springboot项目,还想用这种方式的话,就要引用一个外部可以编辑的文件,比如一个固定的目录,因为springboot大多......
  • mybatis Generator生成代码及使用方式
    为什么要有mybatismybatis是一个Java的ORM框架,ORM的出现就是为了简化开发。最初的开发方式是业务逻辑和数据库查询逻辑是分开的,或者在程序中编写sql语句,或者调用sql存储过程。这样导致思维需要在语言逻辑和sql逻辑之间切换,导致开发效率低下。所以出现了一系列的ORM框......
  • Vue项目如何配置、切换主题颜色(mixin + scss方式,简单高效)
    Action一.首先,引入scss依赖(node-sass,sass-loader)npminstallnode-sasssass-loader--save-dev1二.项目样式文件目录介绍1.此处我将项目中的公共样式文件放到了src/style目录下,其中index.scss是以供全局使用的一些基本样式,在main.js文件中引入即可全局使用(图2)。_theme.scs......
  • mysql创建索引三种方式
    1.新建表中添加索引①普通索引createtablet_dept(nointnotnullprimarykey,namevarchar(20)null,sexvarchar(2)null,infovarchar(20)null,indexindex_no(no))②唯一索引createtablet_dept(nointnotnullprimarykey,......
  • 网络设备正常运行时间监控
    什么是正常运行时间监控正常运行时间是衡量服务器或任何网络组件对其最终用户的可用性的指标。定期检查网络设备可用性的过程称为正常运行时间监控。正常运行时间监控有助于确保所有组件保持正常运行,而不会停机。正常运行时间监控是关键的网络监控功能,对整个网络的运行状况和性能至......
  • 接口请求的常见方式
    通过接口请求数据的常见方式有以下几种:①GET:向特定的资源发送请求。【请求制定页面信息,并返回实体主体】②POST:向指定资源提交数据进行处理请求,可能导致新的资源的建立或原有资源的修改。【如 提交表单、上传文件等】③PUT:向指定资源位置上上传其最新内容【从客户端向服务器传......
  • jar包运行后显示 没有主清单属性 IDEA 使用maven打jar包两种方式及pom配置
    jar包运行后显示没有主清单属性IDEA使用maven打jar包两种方式及pom配置原文链接:https://blog.csdn.net/weixin_42585386/article/details/115334503目录问题现象:问题分析:解决方法:问题现象:        jar包运行后显示没有主清单属性!问题分析:1. 缺少了项目......
  • golang —— 实现接口的结构体调用方式
    在接口上调用方法时,必须有和方法定义时相同的接收者类型或者是可以根据具体类型P直接辨识的:指针方法可以通过指针调用值方法可以通过值调用接收者是值的方法可以通过指针调用,因为指针会首先被解引用接收者是指针的方法不可以通过值调用,因为存储在接口中的值没有地址将一个......
  • Kubernetes 之 Prometheus 监控 blackbox_exporter
      下载地址:https://prometheus.io/download/#blackbox_exporter#blackbox_exporter是Prometheus官方提供的一个exporter,可以监控HTTP、HTTPS,、DNS、TCP、ICMP等目标实例,#从而实现对被监控节点进行监控和数据采集。#HTTP/HTPPS:URL/API可用性检测#TCP:端口监......
  • aop实现日志记录通过自定义注解方式
    切面类切入点引入注解@Pointcut("@annotation(com.test.aop.MyLog)")privatevoidpointcut(){}注解类@Retention(RetentionPolicy.RUNTIME)@Target(ElementType.METHOD)//指定实现的类型及运行时机public@interfaceMyLog{}在使用的方法上加自定义注解@MyLog方法log.i......