首页 > 其他分享 >Flume和Logstash 都可以做日志收集,那有什么区别呢

Flume和Logstash 都可以做日志收集,那有什么区别呢

时间:2022-10-09 10:04:10浏览次数:48  
标签:Flume 收集 设计 日志 数据 Logstash


   这个问题诞生于我和朋友的聊天,我问它最近在做什么,他说Flume,咱不懂呀,偷偷的百度了一下。短暂的看到也是做日志收集的,这让我瞬间想到了logstash,就是 ELK 组合中的一员。也是做日志收集的。那么问题就来了,这两个有什么区别呢?以及如果在有日志收集和分析需求的时候,用哪个呢?

 

 # # 直接对比设计的目的

   两者最初的设计目的就不太一样。Flume本身最初设计的目的是为了把数据传入HDFS中(并不是为了采集日志而设计,这和Logstash有根本的区别),所以理所应当侧重于数据的传输,程序员要非常清楚整个数据的路由,并且比Logstash还多了一个可靠性策略,上文中的channel就是用于持久化目的,数据除非确认传输到下一位置了,否则不会删除,这一步是通过事务来控制的,这样的设计使得可靠性非常好。相反,Logstash则明显侧重对数据的预处理,因为日志的字段需要大量的预处理,为解析做铺垫。

 

# # 使用的容易程度

  其一:Logstash其实更有点像通用的模型,所以对新人来说理解起来更简单,而Flume这样轻量级的线程,可能有一定的计算机编程基础理解起来更好;其二:目前大部分的情况下,Logstash用的更加多,这个数据我自己没有统计过,但是根据经验判断,Logstash可以和ELK其他组件配合使用,开发、应用都会简单很多,技术成熟,使用场景广泛。相反Flume组件就需要和其他很多工具配合使用,场景的针对性会比较强,更不用提Flume的配置过于繁琐复杂了。

 

# # 总结

  Logstash就像是买来的台式机,主板、电源、硬盘,机箱(Logstash)把里面的东西全部装好了,你可以直接用,当然也可以自己组装修改;Flume就像提供给你一套完整的主板,电源、硬盘,Flume没有打包,只是像说明书一样指导你如何组装,才能运行的起来。

 

  

标签:Flume,收集,设计,日志,数据,Logstash
From: https://blog.51cto.com/u_15812686/5739752

相关文章

  • python学习日志
    python学习日志语法简单和传统的C/C++、Java、C#等语言相比,Python对代码格式的要求没有那么严格,这种宽松使得用户在编写代码时比较舒服,不用在细枝末节上花费太多精力......
  • 日志管理与分析权威指南 pdf
    高清扫描版下载链接:https://pan.baidu.com/s/1WAbVHBdw39F75_eG6bBZ3w点击这里获取提取码 ......
  • 日志从Kafka到Loki的N种方式​
    最近群里有小伙伴有说到自己的日志存储路径先是从客户端到Kafka,再通过消费kafka到ElasticSearch。现在要将ES换成Loki面临需要同时支持Kafka和Loki插件的工具。小白查了下当......
  • windows10 java系统hang死_干货案例:坑爹cmd 执行jar不打印日志,服务端hang(卡住)问题...
    java系统hang死_干货案例:坑爹cmd执行jar不打印日志,服务端hang(卡住)问题...关键是设置cmd属性,去掉快速编辑模式......
  • KingbaseES V8R6运维案例之---wal日志解析DML操作
    案例说明:通过sys_waldump解析DML操作,获取DML操作的日志条目具体内容。适用版本:KingbaseESV8R3/R6一、DML事务操作对应的wal日志文件#查看当前online的wal日志文件p......
  • KingbaseES V8R6运维案例之---sys_waldump解析wal日志
    案例说明:wal日志文件记录了,事务操作的redo日志信息,由于wal日志文件是二进制文件,无法直接读取其文件内容。sys_waldump可以解决这个问题,通过sys_waldump来解析wal日志来......
  • KingbaseES V8R6集群运维案例之---自动清理集群主库wal日志
    ​案例说明:在KingbaseESV8R6主备流复制的集群,配置复制槽(replicationslot)。复制槽提供了一种自动化的方法来确保主控机在所有的后备机收到WAL段之前不会移除它们,并......
  • filebeat采集log日志,并自定义索引
    filebeat配置:filebeat.inputs:#Each-isaninput.Mostoptionscanbesetattheinputlevel,so#youcanusedifferentinputsforvariousconfigurations.......
  • Java日志体系一本通
    主要内容1·学习java日志体系及日志工具的演进2·了解日志采集、处理、分析等各阶段的常用中间件3·学会搭建完整的elk日志平台4·学习日志打点,切面,日志文件等输出手段5·项......
  • Logback打印日志
    概括Logback是由log4j创始人设计的另一个开源日志组件,官方网站:http://logback.qos.ch。它分为三个模块:logback-core:其它两个模块的基础模块logback-classic:它是log4j......