首页 > 其他分享 >(19)go-micro微服务filebeat收集日志

(19)go-micro微服务filebeat收集日志

时间:2023-01-24 08:55:07浏览次数:61  
标签:文件 filebeat 收集 19 Filebeat micro 日志 yml

目录

一 Filebeat介绍

  • filebeat是Beats中的一员。

  Beats在是一个轻量级日志采集器,早期的ELK架构中使用Logstash收集、解析日志,但是Logstash对内存、cpu、io等资源消耗比较高。相比Logstash,Beats所占系统的CPU和内存几乎可以忽略不计。

  • Filebeat是用于转发和集中日志数据的轻量级传送工具。Filebeat监视您指定的日志文件或位置,收集日志事件,并将它们转发到Elasticsearch或 Logstash进行索引。

二 FileBeat基本组成

  • Prospector (勘测者) :负责管理Harvester并找到所有读取源。

  • Harvester (收割机) :负责读取单个文件内容,每个文件启动-个。

三 FileBeat工作原理

启动Filebeat时,它将启动一个或多个输入,这些输入将在为日志数据指定的位置中查找。对于Filebeat所找到的每个日志,Filebeat都会启动收集器。每个收集器都读取单个日志以获取新内容,并将新日志数据发送到libbeat,libbeat将聚集事件,并将聚集的数据发送到为Filebeat配置的输出。

clipboard.png

四 Filebeat如何记录文件状态:

  • 文件状态记录在文件中 (默认在/ar/ib/filebeat/registry )

  • Filebeat 会记录发送前的最后一行,并再可以连接的时候继续发送

  • 每个 Prospector会为每个找到的文件记录一个状态

  • Filebeat 存储唯一标识符以检测文件是否先前被收集

五 Filebeat如何保证事件至少被输出一次

  • Filebeat 将每个事件的传递状态保存在文件中

  • 在未得到输出方确认时, Filebeat 会尝试-直发送,直到得到回应

  • 任何在Filebeat 关闭之前未确认的事件,都会在filebeat重启之后重新发送

  • 可确保至少发送一次,但有可能会重复

六 安装Filebeat

七 使用Filebeat

filebeat.yml编写

  • 在account目录下新建filebeat.yml ,输入以下代码:
# 输入
filebeat.inputs:
  - type: log
    enabled: true
    paths:
      - ./*.log
# 输出
output.logstash:
  hosts: ["localhost:5044"]
  • 这样,filebeat.yaml就完成了

  • filebeat.exe放到account目录下

  • 启动filebeat.exe:filebeat -e -c filebeat.yml

  • 同级目录下多了一个data文件夹,里面是:

image.png

  • 至此,filebeat收集日志工作就完成啦。

八 最后

  • 至此,go-micro微服务filebeat收集日志工作就正式完成。

  • 接下来就开始Elasticsearch使用的代码编写了,希望大家关注博主和关注专栏,第一时间获取最新内容,每篇博客都干货满满。

欢迎大家加入 夏沫の梦的学习交流群 进行学习交流经验,点击 夏沫の梦学习交流

标签:文件,filebeat,收集,19,Filebeat,micro,日志,yml
From: https://www.cnblogs.com/qi66/p/17065783.html

相关文章

  • 在尝试加载程序集 ID 65536 时 Microsoft .NET Framework 出错。服务器可能资源不足,或
    SqlServer 函数中执行的程序集但用户的权限不够,后DBA使用sa 账号设置了就对了网上找到的解决方法:这数据库是从其他数据库还原到本地数据库的,不少网友说在还原数据库之后,......
  • IOI2019
    排列鞋子(1)确定最终顺序后,操作次数即逆序对数对于相同大小的鞋子,显然按出现顺序(即第\(i\)个\(x\)和\(-x\))配对对于两双鞋子,显然按每双中靠前的一只排序不劣用树状数组......
  • Luogu P7191 [COCI2007-2008#6] GRANICA
    https://www.luogu.com.cn/problem/P7191设\(\bmodm=r\),则能得到\(a_i=x_i\timesm+r\)。那么对于相邻的两个数\(a_i,a_{i-1}\)相减,就能得到\((x_i-x_{i-1})\time......
  • 【题解】CF193D Two Segments
    题意给定一个\(1\simN\)的排列,在这个排列中选出两段互不重叠的区间,求使选出的元素排序后构成公差为1的等差数列的方案数。选出的两段区间中元素构成的集合相同时视为同一......
  • (18)go-micro微服务ELK介绍
    目录一什么是ELK二Beats的六种工具三ELK系统的特点四ELK+beats系统架构五ELK优点六最后一什么是ELKELK是三个[开源软件]的缩写,分别表示:Elasticsearch,Logstash,......
  • P3195 [HNOI2008]玩具装箱
    题目:P3195[HNOI2008]玩具装箱 一道斜率优化dp题。先考虑状态和转移方程:令$dp[i]$表示装前$i$个玩具所需要最小花费,$j$表示上一个容器右端点,$sum[i]$表示前$i$个玩具长......
  • Servlet19 - 优化 Controller
    优化controllercontroller中的所有方法有共同点,可以抽取出来处理,设置成公用,优化方法中的内容FruitController中的所有方法都需求进行重定向或转发,统一交给中央控制器处......
  • 力扣 - 1219. 黄金矿工
    思路:       本题要找到获取到黄金的最大价值,也就是找到一条连续的每一个节点不为0的路径相加和的最大值。    那需要解决两个问题:    ......
  • 上市公司绿色专利申请数据(绿色创新数据1)(1990-2021)
    上市公司绿色专利申请数据(绿色创新数据1)(1990-2021)上市公司绿色专利申请数据(绿色创新数据1)(1990-2021)上市公司绿色专利申请数据(绿色创新数据1)(1990-2021) 最新版数据已整......
  • P1008 [NOIP1998 普及组] 三连击
    置顶题解暴力,加简化的判断,数学原理,2个集合内所有数相加相乘结果一样,2个集合的内容一样(没错我自己编得,灵感并不是我自己的,感谢帮我的大大)置顶的题解中的数学原理应该是......