首页 > 其他分享 >Logstash input插件

Logstash input插件

时间:2023-10-27 21:33:05浏览次数:42  
标签:插件 file stdin logstash conf input Logstash


input 插件用于指定输入源,一个 pipeline 可以有多个 input 插件,我们主要围绕下面几个 input插件进行介绍
stdin
file
beat
kafka
http

2.1 stdin插件

从标准输入读取数据,从标准输出中输出内容
cat /etc/logstash/conf.d/stdin_logstash.conf 
# 从终端中输入,输出到中端
input {
	stdin {
	    type => "stdin" # 自定义事件类型,可用于后续判断
	    tags => "stdin_type" # 自定义tag,用于后续事件判断
	}
}
output {
    stdout {
	codec => "rubydebug"
	}
}

# 执行 -r 表示不停止logstash下修改配置文件
/usr/share/logstash/bin/logstash  -f /etc/logstash/conf.d/stdin_logstash.conf

终端端中输入 test logstash,返回结果如下
          "type" => "stdin",
       "message" => "test logstash",
          "host" => "logstash-node1",
          "tags" => [
        [0] "stdin_type"
    ],
      "@version" => "1",
    "@timestamp" => 2021-10-30T07:34:57.440Z
}

2.2 file插件

从 file 文件中读取数据,然后输入至标准输入
cat file_logstash.conf 
input {
	file {
		path => "/var/log/test.log"
		type => "syslog"
		exclude => "*.gz" # 不监听的文件 
		start_position => "beginning" # 第一次从头开始读取文件 beginning or end
		stat_interval => "3" #定时检查文件是否更新,默认1s
   }
}
output {
	stdout {
		codec => rubydebug
	}
}

/usr/share/logstash/bin/logstash  -f /etc/logstash/conf.d/file_logstash.conf

echo "file logstash" > /var/log/test.log
{
      "@version" => "1",
          "path" => "/var/log/test.log",
          "type" => "syslog",
    "@timestamp" => 2021-10-30T07:58:42.699Z,
          "host" => "logstash-node1",
       "message" => "file logstash"
}

2.3 beats 插件

从filebeat文件中读取数据,然后输入至标准输入
cat beats_logstash.conf 
input {
	beats {
		port => 5044 # filebeat 发送数据到logstash主机的5044端口
	}
}
output {
	stdout {
		codec => rubydebug
	}
}

/usr/share/logstash/bin/logstash  -f /etc/logstash/conf.d/beats_logstash.conf

2.4 kafka插件

从kafka文件中读取数据,然后输出至标准输出
input {
	kafka {
		zk_connect =>
			"kafka1:2181,kafka2:2181,kafka3:2181"
			 group_id => "logstash"
			 topic_id => "apache_logs"
			 consumer_threads => 16
	}
}

标签:插件,file,stdin,logstash,conf,input,Logstash
From: https://blog.51cto.com/u_13236892/8062686

相关文章

  • Springboot+Mybatis+Mybatisplus 框架中增加自定义分页插件和sql 占位符修改插件
    一、Springboot简介springboot是当下最流行的web框架,SpringBoot是由Pivotal团队提供的全新框架,其设计目的是用来简化新Spring应用的初始搭建以及开发过程。该框架使用了特定的方式来进行配置,从而使开发人员不再需要定义样板化的配置,让这些框架集成在一起变得更加简单,简化了我......
  • 模拟鼠标键盘操作PyUserInput
    模拟鼠标操作是模拟鼠标点击和键盘输入的操作,UI自动化测试中非常实用。在WebUI、AppUI、WinAppUI自动化测试讲解中借助Selenium和Appium框架下ActionChains、TouchAction、MouseButton等类已经介绍了如何模拟鼠标和键盘操作。本文将为大家介绍一个独立的、任何时候都可以模拟鼠......
  • 金蝶KIS VB插件 老单据如何插入多行值,老单获取基础资料内码、代码、名称
    转自:https://blog.csdn.net/ssyyll/article/details/16804273WhileNotrs.EOF '填充对应的行 Withm_BillTransfer '如果超过两行以上的值,需要先用 .BillForm.InsertRow '插入一行 .SetGridTextLRow,dicFieldEntry("FItemID"),rs("FNumber") .SetGridText......
  • php结合web uploader插件实现分片上传文件
    这篇文章主要为大家详细介绍了php结合webuploader插件实现分片上传文件,采用大文件分片并发上传,极大的提高了文件上传效率,感兴趣的小伙伴们可以参考一下 最近研究了下大文件上传的方法,找到了webuploaderjs插件进行大文件上传,大家也可以参考这篇文章进行学习:《WebUploader......
  • 30-Vue脚手架-plugin插件
    plugin插件功能:用于增强Vue本质:包含install方法的一个对象,install的第一个参数是Vue,第二个以后的参数是插件使用者传递的数据。 src/plugins.js(定义插件)//定义插件(默认暴露)exportdefault{install(Vue){console.log("@@@install")console.log(......
  • playwright -启动本地chrome浏览器-启动扩展程序-插件
    fromplaywright.sync_apiimportsync_playwrightimportosclassTool:def__init__(self,user_data_dir,executable_path):playwright=sync_playwright().start()#启动扩展程序-开启影刀插件path_to_extension=r"D:\data\google\Ch......
  • Logstash架构介绍
    1.1为什么需要Logstash对于部分生产上的日志无法像Nginx那样,可以直接将输出的日志转为Json格式,但是可以借助Logstash来将我们的”非结构化数据“,转为“结构化数据”;filbeat-->logstash(inputfileteroutput)--es1.2什么是LogstashLogstash是免费且开放的服务器端数......
  • 超好用的IDEA插件推荐!自带API调试功能
    大家好,今天给大家推荐一款超好用的IDEA插件,由API调试工具Apipost推出!支持在插件中获取token、支持代码完成后在插件中进行API调试,同时也保留了1.0版本部分功能如上传选择目录功能等。V1版本还会继续保留开源,方便各位进行自创魔改。V2版本目前已上架至IDEA插件商店,大家可以自行下......
  • 超好用的IDEA插件推荐!自带API调试功能
    大家好,今天给大家推荐一款超好用的IDEA插件,由API调试工具Apipost推出!支持在插件中获取token、支持代码完成后在插件中进行API调试,同时也保留了1.0版本部分功能如上传选择目录功能等。V1版本还会继续保留开源,方便各位进行自创魔改。V2版本目前已上架至IDEA插件商店,大家可以自行......
  • logstash同步文本数据到es
    环境:OS:Centos7ES:6.8.5logstash:6.8.51.准备测试文件[root@localhostmyfile]#pwd/tmp/myfile[root@localhostmyfile]#morea.log111@3334@3333vvv@aaa@ggggutri@rtkjr@trtr4354@5454@654rerr@78@ffg 2.logstash配置文件[root@localhostconfig]#moresyn......