首页 > 数据库 >Logstash 获取通道类型 Redis 数据

Logstash 获取通道类型 Redis 数据

时间:2023-09-29 10:22:06浏览次数:39  
标签:获取 0.1 Redis redis logstash 6379 Logstash es

Redis 服务器是 logstash 官方推荐的 broker 选择。Broker 角色也就意味着会同时存在输入和输出俩个插件。这里我们先学习输入插件。

LogStash::Inputs::Redis 支持三种 data_type(实际上是redis_type),不同的数据类型会导致实际采用不同的 Redis 命令操作:

  • list => BLPOP
  • channel => SUBSCRIBE
  • pattern_channel => PSUBSCRIBE

说明:

  容器搭建的ELK,使用队列

步骤:

  1、进入容器通道,复制一份logstash.conf 然后修改名称

logstash@b4779271fd0f:~$ pwd
/usr/share/logstash
logstash@b4779271fd0f:~$ cd pipeline/
logstash@b4779271fd0f:~/pipeline$ ls
logstash.conf  redis_to_es.conf

  2、编写redis通道配置文件

# @Author: Wanghaipeng

# @Date:   2023-03-27 17:03:16

input {
   redis {
    data_type => "list" #["list", "channel", "pattern_channel"]
    host => "XXX" #153 服务器的内网地址
    db => "1"
    port => "6379"
    key => "redis153-to-es-log"
    password => "XXXX"
    timeout => "30"
  }
}


output {
  elasticsearch {
      hosts  => ["http://172.20.0.3:9200"]
      user   => "" #填写ES账号信息
      password => ""
      index => "redis-153-systemlog-%{+YYYY.MM.dd}" # 把日期去掉 这是ES的索引 会造成每天一个索引源
      codec  => "json"
  }
  stdout {
    codec => rubydebug
  }
}

  3、写入数据

  

[root@host-10-10-1-18 ~]# redis-cli
127.0.0.1:6379> auth XXXXXX
OK
127.0.0.1:6379> select 1 #选择数据库1
OK
127.0.0.1:6379[1]> lpush redis153-to-es-log '{"name":"wanghaipeng008","age":"33","timestamp":"1695895769"}' 
(integer) 1
127.0.0.1:6379[1]> llen redis153-to-es-log # 已取出
(integer) 0

  4、创建索引

 

  5、ES查看数据

  

 

标签:获取,0.1,Redis,redis,logstash,6379,Logstash,es
From: https://www.cnblogs.com/buxiangxin/p/17736826.html

相关文章

  • Redis加载其他模块
    加载第三方模块gitclonehttps://github.com/wujunze/redis-module-panda.gitmakedockercppanda.soredis:/如果网络不好,下载不下来,可以下载到windows下,通过scp工具上传到服务器。make之后生成panda.so文件,拷贝到容器内部。两种加载方式启动时加载redis.conf添......
  • PostgreSQL数据库事务系统——获取virtual transaction id
    如果一个事务没有进行INSERT、UPDATE、DELETE操作,那么就步会分配事务ID,但事务仍然用一个虚拟事务ID代表自己。虚拟事务ID由两部分组成,第一部分是BackendID,另一个是每个会话自己维护的本地事务ID计数器。通过两部分组合,能保证这个虚拟事务ID的唯一性。在PostgreSQL数据库IPC——SI......
  • 如何远程获取污水处理设备数据并进行远程编程调试
    随着工业自动化设备和工控设备的发展,越来越多场景实现自动化智能生产,污水处理行业也不例外。污水处理设备随着污水处理厂的部署分布在各地,具备分布广、站点多、实时性差等特点,对于设备管理运维造成困难,运维成本高、工作效率差。如果要对分布式多个污水处理设备进行远程监控和远程编......
  • redis锁简单实现
    不要用get,get的话有可能并发使用setnxex NX :只在键不存在时,才对键进行设置操作。SETkeyvalueNX效果等同于SETNXkeyvalue。EX second:设置键的过期时间为second秒。SETkeyvalueEXsecond效果等同于SETEXkeysecondvalue。Booleanflag=jedisTemplat......
  • 小程序获取源码
    1.获取加密的小程序文件进入文件夹 选择:Applet文件夹   根据第一次使用小程序的时间,选择目标小程序 找到wxapkg文件    使用工具解密小程序 解密后的文件,放入反编译工具 使用工具反编译,后查找Js文件,查找加解密方式。  https://githu......
  • 如何获取枚举名称
    提问如何获取枚举名称回答usingSystem;publicclassGetNameTest{enumColors{Red,Green,Blue,Yellow};enumStyles{Plaid,Striped,Tartan,Corduroy};publicstaticvoidMain(){Console.WriteLine("The4thvalueoftheColorsE......
  • linux安装redis
    一、下载redissudoaptinstallredis-server 二、修改配置文件sudovim/etc/redis/redis.conf daemonizeyes    后端模式启动bind0.0.0.0     外网可访问,且去除ipv6限制requirepass     修改密码 三、服务管理1、重启服务sudoserviceredis-se......
  • redis为什么这么快、底层磁盘以及IO模型
    一、底层磁盘IO机制Redis是单进程单线程?为什么这么快:进入redis安装目录下执行以下命令,查看setlpush命令的处理效率:./redis-benchmark-tset,lpush-n100000-q根据官方的数据,Redis的QPS可以达到10万左右(每秒请求数)。就我这个虚拟机的性能,可以看到每秒......
  • 安装解压版Redis数据库
    1、上传redis-7.0.9.tar.gz压缩包到/usr/local目录2、解压tar-xzvfredis-7.0.9.tar.gz3、进入目录cdredis-7.0.94、编译redis:make5、安装makeinstallPREFIX=/usr/local/redis将安装路径设为/usr/local/redis6、make报错pkg-config:notfound,即 yuminstallpkg-con......
  • selenium解决页面一直刷新,无法获取元素的问题
    这里的场景是页面一直在刷新,脚本处于等待中没有继续往下执行。百度之后,chrome之类的浏览器可以按esc停止刷新。适时手动按esc键盘,脚本往下继续执行。综上,启动了两个线程,一个线程执行_send_esc方法;另一个线程执行原始的tcpdump_go_stop方法。注意,页面要保持在前端展示deft......