首页 > 其他分享 >Logstash docker发布

Logstash docker发布

时间:2024-07-18 21:08:22浏览次数:9  
标签:jdbc jar logstash sop 发布 mysql docker Logstash

一 下载Logstash

不废话了,我下载的7.17.6

 

二 新增配置文件

在logstash/pipeline中,添加logstash.conf

input {
  jdbc {
# 连接
    jdbc_connection_string => "jdbc:mysql://192.168.1.1:3306/kintech-cloud-bo?characterEncoding=UTF-8&useSSL=false"
# 账号
    jdbc_user => "root"
# 密码
    jdbc_password => "xxxx"
# docker中的mysql驱动位置
    jdbc_driver_library => "/app/mysql.jar"
# 驱动
    jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
# 查询语句,:sql_last_value为固定写法
    statement => "SELECT * FROM student where update_time>:sql_last_value"
# 同步间隔,每分钟
    schedule => "* * * * *"
# 启用字段(增量更新)
    use_column_value => true
# 字段类型(update_time)(增量更新)
    tracking_column_type => "timestamp"
# 字段名称(增量更新)
    tracking_column => "update_time"
  }
}
 
output {
  elasticsearch {
#es 地址,不要用local和127.0.0.1
    hosts => "192.168.1.2:9200"
#索引名称
    index => "bo_sop_content"
  }
}

三 启动docker

将logstash.conf和logstash.yml(这个不用改),以及mysql.jar 添加到数据卷。

docker run -d 
-v /root/docker/elk/logstash/pipeline/logstash.conf:/usr/share/logstash/pipeline/logstash.conf 
-v /root/docker/elk/logstash/config/logstash.yml:/usr/share/logstash/config/logstash.yml 
-v /root/lib/mysql.jar:/app/mysql.jar --name=logstash logstash:7.17.6

四 设置es分词器

# 设置分词器
PUT  192.168.1.247:9200/default
{
  "settings": {
    "analysis": {
      "analyzer": {
        "my_english_analyzer": {
          "type": "ik_smart",       
          "max_token_length": 5,    
          "stopwords": "_english_"  
        }
      }
    }
  }
}

五 kibana查询

GET /bo_sop_content/_search
{
  "query": {
    "multi_match": {
      "query":    "归档,hello,sop content",
      "fields": [ "sop_title", "sop_content" ] 
    }
  }
}

两条符合查询

 

标签:jdbc,jar,logstash,sop,发布,mysql,docker,Logstash
From: https://www.cnblogs.com/hanjun0612/p/18310450

相关文章

  • 【Azure Function】发布 Python Function 到 Azure 成功,但是无法显示Function列表
    问题描述发布PythonFunction到AzureFunctionApp服务,发布成功后,在Overview页面却无法查看到这个Function,进入Kudu站点,查看FunctionLog,发现错误信息为:"module not found" error:"FailureException:ImportError:libpq.so.5:cannotopensharedobjectfile:Nosuchf......
  • 打造丰富AI生态体验 三星Galaxy Z Fold6|Z Flip6及生态新品中国发布
    7月17日,三星电子举行Galaxy新品中国发布会,正式面向中国市场推出第六代折叠屏手机三星GalaxyZFold6与GalaxyZFlip6。同步登陆国内的还有诸多智能穿戴新品,包括三星GalaxyRing、GalaxyWatch7、GalaxyWatchUltra以及三星GalaxyBuds3系列。作为三星在折叠屏领域的前沿科技成果......
  • Ubuntu 安装docker
    一、docker安装本文主要是基于Ubuntu18.04操作系统安装docker的方法,本文基本涵盖基于前人所有可行的安装步骤与基础使用方法,由于笔者使用默认存储库在Ubuntu上成功安装了docker,因此主要首先介绍该方法和一些基础的使用操作。第1步:更新软件存储库更新本地软件数据库以确保可以访......
  • docker镜像常用命令
    1.使用"ls"查看镜像列表dockerimagels查看现有的镜像列表。dockerimagels-q仅查看镜像的ID信息。dockerimagels-a查看所有的镜像,包括中间镜像,尤其是在后期查看基于dockerfile的时候很有用呢2.使用"pull"拉取镜像dockerimagepullbus......
  • docker容器化技术之部署
    一、docker概述Docker是一个容器管理技术,它是一个用于开发、发布和运行应用程序的开放平台。Docker是一组平台即服务(PaaS)的产品。它基于操作系统层级的虚拟化技术,将软件与其依赖项打包为容器。托管容器的软件称为Docker引擎。Docker能够帮助开发者在轻量级容器中自动部署应用......
  • Springboot项目远程部署gitee仓库(docker+Jenkins+maven+git)
    创建一个Springboot项目,勾选web将该项目创建git本地仓库,再创建远程仓库推送上去创建TestController@RestController@RequestMapping("/test")publicclassTestController{    @GetMapping("/hello")    publicStringsayHelloJenkins(){        ret......
  • ubuntu下完全卸载重装docker教程
    操作需在管理员权限下运行卸载docker1.删除docker的所有包apt-getautoremovedockerdocker-cedocker-enginedocker.iocontainerdrunc2.查看docker是否卸载干净dpkg-l|grepdockerdpkg-l|grep^rc|awk'{print$2}'|sudoxargsdpkg-P3.删除相关插件apt-get......
  • Docker--harbor 私有仓库部署与管理
    一、Harbor简介1.Harbor概念Harbor是VMware公司开源的企业级DockerRegistry项目,其目标是帮助用户迅速搭建一个企业级的DockerRegistry服务。Harbor以Docker公司开源的Registry为基础,提供了图形管理UI、基于角色的访问控制(RoleBasedAccessControl)、AD/......
  • 【Docker】基于Docker-compose创建LNMP环境
    目录一.Docker-compose概述1.容器编排管理与传统的容器管理的区别2.docker-compose作用3.docker-compose本质4.docker-compose的三大概念二.YML文件格式及编写注意事项1.yml文件是什么2.yml问价使用注意事项3.yml文件的基本数据结构三.Docker-compose配置1.Doc......
  • 【LLM大模型】《开源大模型食用指南》全网发布,轻松助你速通llm大模型!
    前言《开源大模型食用指南》是一个围绕开源大模型、针对国内初学者、基于AutoDL平台的中国宝宝专属大模型教程,针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导,简化开源大模型的部署、使用和应用流程,让更多的普通学生、研究者更好地使用......