首页 > 系统相关 >LInux单机部署ELK日志收集

LInux单机部署ELK日志收集

时间:2023-04-19 09:58:12浏览次数:34  
标签:ELK 204.131 -- kibana elasticsearch 192.168 LInux 日志 logstash

LInux单机部署ELK日志收集

一、环境准备

centos7

cpu:1核

内存:8G

#安装vim,wget,net-tools

设置主机名:

vim /etc/hosts

127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.204.131 elk-log-server

二、下载安装包

2.1下载jdk1.8、elasticsearch,logstash、kibana

wget --no-check-certificate --no-cookies --header "Cookie: oraclelicense=accept-securebackup-cookie" http://download.oracle.com/otn-pub/java/jdk/8u131-b11/d54c1d3a095b4ff2b6607d096fa80163/jdk-8u131-linux-x64.rpm
wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.8.0.rpm
wget https://artifacts.elastic.co/downloads/logstash/logstash-6.8.0.rpm
wget https://artifacts.elastic.co/downloads/kibana/kibana-6.8.0-x86_64.rpm

2.2安装jdk1.8

rpm -ivh jdk-8u131-linux-x64.rpm

三、安装配置elasticsearch

3.1安装elasticsearch

rpm -ivh elasticsearch-6.8.0.rpm

3.2配置elasticsearch

vim /etc/elasticsearch/elasticsearch.yml

根据下面内容修改,wq保存

#集群名称
cluster.name: test-cluster  
#节点名称
node.name: elk-log-server 
#数据存放路径
path.data: /var/lib/elasticsearch  
#数据存放路径
#日志存放路径
path.logs: /var/log/elasticsearch  
#监听IP
network.host: 192.168.204.131   
#监听端口
http.port: 9200 
#集群各主机地址,单机模式就一个本机IP
discovery.zen.ping.unicast.hosts: ["192.168.204.131"]  

3.3启动服务,并查看端口

systemctl start elasticsearch
netstat -tunlp|grep java
tcp6       0      0 192.168.204.131:9200       :::*                    LISTEN      5176/java           
tcp6       0      0 192.168.204.131:9300       :::*                    LISTEN      5176/java 

3.4curl查看端口信息

curl 192.168.204.131:9200

显示如下:

{
  "name" : "elk-log-server",
  "cluster_name" : "test-cluster",
  "cluster_uuid" : "ujFldL0eTjqDFC-5oqATaw",
  "version" : {
    "number" : "6.2.4",
    "build_hash" : "ccec39f",
    "build_date" : "2018-04-12T20:37:28.497551Z",
    "build_snapshot" : false,
    "lucene_version" : "7.2.1",
    "minimum_wire_compatibility_version" : "5.6.0",
    "minimum_index_compatibility_version" : "5.0.0"
  },
  "tagline" : "You Know, for Search"
}

3.5开启9200端口

firewall-cmd --add-port=9200/tcp --permanent
firewall-cmd --reload

四、安装配置logstash

4.1安装logstash

rpm -ivh logstash-6.8.0.rpm 

4.2配置logstash

vim /etc/logstash/logstash.yml

根据下面内容修改,wq保存

#数据存放路径
path.data: /var/lib/logstash  
#监听IP
http.host: "192.168.204.131"  
#监听的端口
http.port: 9600  
#日志路径
path.logs: /var/log/logstash  

4.3配置logstash用户相应目录写权限

chown -R logstash /var/log/logstash/ /var/lib/logstash/

4.4新建一个配置文件用于收集系统日志

vim /etc/logstash/conf.d/syslog.conf

内容如下:

input{
  syslog{
    type => "system-syslog"
    port => 10000
  }
}

#输出到elastcisearch
output{
  elasticsearch{
    hosts => ["192.168.204.131:9200"]         #elasticsearch服务地址
    index => "system-syslog-%{+YYYY.MM}"   #创建的索引
  }
}

4.5测试日志收集配置文件

ln -s  /usr/share/logstash/bin/logstash /usr/local/bin/
logstash --path.settings /etc/logstash/ -f /etc/logstash/conf.d/syslog.conf --config.test_and_exit
Sending Logstash's logs to /var/log/logstash which is now configured via log4j2.properties
Configuration OK

4.6启动logstash服务,并查看端口

通过加载收集系统日志文件启动9600端口

/usr/share/logstash/bin/logstash -f /etc/logstash/conf.d/syslog.conf --config.reload.automatic

启动服务,并查看端口:

systemctl start logstash
netstat -tunlp|grep java

内容如下:

tcp6       0      0 192.168.204.131:9600    :::*                    LISTEN      92196/java          
tcp6       0      0 :::10000                :::*                    LISTEN      92196/java          
tcp6       0      0 192.168.204.131:9200    :::*                    LISTEN      24309/java          
tcp6       0      0 192.168.204.131:9300    :::*                    LISTEN      24309/java          
udp        0      0 0.0.0.0:10000           0.0.0.0:*                           92196/java

9600是logstash监听端口,10000是系统日志收集输入端口

4.7查看elasticsearch日志收集的索引信息

curl http://192.168.204.131:9200/_cat/indices

显示如下:

yellow open system-syslog-2019.07 REp7fM_gSaquo9PX2_sREQ 5 1 10 0 58.9kb 58.9kb

4.8查看指定索引的详细信息

curl http://192.168.204.131:9200/system-syslog-2019.07?pretty

 

说明logstash与elasticsearch之间通讯正常

五、Kibana安装配置

5.1安装kibana

rpm -ivh kibana-6.8.0-x86_64.rpm

5.2配置kibana

vim /etc/kibana/kibana.yml

根据下面内容修改,wq保存

i18n.locale: "zh-CN"
#监听端口
server.port: 5601 
#监听IP
server.host: 192.168.204.131 
#elastcisearch服务地址
elasticsearch.url: "http://192.168.204.131:9200"  
#日志路径
logging.dest: /var/log/kibana/kibana.log  

5.3新建日志目录,并赋予kibana用户写权限

mkdir /var/log/kibana/
chown -R kibana /var/log/kibana/

5.4开启5601端口

firewall-cmd --add-port=5601/tcp --permanent
firewall-cmd --reload

5.5启动kibana服务,并查看端口

systemctl start kibana
netstat -tunlp|grep 5601
tcp        0      0 192.168.204.131:5601       0.0.0.0:*               LISTEN      7511/node

六、访问页面

6.1浏览器访问http://192.168.204.131:5601

 6.2在kibana上创建索引

刚才Logstash中创建手机系统日志的配置文件,现在在Kibana上创建索引

系统管理--索引模式

 在索引模式中输入之前配置的system-syslog-*,表示匹配所有以system-syslog-开头的索引

  下一步,开始配置过滤条件,这里以时间戳为条件字段

 创建索引模式

 显示了所有系统日志收集的字段,点击发现,可以配置显示的字段

 

标签:ELK,204.131,--,kibana,elasticsearch,192.168,LInux,日志,logstash
From: https://www.cnblogs.com/zuouncle/p/17332191.html

相关文章

  • Linux 虚拟机服务器安装 Redis (sentinel模式)
    虚拟机服务器准备阶段三台服Linux虚拟机IP分别为192.168.192.133(作为master节点)192.168.192.129(作为slave节点)192.168.192.132(作为slave节点)我的三台虚拟机服务器版本均为centos7,且均为最小化安装,所以少很多软件,比如安装redis时需要gcc编译器、python环境等。......
  • Arch Linux关机缓慢
    问题描述:ArchLinux关机、重启时非常缓慢,基本都是十分钟以上。问题原因:参照GitHub中发现是nouveau导致的关机缓慢。解决办法:尝试了网络上普遍的把nouveau加入黑名单,但是并没有解决。最终是在grub中禁用nouveau解决。sudovim/etc/default/grub在GRUB_CMDLINE_LINUX_DEFA......
  • linux-nexus
    nexus一、概述背景:maven编译的时候,npm/cnpm编译,需要下载大量的依赖包。这些依赖包在每一次构建的时候都需要使用。每次都从公网(maven阿里云)npm(国内)。可以搭建内部软件仓库:存放着依赖包这个软件依赖仓库可以通过nexus实现。二、极速部署指南https://www.sonatype.c......
  • linux-LVS
    LVS一、概述1.常见负载均衡常见负载均衡对比优势缺点硬件:F5性能好技术支持价格昂贵购买2台1对.lvs工作四层效率极其高对数据做的转发负载均衡部署维护(运维成本较高)nginx/tengine/openresty(lua)使用简单支持4层(1.9版本后支持)和7层反向代理......
  • linux-Jumpserver
    Jumpserver一、跳板机概述日常普通运维:运维管理与维护环境,一般通过远程连接工具,进行去维护与管理,好处方便.缺点不方便进行行为审计(什么时间什么地点,做了什么),批量管理较难自动化运维与管理:推荐通过跳板机连接用户管理服务器,进行批量管理可以利用自动化工具(......
  • cronolog工具切割nohup运行日志
    1.日志分割:随着JAVA服务线上运行,默认单个日志文件占用磁盘空间会越来越大,查看文件信息不方便,故需要对日志文件进行分割,这里借用第三方工具cronolog切割,因为网上有很多种切分方式,要么不行要么不好用。 2.安装cronologA.yum在线安装:yuminstall-ycronolog;B.rpm离......
  • Windows 上的 Bash 正在成为微软的 Linux
    微软对WindowsSubsystemfor Linux(WSL)的一系列大量更新被列入WindowsInsiderbuild15002,该版本已于1月10日开始推送给Windows10用户。微软的WSL计划仍然是具有较强的暂时性和实验性的,但该公司正在不断往上添加功能,以飞快的步伐改进和扩展WSL。这在一定程度上......
  • Windows 上的 Bash 正在成为微软的 Linux
    微软对WindowsSubsystemfor Linux(WSL)的一系列大量更新被列入WindowsInsiderbuild15002,该版本已于1月10日开始推送给Windows10用户。微软的WSL计划仍然是具有较强的暂时性和实验性的,但该公司正在不断往上添加功能,以飞快的步伐改进和扩展WSL。这在一定程度上......
  • Windows 上的 Bash 正在成为微软的 Linux
    微软对WindowsSubsystemfor Linux(WSL)的一系列大量更新被列入WindowsInsiderbuild15002,该版本已于1月10日开始推送给Windows10用户。微软的WSL计划仍然是具有较强的暂时性和实验性的,但该公司正在不断往上添加功能,以飞快的步伐改进和扩展WSL。这在一定程度上......
  • 【Azure 应用服务】当在Azure App Service的门户上 Log Stream 日志无输出,需要如何操
    问题描述在AzureAppService的门户上LogStream日志无输出,需要如何操作让其输出ApplicationLogs呢?如下图所示:问题解答请注意,上图中提示说:Applicationlogsareswitchedoff. YoucanturnthemonusingtheAppServiceLogsSettings.应用日志关闭,可以通过AppServiceL......