首页 > 其他分享 >ELK日志分析系统

ELK日志分析系统

时间:2023-04-19 19:33:36浏览次数:38  
标签:ELK 系统 kibana elasticsearch 192.168 apache path 日志

拓扑图:

ELK日志分析系统_elasticsearch

推荐步骤:

  • 搭建ElaticSearch群集,通过浏览器查看和图形管理群集
  • 配置客户端装apache和logstash服务配置采集apache日志
  • 配置kibana监听elasticsearch服务器日志


实验步骤:

一、搭建Elaticsearch群集,通过浏览器查看和图形管理群集

1、配置第一台Elaticsearch服务器

(1)修改hosts文件复制到其他节点

ELK日志分析系统_服务器_02

ELK日志分析系统_服务器_03

ELK日志分析系统_elasticsearch_04

(2)切换到ELK光盘

ELK日志分析系统_服务器_05

ELK日志分析系统_服务器_06

(3)挂载ELK程序光盘到/mnt

ELK日志分析系统_服务器_07

(4)安装Elasticsearch服务器设置服务开机自动启动

ELK日志分析系统_elasticsearch_08

(5)修改第一台Elasticsearch主配置文件

vim /etc/elasticsearch/elasticsearch.yml
cluster.name: my-elk-cluster
node.name: Centos01
path.data: /path/to/data
path.logs: /path/to/logs
bootstrap.memory_lock: false
network.host: 192.168.100.10
http.port: 9200
discovery.zen.ping.unicast.hosts: ["Centos01", "Centos02"]

(6)创建数据存储目录和日志存储目录

ELK日志分析系统_服务器_09

(7)守护进程访问启动服务

ELK日志分析系统_elasticsearch_10

(8)监听端口号

ELK日志分析系统_elasticsearch_11

2、配置第二台Elaticsearch服务器

(1)切换到ELK光盘

ELK日志分析系统_服务器_12

(2)挂载ELK程序光盘到/mnt

ELK日志分析系统_elasticsearch_13

(3)安装Elasticsearch服务器设置服务开机自动启动

ELK日志分析系统_elasticsearch_14

ELK日志分析系统_服务器_15

(4)修改第一台Elasticsearch主配置文件

vim /etc/elasticsearch/elasticsearch.yml
cluster.name: my-elk-cluster
node.name: Centos02
path.data: /path/to/data
path.logs: /path/to/logs
bootstrap.memory_lock: false
network.host: 192.168.100.20
http.port: 9200
discovery.zen.ping.unicast.hosts: ["Centos01", "Centos02"]

(5)创建数据存储目录和日志存储目录

ELK日志分析系统_服务器_16

(6)守护进程访问启动服务

ELK日志分析系统_elasticsearch_17

(7)监听端口号

ELK日志分析系统_elasticsearch_18

3、配置第一台Elasticsearch服务器安装图形化管理

(1)安装依赖程序node

ELK日志分析系统_elasticsearch_19

(2)安装phantomjs依赖

ELK日志分析系统_elasticsearch_20

(3)安装slasticsearch-head

ELK日志分析系统_elasticsearch_21

cd

(4)修改elasticsearch主配置文件

ELK日志分析系统_服务器_22

http.cors.enabled: true
http.cors.allow-origin: "*"

(5)重新启动elasticsearch服务

systemctl restart elasticsearch

(6)修改elasticsearch-head配置文件

ELK日志分析系统_elasticsearch_23

4329 this.base_uri = this.config.base_uri || this.prefs.get("app-base_uri") || "http://192.168.100.10:9200";

(7)修改elasticsearch-head配置文件监听端口9100端口

ELK日志分析系统_服务器_24

93                                         hostname:'192.168.100.10',
94                                         port: 9100,

(8)启动服务监听端口

ELK日志分析系统_elasticsearch_25

(9)监听9100端口

ELK日志分析系统_服务器_26

4、配置第二台Elasticsearch服务器安装图形化管理

(1)安装依赖程序node

ELK日志分析系统_elasticsearch_27

(2)安装phantomjs依赖

ELK日志分析系统_服务器_28

(3)安装slasticsearch-head

ELK日志分析系统_服务器_29

ELK日志分析系统_elasticsearch_30

(4)修改elasticsearch主配置文件

ELK日志分析系统_elasticsearch_31

http.cors.enabled: true
http.cors.allow-origin: "*"

(5)重新启动elasticsearch服务

ELK日志分析系统_elasticsearch_32

(6)修改elasticsearch-head配置文件

ELK日志分析系统_elasticsearch_33

4329 this.base_uri = this.config.base_uri || this.prefs.get("app-base_uri") || "http://192.168.100.20:9200";

(7)修改elasticsearch-head配置文件监听端口9100端口

ELK日志分析系统_服务器_34

93  hostname:'192.168.100.20',
94 port: 9100,

(8)启动服务监听端口

ELK日志分析系统_服务器_35

(9)监听9100端口

ELK日志分析系统_服务器_36

5、客户端访问图形界面查看你群集运行状态

(1)访问elasticsearch群集

ELK日志分析系统_elasticsearch_37

(2)访问群集状态

ELK日志分析系统_elasticsearch_38

(3)使用elasticsearch-head图形化管理群集

ELK日志分析系统_服务器_39

二、配置客户端装apache和logstash服务配置采集apache日志

1、客户端安装apache服务器

(1)切换到系统光盘

ELK日志分析系统_服务器_40

(2)挂载系统盘到/mnt目录

ELK日志分析系统_elasticsearch_41

(3)删除系统自带源配置本地yum源

ELK日志分析系统_elasticsearch_42

(4)修改网站主页

echo "www.benet.com"> /var/www/html/index.html

(5)启动服务设置开机自动启动

ELK日志分析系统_elasticsearch_43

(6)访问网站

ELK日志分析系统_服务器_44

2、apache客户端安装logstash采集日志

(1)切换到ELK光盘

ELK日志分析系统_elasticsearch_45

(2)挂载到/mnt目录

ELK日志分析系统_elasticsearch_46

(3)安装logstash

ELK日志分析系统_服务器_47

(4)启动服务设置开机自动启动

ELK日志分析系统_elasticsearch_48

(5)优化命令

ln -s /usr/share/logstash/bin/logstash  /usr/local/bin/

3、配置采集apache成功日志

(1)创建日志采集文件采集成功日志

vim /etc/logstash/conf.d/apache_log.conf
input {
file{
path => "/var/log/httpd/access_log"
type => "access"
start_position => "beginning"
}         
file{
path => "/var/log/httpd/error_log"
type => "error"
start_position => "beginning"
}         
}
output {
if [type] == "access" {
elasticsearch {
hosts => ["192.168.100.10:9200"]
index => "apache_access-%{+YYYY.MM.dd}"
}
}  
if [type] == "error" {
elasticsearch {
hosts => ["192.168.100.10:9200"]
index => "apache_error-%{+YYYY.MM.dd}"
} 
}
}

(2)添加执行权限

chmod +x /etc/logstash/conf.d/apache_log.conf

(3)测试采集日志文件是否错误监控apache

ELK日志分析系统_elasticsearch_49

(4)重新启动logstash服务采集apache日志

systemctl restart logstash

(5)客户端登录查看apache的成功和失败日志

ELK日志分析系统_服务器_50

(6)在数据浏览中查看成功和失败日志

ELK日志分析系统_服务器_51

三、配置kibana监听elasticsearch服务器日志

1、在第一台slaticsearch服务安装kibana

(1)安装kibana

ELK日志分析系统_服务器_52

(2)修改kibana主配置文件

vim /etc/kibana/kibana.yml
3 server.port: 5601
9 server.host: "192.168.100.10"
24 elasticsearch.url: "http://192.168.100.10:9200"
34 kibana.index: ".kibana"

(3)启动kibana服务设置开机自动启动

ELK日志分析系统_elasticsearch_53

(4)监听kibana端口

ELK日志分析系统_服务器_54

3、访问elasticsearch服务器

(1)访问elasticsearch服务器采集到kibana日志

ELK日志分析系统_服务器_55

(2)查看elasticsearch服务器的日志

ELK日志分析系统_elasticsearch_56

标签:ELK,系统,kibana,elasticsearch,192.168,apache,path,日志
From: https://blog.51cto.com/u_15830844/6207239

相关文章

  • 挖/填坑日志
    我是挖坑大师!写一点做了但是没有完全做完的事情:小说(框架搭建了一堆,but实际本上只有三个案子,网文甚至没更到那个阶段())第二本小说啊对对对其实曾经干过一个时间干两本小说的,但是一本在无名作文本上丢了,还好没有更很多()Witness_C++模拟器可以来这个地方看进度,有进展会更新Natu......
  • JavaSE库存管理系统项目实战
    需求分析企业库房用于存放成品、半成品、原材料、工具等物资,一般情况下,这些物资统称为物料。库存管理常见业务包括物资的入库、出库、盘点、退货、报废以及财务核算等,业务逻辑比较复杂,库房信息系统项目开发周期一般要1~3个月。本实践项目基于企业实际库存业务进行简化,实现一个简单......
  • java - 调window系统指令的三种方式
    方法1try{Processprocess=Runtime.getRuntime().exec(command);intresultCode=process.waitFor();System.out.println(resultCode);}catch(Exceptione){e.printStackTrace();m......
  • 简单的python3脚本:从日志中提取信息
    命名:log_extractor.pyordownload_stats_extractor.py#coding:utf-8#!/usr/bin/python3deffilter_line(line,contains,contains_not):ifall(cinlineforcincontains)andnotany(ninlinefornincontains_not):ifint(line.split()[8])==2......
  • AOP实现日志打印
    packagecom.youmu.framework.love.interfaces;importjava.lang.annotation.*;/***@Author:guodong*@CreateTime:2023-04-1916:38*@Description:自定义注解日志类*@Version:1.0*/@Documented@Target(ElementType.METHOD)//注解的作用类型为方法@Rete......
  • 用一行代码-重装系统cmdpe.com
    告诉你们一条命令就可以重装最新微软官方系统、包括最新Windows11哦!任何电脑都可以用。这绝壁是史上最简单的重装系统、超实用。主要特点:只需一行命令,不需要其他任何东西。自动从微软官方服务器下载系统文件,绝对纯净。下载速度快,支持断点续传,支持多线程,基本上几分钟就能......
  • TFA-收集日志及分析
    下载https://support.oracle.com/epmos/faces/DocumentDisplay?_afrLoop=272133523880062&id=1513912.1&_afrWindowMode=0&_adf.ctrl-state=fghvcgapa_617a安装[root@rhel75~]#./ahf_setupAHFInstallerforPlatformLinuxArchitecturex86_64AHFIns......
  • Linux系统下判断硬盘是hdd还是ssd
    查看centos系统中/sys/block/sd*/queue/rotational这个文件里存的数据是判断该盘是否为ssd最基本的方法,0代表ssd,1代表hdd。HDD直通盘查询结果为1,结果正常。单盘SSD查询结果为0,结果正常。......
  • windows系统下,关于docker的问题总结
    1、Docker启动时的问题在启动中遇到弹出信息框,一些乱码和引发异常的上一位置中堆栈跟踪的末尾,只需要管理员身份运行CMD/PS,输入:netshwinsockreset,重启电脑,再次运行docker就可以了。2、遇到下面报错AnunexpectederroroccurredFailedtodeploydistrodocker-desktoptoC......
  • linux系统记录用户操作命令
    #审计用户'''shellmkdir-m777-p/tmp/log2>&-declare-rHISTTIMEFORMAT='%F%T###'declare-rHISTCONTROL=''RSSHTTY=$(whoami|awk'{print$2}')if["$SSH_CONNECTION"];then  RSSH_CLIENTI......