首页 > 其他分享 >ELK日志处理部署笔记

ELK日志处理部署笔记

时间:2024-03-14 15:46:34浏览次数:23  
标签:ELK 9200 0.1 笔记 nginx 日志 tedu 节点 es

ELK概念简介

ELK建立在三个服务上即
Elasticsearch :: 日志检索和储存
Logstash :: 日志收集分析处理
Kibana :: 日志可视化

Elasticsearch集群模式

Elasticsearch采用了经典的raft模式,推荐将一部分专门配置为候选主节点(master-eligible nodes),而另一部分节点则仅作为数据节点(data nodes)。这样可以避免存储大量索引数据的节点同时承担集群管理任务,减轻单个节点的压力,提高整个集群的稳定性。
主节点(Master Node)是通过选举产生的,其主要作用是负责集群级别的元数据管理和变更操作,监控等作用,它是集群架构中的协调中心,负责控制集群的状态和结构变化,但并不直接处理搜索请求或存储数据。

Elasticsearch端口

9200/tcp -> 数据输出
9300/tcp -> 集群通信

配置方式

Redhat系列Linux中,配置文件通常位于/etc/elasticsearch/elasticsearch.yml

#集群名称
17:  cluster.name: my-es
#本节点名称,需要是唯一的
23:  node.name: es-0001
#允许来自任何IP地址的连接。这意味着该节点准备接受集群内其他节点以及客户端的连接请求。
56:  network.host: 0.0.0.0
#广播节点,新节点启动时将其加入到集群中,至少两台,防止单点故障
70:  discovery.seed_hosts: ["es-0001", "es-0002", "es-0003"]
#候选节点,至少三台,从其中选取管理的主节点
74:  cluster.initial_master_nodes: ["es-0001", "es-0002", "es-0003"]

HEAD插件

head插件是将elasticsearch管理可视化的工具,收集9200端口信息,将其转发到网页端

# 在某个节点比如es-0001上安装 web 服务,并部署插件
dnf install -y nginx

#将插件解压到网页目录,通过 ELB 的 8080 端口,发布服务到互联网
tar -zxf head.tar.gz -C /usr/share/nginx/html/

systemctl enable --now nginx

此时访问IP:8080/es-head是互动管理页面,但是没有本机数据
IP:8080/es是原始json页面,有本机数据
还需要nginx做转发

创建/etc/nginx/default.d/esproxy.conf文件,设置转发并设置管理页面需要密码登录

location ~* ^/es/(.*)$ {
    proxy_pass http://127.0.0.1:9200/$1;
    auth_basic "Elasticsearch admin"
    auth_basic_user_file /etc/nginx/auth-user; 
}

用户名密码设置工具,重新启动nginx服务

dnf install -y httpd-tools

htpasswd -cm /etc/nginx/auth-user admin #互动设定密码

systemctl reload nginx

此时可以通过IP:8080/es-head管理

API管理

#创建分片副本
curl -XPUT -H 'Content-Type: application/json' \
    http://127.0.0.1:9200/_template/index_defaults -d '{
{
  "index_patterns": ["*"],   # 这个模板将应用于所有新创建的索引
  "settings": {
    "number_of_shards": 5,    # 默认每个索引有5个主分片
    "number_of_replicas": 1   # 每个主分片默认有一个副本分片
  }
}'
{"acknowledged":true}

# 创建 tedu 索引
curl -XPUT http://127.0.0.1:9200/tedu?pretty
{
  "acknowledged" : true,
  "shards_acknowledged" : true,
  "index" : "tedu"
}

#增加数据
curl -XPUT -H "Content-Type: application/json" \
    http://127.0.0.1:9200/tedu/teacher/1?pretty -d '{
        "职业": "诗人","名字": "李白","称号": "诗仙","年代": "唐"
    }' 

#查询数据
curl -XGET http://127.0.0.1:9200/tedu/teacher/_search?pretty
curl -XGET http://127.0.0.1:9200/tedu/teacher/1?pretty

#修改数据
curl -XPOST -H "Content-Type: application/json" \
    http://127.0.0.1:9200/tedu/teacher/1/_update -d '{ 
      "doc": {"年代":"公元701"}
    }'

#删除一条
curl -XDELETE http://127.0.0.1:9200/tedu/teacher/1

#删除索引
curl -XDELETE http://127.0.0.1:9200/tedu

标签:ELK,9200,0.1,笔记,nginx,日志,tedu,节点,es
From: https://www.cnblogs.com/ling-2945/p/18073011

相关文章

  • 滴水逆向笔记系列-c语言总结6-20.多级指针 数组指针 函数指针-21.位运算-22.内存分配
    第二十课c语言13多级指针数组指针函数指针1.多级指针反汇编一二级指针可以看到p1==*(p1+0)==p1[0]本来一直没想懂为什么是movsxecx,byteptr[eax],是byte,才发现p1是char类型,所以才得用movsx拓展(p1+2)==p1[2],指针可以用和[]取值,他们是一样的(((p3+1)+2)+3)==p3[......
  • JS 队列(数据结构)- 笔记
    【队列】代码:/***链表队列*/classLinkedListQueue{/**@type{ListNode}*/#head;/**@type{ListNode}*/#tail;/**@type{number}*/#size;constructor(){this.#head=null;this.#tail=null;this......
  • 滴水逆向笔记系列-c语言总结4-15.switch语句反汇编-16.指针1-17.指针2
    第十五课c语言8switch语句初步测试感觉switch在反汇编的语句和if语句的唯一差别就是jcc语句比较集中当分支大于四条时,switch的反汇编开始变3为switch传入的值,1是case最小值,4是case最大值减1,算出偏移量后通过偏移量4加上基址就可以在大表中获取要输出的case语句的地址当现在case......
  • 滴水逆向笔记系列-c语言总结5-
    第十八课c语言11字符串与数组这一节课b站缺失了,参考一下大佬的笔记学习,链接:https://blog.csdn.net/Edimade/article/details/124446533?spm=1001.2014.3001.55021.字符数组:::infochararr[10]={'A','B','C','D','E','F'};//编译器默认在结尾添加......
  • 学习笔记-华为IPD转型2020:3,IPD的实施
    3.IPD的实施 1999年开始的IPD转型是计划中的多个转型项目中的第一个(Liu,2015)。华为为此次转型成立了一个专门的团队,从大约20人开始,他们是华为第一产业的高层领导。董事会主席孙雅芳是这个团队的负责人。该团队拥有充足的资源,最多包括70名来自IBM的顾问。这个联合团队......
  • Java复习第二天学习笔记,附有道云笔记链接
    【有道云笔记】二3.13https://note.youdao.com/s/RWOQv0g一、运算符1.基本运算符+-*/@Testpublicvoidtest2(){System.out.println("运算符.test2");//双目运算符intnum1=3,num2=5;intresult=num1+num2;System.out.println(result);System.out.prin......
  • 滴水逆向笔记系列-c语言总结2-10.变量-11.if逆向-12.正向基础
    第十课c语言31.编码ASCII标准的ASCII编码只需要七位,第八位在拓展ASCII编码使用GB23122.局部变量和全局变量下面代码输出结果为1111(x=11改变了全局的x)第十一课c语言41.内存图2.逆向参数个数3.简单逆向if代码4.if...else...反汇编判断跳转执行一部分代......
  • 滴水逆向笔记系列-7.堆栈图-8.c语言反汇编-9.数据类型
    第七课堆栈图1.函数函数的入口汇编中的函数函数有入口出口,但不一定有返回值和参数2、堆栈windows堆栈:什么是堆栈平衡:第八课c语言分析这段代码的反编译有时候跟反汇编不一定要进函数看,有时候从上下文就能大概猜出函数的作用第九课c语言21、什么是裸函数可以看到......
  • 深度学习入门(鱼书)笔记(持续更新)
    深度学习入门笔记python基础知识numpy库importnumpyasnpnumpy数组(numpy.ndarray):np.array(list)np数组算术运算需元素个数相同,否则报错。np数组间的算术运算为element-wise,即对应元素的运算。np数组与单一数值(标量)的运算为广播,即标量自动补全与数组各元素计算。......
  • MogDB openGauss wal日志解析工具 mog_xlogdump
    MogDB/openGausswal日志解析工具mog_xlogdump本文出处:https://www.modb.pro/db/398124概述mog_xlogdump是云和恩墨独立开发的wal日志离线解析工具。熟悉PG的小伙伴应该都使用pg_xlogdump/pg_waldump查看过PG数据库的wal文件,解析的wal数据结果是没有办法直接拿......