首页 > 其他分享 >elk5.2升级到7.17的问题

elk5.2升级到7.17的问题

时间:2023-09-29 23:45:57浏览次数:33  
标签:index 5.2 7.17 5.6 索引 kibana 升级 elk5.2 es

elk5.2升级到7.17   记个流水账,从能用到原nginx日志格式能写入到logstash折腾了好几天。   官方有个升级路线的(大家要克服下读英文的恐惧),对于我这个5.2的版本(单机版,网上很多都是集群版),升级路线是这样的:

5.2.x ——》 5.6 ——》 6.8 ——》 7.17.12

  5.2.x ——》 5.6,直接下载5.6版本的elasticsearch(后面简说成es)、kibana、logstash,然后修改es的data目录指向原5.2的版本就能正常启动。

  直到遇到5.6升级到6,6升级到7,开始就比较麻烦了(尤其到7,要解决各个索引重建的问题,因为新版本的索引跟5版本是不兼容的!)

  先说下一个非常非常重要的点:升级失败会污染数据,导致不可用,而且还不可逆!什么意思?es配置文件:elasticsearch.yml 有个配置参数 path.data,上面说过,5.2到5.6的升级,5.6版本的es参数path.data直接指向5.2的就能用。但如果好巧不巧,例如后面想走捷径从5.6直接升到7(实际操作就是rpm 安装es、kibana、logstash的包),path.data改成5.6版本的(实际就是5.2的数据目录)启动的时候发现es再也无法启动了,你想用回5.6甚至是5.2的elk去启动也起不来。因为这个path.data 被新版本的es污染了,导致无法回退!!!

  所以其实最正确的方法是,我们从最原始的5.2的path.data (假设叫A path.data)复制一份一摸一样的,假设叫B path.data,升级时,es是指向B的,而不是原来的A。

问题一:5.6升级到6.8.23

  最大的问题是6版本的kibana起不来,说kibana索引需要重建,令人欣慰的是,不是数据索引要重建(我的测试环境有十几个)。虽然6版本的kibana起不来,但是6版本的es是能起来的,如果想看kibana控制台的,可以用回 5.6 的kibana启动。

kibana 6 起不来报错图:

解决:处理kibana索引问题 我是直接在kibana的dev tool运行的 1、设置只读:
PUT .kibana/_settings 
{"index.blocks.write":true}

2、创建 .kibana-6索引(参考链接直接复制吧,太长了)

3、重新索引.kibana 为 .kibana-6(linux命令行执行的)

curl -X POST "localhost:9500/_reindex?pretty" -H 'Content-Type: application/json' -d'
{
  "source": {
    "index": ".kibana"
  },
  "dest": {
    "index": ".kibana-6"
  },
  "script": {
    "inline": "ctx._source = [ ctx._type : ctx._source ]; ctx._source.type = ctx._type; ctx._id = ctx._type + \":\" + ctx._id; ctx._type = \"doc\"; ",
    "lang": "painless"
  }
}
'
4、旧索引的别名.kibana-6和.kibana删除旧.kibana索引:
curl -X POST "localhost:9500/_aliases?pretty" -H 'Content-Type: application/json' -d'
{
  "actions" : [
    { "add":  { "index": ".kibana-6", "alias": ".kibana" } },
    { "remove_index": { "index": ".kibana" } }
  ]
}
  参考:https://www.elastic.co/guide/en/kibana/6.8/migrating-6.0-index.html

(1)未处理前叫:.kibana

 (2)处理后叫:.kibana-6

 

问题二:6.8.23升级到7.17.12

  官方及网上很多都叫用kibana自带的7.0升级助手来实现,长这样:

   有些索引可以自动处理(处理后,会新建一个一摸一样前缀为 reindex_ 的索引),但有些(譬如我设置了nginx日志格式,在5.2的版本通过filebeat写入的)说无法重建,只能手动处理(又是考英文的时候)

 

   手动处理这些无法自动重建的索引时,记得先做好es的快照(具体可以百度)

   赶着睡觉,直接贴步骤

1、未设置前: GET 索引A/_settings  返回: "refresh_interval" : "5s", "number_of_replicas" : "1",  

2、设置(大抵有点像数据库的锁表):
PUT /索引A/_settings
{
  "index": {
    "refresh_interval": "-1",
    "number_of_replicas": "0"
  }
}

POST _reindex?wait_for_completion=false

{

"source": {

"index": "索引A"

},

"dest": {

"index": "new-索引A"

}

}

3、恢复及创建索引访问别名

PUT /new-索引A/_settings
{
   "index": {
    "refresh_interval": "5s",
    "number_of_replicas": "1"
  }
 
}

POST /_aliases
{
  "actions" : [
    { 
    "add" : { 
    "index" : "new-索引A", 
    "alias" : "索引A_latest" 
    } 
    },
     { 
    "remove" : { 
    "index" : "索引A", 
    "alias" : "索引A_latest" 
    } 
    }
  ]
}


删除旧索引
DELETE /索引A

 然后我们访问既可以是 new-索引A 也可以是  索引A _latest

参考:

https://zhuanlan.zhihu.com/p/548858458

https://blog.csdn.net/qq_22049773/article/details/103243852

  最后,我是建议大家非不得已,能用6.8就用6.8吧,7的kibana上有很多新功能,也涉及很多权限报错问题,要逐一解决,例如下面这个,而且用起来非常不习惯。

 

 

标签:index,5.2,7.17,5.6,索引,kibana,升级,elk5.2,es
From: https://www.cnblogs.com/windysai/p/17737514.html

相关文章

  • gitlab升级后Runner 500报错
    gitlab升级后500报错今天是月饼节哦。长假最适合梳理下这段时间的工作经验。上个月说到gitlab升级到16.2.3,其实升级后没几天遇到一个比较棘手的问题:超级管理员登录进去,修改什么配置保存后都会报错500,不仅如此,还发现项目无法移动命名空间(可以理解为a用户的项目移到b用户......
  • hp 7010dt 主机升级独立显卡,外接2K/4k显示器。
    HTPC主机,你现在的cpu是i5的还是i7的,您的电源实际功率应该是275W,按照转化率倒推,额定功率差不多是350W。显卡推荐:技嘉GTX1050Ti4G半高(刀卡);技嘉GTX1650IXOC4G半高(刀卡),这两款卡都是1150元,GTX10502G刀卡也得900左右,还有盈通RX5504G500元(性能略高于GTX750)这款机器有i53570和......
  • 强劲升级,好玩到爆,太极2.x你值得拥有!
    今天给大家分享一款好用好玩的软件。如果你的日常工作娱乐,常常用到不同类型的软件,每个都要安装一边又占内存,那么强烈推荐你使用聚合类工具箱,软件体积不大,但功能多样,日用非常方便。最近,该软件进行了全新升级,功能更强更稳定,轻度用户使用基本功能就已经足够了,壕无人性的同学则可以考虑......
  • postman升级后文件丢失/登录后无文件解决
     找到C盘用户admin账号下AppData文件夹,按照下面路径找到如下如所示的文件C:\Users\Admin\AppData\Roaming\Postman 找到最新的一次记录 将这个最新的json文件导入到postman中即可。 ......
  • 强劲升级,太极2.x你值得拥有!
    今天给大家分享一款好用好玩的软件。如果你的日常工作娱乐,常常用到不同类型的软件,每个都要安装一边又占内存,那么强烈推荐你使用聚合类工具箱,软件体积不大,但功能多样,日用非常方便。最近,该软件进行了全新升级,功能更强更稳定,轻度用户使用基本功能就已经足够了,壕无人性的同学则可以考虑......
  • 即构「畅直播」,全链路升级的一站式直播服务
    增长放缓,买量成本上升。直播行业的野蛮生长已然是过去时。数据显示:国内直播市场耕耘已久,人口红利基本吃透,观看直播的用户群体总数的增长速率逐步放缓,疫情带来的短暂上升随着国内可靠的防疫举措施行也渐渐回落。纯获客拓新已经转化为平台之间的用户争夺。编辑编辑另一方面,随着云商开......
  • 华秋DFM新功能丨可焊性检查再次升级,抢先体验!
    写在前面:感谢后台各位伙伴们的关注和支持,在大家的期盼下,华秋DFM终于再次迎来了新功能更新!往期迭代的版本,无一不帮助大家提前规避了很多关于生产和设计的隐患问题,所以此次也秉承着为大家节省更多时间和资源的原则,希望带给大家更好的体验和服务。 V3.8新版本解读●PCBA组装分......
  • linux系统升级ssh
    升级ssh7.7,linux安全问题安装包1.上传压缩包到指定的目录/home1.1或者rz-y上传2.进入home目录cd/home#有的系统缺少,安装gcc插件yuminstallgcc-y#解压unzipopenssh_update_ssh.zipcdopenssh#指定安装脚本./update_ssh.sh......
  • k8s 版本升级1.18.0>>>1.18.20
    1.1升级步骤注意kubectl命令主节点执行,yum命令需要升级的服务器执行;查看当前系统支持的所有k8s版本和当前版本yumlist--showduplicateskubeadm--disableexcludes=kubernetes2.1.1升级控制节点1、查看当前版本和升级计划(即可以从目前版本升级到哪个版本)kubectlversion#匹配......
  • 如何使用C#制作软件的升级程序?
    长期以来,广大程序员为到底是使用Client/Server,还是使用Browser/Server结构争论不休,在这些争论当中,C/S结构的程序可维护性差,布置困难,升级不方便,维护成本高就是一个相当重要的因素。有很多企业用户就是因为这个原因而放弃使用C/S。然而当一个应用必须要使用C/S结构才能很好的实现其......