首页 > 其他分享 >基于binlog的全量缓存架构

基于binlog的全量缓存架构

时间:2023-08-07 13:12:10浏览次数:43  
标签:binlog 基于 缓存 架构 全量 热点

binLog的原理

基于binlog的全量缓存架构

优势

  • 降低延迟 保证了毫秒级别
  • 解决了分布式事务 基于ACK机制
  • 提升代码的简洁性

缺点

  • 系统复杂性
  • 缓存的数据变多

技术优化

  • 进行数据筛选
  • 进行压缩

节约缓存大小

  • 使用JOSN的字段替代
  • 使用redis的hash结构 的字段代替

Mysql的binlog记录格式

  • statement
    将所有修改的sql记录 并且重放
  • row 推荐row
    记录每一行数据的变化 数据量较大
  • mixed
    动态变化格式

binlog的消费逻辑

  • 对于不同的表使用不同的topic实现 细节上的串行
  • 对于binlog使用多个topic消费实现了binglog的消费的并行化

Redis 缓存结构设计

热点查询 高可用 资源浪费

微博热点 秒杀系统

  • 问题
    • 造成从节点的浪费 热点问题一般是在某一个分片
    • 无法预先知道热点的分片位置

热点数据前置缓存(存放在应用中)

标签:binlog,基于,缓存,架构,全量,热点
From: https://www.cnblogs.com/AIxuexiH/p/17611165.html

相关文章

  • DockerFile 构建缓存 Buildkit
    缓存Dockerfile构建缓存功能从Docker17.05版本开始引入可以加速构建直接服用缓存构建我们看到fromcache就是来自缓存缓存是一个命令为单位如果想服用缓存需要考虑查看缓存大小清除缓存dockervolumeprune--all--forcedockerimageprune--all--force......
  • 解决缓存与数据库的数据一致性问题的终极指南
    摘要:缓存是提高应用性能的有效手段,然而,缓存与数据库之间的数据一致性问题常常困扰着开发者。本文将探讨缓存与数据库的数据一致性问题的原因,以及如何通过不同的解决方案来确保数据的一致性,从而构建稳健高效的缓存系统。1.缓存与数据库的数据一致性问题缓存是将热门数据存储在高速......
  • Java实现本地缓存的几种方式
    一、概况引入缓存,主要用于实现系统的高性能,高并发。将数据库查询出来的数据放入缓存服务中,因为缓存是存储在内存中的,内存的读写性能远超磁盘的读写性能,所以访问的速度非常快。但是电脑重启后,内存中的数据会全部清除,而磁盘中的数据虽然读写性能很差,但是数据不会丢失。目的主要为了重......
  • windows应用程序icon缓存、查看图标、icon制作方法
    windows程序图标缓存在vs中替换c++程序的图标后,需要重新编译,但是很多情况下都不会刷新,还是看到老的图标,只能重启电脑才能看到新的图标。通过ChatGPT得到相关的回答如下:如果在Windows上更换了可执行文件(.exe)的图标,但是在图标文件已经更改的情况下仍然显示旧的图标,可能是因......
  • ceph高速缓存池
    一.缓存池运维1.1自定义硬盘类型cephosdcrushclasslscephosdcrushclasscreatessdcephosdcrushclasscreatesatacephosdcrushrm-device-classosd.3cephosdcrushset-device-classssdosd.31.2自定义角色管理不同类型硬盘cephosdcrushrulel......
  • 使用缓存优化网站性能:缓解数据库压力,提高访问速度
    使用缓存是一种有效的优化网站性能的方式,特别是对于那些访问集中在少部分数据上的场景,可以显著减轻数据库的压力,提高网站的响应速度和性能。缓存的主要原理是将常用的数据存储在内存中,以避免频繁地从数据库读取数据。由于内存的读写速度远远快于磁盘,通过缓存可以大幅提高数据访问......
  • redis 如何解决缓存雪崩、击穿、穿透难题
    引言redis作为一门热门的缓存技术,引入了缓存层,就会有缓存异常的三个问题,分别是缓存击穿、缓存穿透、缓存雪崩。我们用本篇文章来讲解下如何解决!缓存击穿缓存击穿:指的是缓存中的某个热点数据过期了,但是此时大量的并发请求访问这个key的值,此时因为缓存过期无法从缓存中获取,直......
  • 前端学习笔记202306学习笔记第四十七天-协商缓存2
      ......
  • 前端学习笔记202306学习笔记第四十七天-vue-强制缓存1
        ......
  • 解决Redis缓存雪崩问题的有效方法
    Redis缓存雪崩是指在某个时间点,缓存中大量的数据同时过期失效,导致大量请求直接访问后端数据库,造成数据库压力激增,甚至导致系统崩溃。本文将介绍几种有效的方法,帮助您解决Redis缓存雪崩问题,提高系统的稳定性和可靠性。合理设置缓存的过期时间:缓存的过期时间是导致缓存雪崩的主要原......