• 2024-07-02【hash】hash算法、hash函数、哈希表、布隆过滤器、一致性哈希
    哈希函数的基本性质函数定义域是无穷的,值域相对有限(但也很大,比如2的64次方)输入同样样本一定得到同样的输出输入不同样本可能得到相同输出,此时叫哈希碰撞输入大量不同的样本,得到大量输出值,会几乎均匀的分布在整个输出域上布隆过滤器通过几个不同哈希函数计算哈希值,对位
  • 2024-07-01mysql 主从一致性检测与修复
    percona-toolkit下载需要安装的依赖包[centos7]yum-yinstallperl-Digest-MD5perl-DBIperl-DBD-MySQL--nogpgcheck--disablerepomysql80-community--enablerepomysql57-community原理将一张大表分成多个chunk,每次针对一个chunk进行校验,同时将校验的结果通过REPL
  • 2024-06-22大数据处理的坚实基石:Scala不可变数据结构的作用
    在大数据处理领域,数据的一致性、可靠性和性能至关重要。Scala语言提供的不可变数据结构在保证数据处理的稳定性和高效性方面发挥着重要作用。本文将详细探讨Scala中不可变数据结构的概念、优势以及它们在大数据处理中的应用。不可变数据结构的概念在Scala中,不可变数据结构
  • 2024-06-22Memcached分布式特性解析:高效缓存策略的关键
    在现代的互联网应用中,缓存是提高性能和扩展性的关键技术之一。Memcached作为一个高性能的分布式内存缓存系统,广泛用于减轻数据库负载、加快数据访问速度。本文将深入探讨Memcached的分布式特性,包括其工作原理、集群管理、数据一致性、故障恢复以及与其他分布式系统的集成等
  • 2024-06-20凤凰架构记02-事务
    事务的基本特性A原子性:一系列操作为一个原子,都成功或都撤销I隔离性:不同操作之间读写数据相互独立,不会彼此影响D持久性:成功提交的数据都会被持久化,不会丢失C一致性:一致性为最终目的,所有事物处理最终的数据状态保持一致 内部一致性:单数据源有确定并发事务的读写顺序外部一致
  • 2024-06-19分布式
    分布式1、什么是SOA?SOA(Service-OrientedArchitecture,面向服务的架构)是一种软件架构风格,它将应用程序的不同功能模块(服务)通过服务接口的方式相互连接,形成一个松散耦合的系统。在SOA中,服务是可以独立开发、部署和升级的,它们通过标准化的协议进行通信,实现了系统的模块化和复用。
  • 2024-06-18Flink - [08] 状态一致性
    题记部分 一、什么是状态一致性  有状态的流处理,内部每个算子任务都可以有自己的状态。对于流处理器内部来说,所谓的状态一致性,其实就是我们所说的计算结果要保证准确、一条数据也不应该丢失,也不应该重复计算,在遇到故障时可以恢复状态,恢复以后的重新计算,结果应该也是完全正
  • 2024-06-17Flink - [07] 容错机制
    题记部分 一、一致性检查点  Flink故障恢复机制的核心,就是应用状态的一致性检查点。有状态流应用的一致性检查点,其实就是所有任务的状态,在某个时间点的一份拷贝(一份快照);这个时间点,应该是所有任务都恰好处理完一个相同的输入数据的时候。 二、从检查点恢复状态  在
  • 2024-06-16确保业务一致性:幂等性设计在分布式系统中的实现策略
    一、什么是幂等性?幂等性(Idempotence)是计算机科学和数学中的一个概念,指的是一个操作或者函数,无论执行多少次,其效果和执行一次都是相同的。换句话说,重复执行这个操作不会对系统状态产生额外的影响。在不同的领域,幂等性有不同的应用和表现:在编程中幂等性通常用于描述方法或
  • 2024-06-1604人月神话阅读笔记
    贵族专制、民主政治和系统设计(Aristocracy,Democracy, andSystem Design)本章节探讨了贵族专制和民主政治在系统设计中的比喻,特别是如何确保系统设计的概念完整性。作者使用大教堂的建筑与计算机系统设计之间的对比来阐述这一点。大教堂的一致性与系统设计的类比:文章首先比
  • 2024-06-16springboot事务管理的机制是什么
    SpringBoot的事务管理机制实质上是基于Spring框架的事务处理机制。其主要目的是确保一系列数据库操作要么全部成功,要么全部失败(回滚),从而维护数据的完整性和一致性。SpringBoot事务管理遵循ACID四大特性:1、原子性(Atomicity)事务是一个原子操作单元,其对数据的修改要么全都执
  • 2024-06-15springboot的多线程事务能否保证事务的一致性
    在SpringBoot中,多线程事务的一致性取决于事务管理的配置和实现。SpringFramework本身提供了多种事务管理的方式,如基于注解的声明式事务、编程式事务等。在多线程环境下,要保证事务的一致性需要特别注意以下几点:事务传播属性(TransactionPropagation):在进行多线程事务处理时,需
  • 2024-06-14【数据质量人人有责】数据质量是什么?
    引言:数据是当代企业的核心资源之一,对于支持业务决策、优化运营和增强竞争力至关重要。然而,仅仅拥有数据并不意味着能够充分发挥其潜在价值。只有先确保数据质量,才能保证后续数据分析和挖掘的正确的结果对管理和业务有价值,才能发挥数据的价值;从这个角度来说,数据质量是数据机制
  • 2024-06-13实时数据的处理一致性如何保证?
    实时数据一致性的定义以及面临的挑战数据一致性通常指的是数据在整个系统或多个系统中保持准确、可靠和同步的状态。在实时数据处理中,一致性包括但不限于数据的准确性、完整性、时效性和顺序性。下图是典型的实时/流式数据处理的流程:流式数据以各种方式推送到kafka中flink
  • 2024-06-13MySql事务
    事务的定义事务(Transaction)是一个逻辑上完整的操作序列,它包含了一组数据库操作命令。这些操作要么全部执行成功,要么全部不执行,以此来维护数据库的一致性和完整性。事务的主要目的是确保数据的准确性,即使在出现错误或系统故障时也是如此。事务的应用场景金融交易:银行转账是最
  • 2024-06-12脏读:数据一致性问题及解决方案
    目录前言一、脏读的定义二、脏读的原因三、解决脏读的方案四、Demo讲解前言        在多线程或分布式系统中,当多个线程或进程同时访问和修改共享资源时,可能会出现数据不一致的情况。其中一个经典的问题就是脏读。本文将详细介绍脏读的概念、原因和解决方案,帮
  • 2024-06-10论述MySQL的同异步复制
    MySQL的复制功能是数据库系统中一个重要的特性,它可以实现数据的冗余备份和分布式读写,提高系统的可靠性和性能。MySQL的复制主要分为异步复制、半同步复制和同步复制,这三种复制方式在机制和使用场景上有显著的不同。异步复制特点主从模式:在异步复制中,主库(Master)将数据的变更
  • 2024-06-07整理好了!2024年最常见 20 道分布式、微服务面试题(一)
    一、什么是分布式系统?分布式系统是由多个独立的计算机(通常称为节点)组成的系统,这些计算机通过网络连接在一起,协同工作以完成一个共同的任务或服务。以下是分布式系统的关键特点和概念:网络依赖性:分布式系统中的计算机节点通过网络进行通信。网络是分布式系统的基本组成部分。
  • 2024-06-03深度剖析:淘宝扭蛋机小程序后台管理中的数据一致性问题
    深度剖析:淘宝扭蛋机小程序后台管理中的数据一致性问题与解决之道在淘宝扭蛋机小程序的运营过程中,后台管理系统的数据一致性问题是一个不容忽视的挑战。本文将深度剖析这一问题,并提出相应的解决之道。一、数据一致性问题的影响数据一致性问题是指在不同系统、设备或时间点上,
  • 2024-06-02TLB一致性维护
    TLB是页表项的物理cache,用于加速虚拟地址到物理地址的转换。CPU在访问一个虚拟地址时,首先会在TLB中查找,如果找不到对应的表项,那么就称之为TLBmiss,此时就需要去内存里查询页表,如果页表项是合法的,那么就会把它添加到TLB中。如果内核修改了页表,那么就需要主动的去清空一下当
  • 2024-05-31redis 缓存一致性
    问题在使用缓存中一般都是先看看缓存是否有数据,没有查db,再回填到缓存。然后更新时候一般是更新db,更新完了再删除或者回填缓存。然而因为缓存与数据库是两个独立的系统,很难去保证原子性,所以就产生了一致性的问题。 比如说:一个查询请求查到了数据库数据,然后准备更新到缓存
  • 2024-05-30MySQL 与 Redis 缓存一致性的实现与挑战
    缓存是提高应用性能的重要手段之一,而MySQL和Redis是两种常用的数据存储和缓存技术。在许多应用中,常常将Redis用作缓存层,以加速对数据的访问。然而,在使用MySQL和Redis组合时,保持缓存与数据库之间的一致性是一个不得不考虑的问题。一、缓存一致性的挑战MySQL和Re
  • 2024-05-28《基于物理一致性的全息成像自监督学习》精读笔记
    基于物理一致性的全息成像自监督学习原文链接:https://www.nature.com/articles/s42256-023-00704-7三句话评价为计算成像与显微学中的逆问题的求解提供了新的方法;根据物理一致性(也即物理规律)构造自监督损失函数,实现模型的训练;在构造合理的情况下,所述方法可以实现基于超声波
  • 2024-05-28分布式系统中的智能缓存:有界一致性哈希算法详解
    普通hash算法​在分布式系统中,普通哈希算法通常用于确定数据存储在哪个节点上。例如,如果我们有3个节点,我们可以通过计算hash(key)%3来确定一个给定的key应该存储在哪个节点上。然而,这种方法存在一个显著的问题:当节点数量发生变化(增加或减少)时,会导致大量的缓存数据失效
  • 2024-05-21架构与思维:4大主流分布式算法介绍(图文并茂、算法拆解)
    0导读之前的文章中,我们介绍过分布式事务的基础知识,也了解了分布式场景下常见一致性问题和解决方案,对分布式锁和CAS模式有一定的了解,有兴趣的同学可以通过下面链接到作者的两篇相关文章。五种分布式事务解决方案(图文总结)高并发下的数据一致性保障(图文全面总结)1介绍本文聚