首页 > 其他分享 >并发处理的利器:深入探讨锁分离设计+6大分离场景(高并发篇)

并发处理的利器:深入探讨锁分离设计+6大分离场景(高并发篇)

时间:2024-09-24 20:02:36浏览次数:1  
标签:配置 读取 分离 深入探讨 并发 线程 操作 连接

image

锁分离设计的本质在于将对共享资源的访问操作根据其类型或性质区分开来,并为每种操作提供独立的锁。这种设计背景通常源于对高并发系统的需求,其中多个线程或进程需要频繁地对共享资源进行读写或其他操作。在传统的锁机制中,所有操作都可能使用同一把锁,这在高并发环境下会导致严重的性能瓶颈,因为锁成为了限制并行处理的瓶颈。

为了解决这个问题,锁分离技术应运而生。它通过为不同类型的操作设计不同的锁,使得这些操作可以并行进行,减少了线程间的相互等待和上下文切换,从而显著提高了系统的吞吐量和响应速度。例如,在数据库连接池中,连接的获取和释放是两种不同的操作,它们可以由不同的锁来控制,这样获取连接的操作就不会阻塞释放连接的操作,反之亦然。

锁分离的设计背景还包括对系统性能的极致追求,特别是在面对大量用户请求和数据交换的互联网应用中。此外,随着多核处理器的普及,锁分离也有助于更好地利用多核并行处理能力,实现真正的并行操作。通过精心设计的锁分离策略,开发者可以在保证数据一致性和完整性的同时,优化系统性能,满足现代应用对高并发处理能力的需求。

肖哥弹架构 跟大家“弹弹”  高并发锁,  关注公号回复 'mvcc' 获得手写数据库事务代码

欢迎 点赞,关注,评论。

关注公号Solomon肖哥弹架构获取更多精彩内容

历史热点文章

1、锁分离设计

image.png

图说明:

  • 系统 (System) :表示整个应用程序或服务。
  • 锁1 (Lock1) :用于控制对系统资源进行操作A的锁。
  • 锁2 (Lock2) :用于控制对系统资源进行操作B的锁。
  • 操作A (OperationA) :系统资源上执行的操作A。
  • 操作B (OperationB) :系统资源上执行的操作B。
  • 线程1、2、3 (Thread1, Thread2, Thread3) :表示系统中并发执行的多个线程,它们可能需要对系统资源执行不同的操作。

1.1.锁分离设计机制

1.1.1 通用设计原则

  1. 资源隔离:识别系统中需要并发访问的共享资源。
  2. 锁的粒度:根据资源的使用模式,确定锁的粒度(粗粒度或细粒度)。
  3. 锁分离:为不同的操作定义不同的锁,以减少锁竞争。
  4. 性能优化:评估并优化锁的性能影响,确保不会引入过多的开销。
  5. 死锁预防:设计锁的获取和释放顺序,避免死锁。
  6. 可扩展性:确保设计可以适应资源数量和并发级别的变化。

1.1.2 通用设计步骤

  1. 需求分析:分析系统的需求,确定需要并发访问的资源。
  2. 资源建模:对资源进行建模,定义资源的状态和操作。
  3. 锁策略设计:设计锁策略,包括锁的类型、粒度和操作。
  4. 实现锁机制:根据设计实现锁机制,包括锁的获取、释放和升级。
  5. 测试和调优:测试锁机制的有效性,并根据性能数据进行调优。

2、分离锁管理

image.png

图表说明:

  • System:整个系统或应用程序。
  • 资源获取锁 (AcquireLock) :用于控制对资源池中资源的获取操作的锁。
  • 资源释放锁 (ReleaseLock) :用于控制将资源返回到资源池的操作的锁。
  • 多个线程 (MultipleThreads) :表示系统中并发执行的多个线程,它们需要获取和释放资源。
  • 资源池 (ResourcePool) :系统中的共享资源集合,如数据库连接池、缓存连接池等。

在这个设计图中,资源池管理着两种类型的锁:

  • 资源获取锁 允许多个线程在不相互阻塞的情况下获取资源。
  • 资源释放锁 允许多个线程在不相互阻塞的情况下释放资源。

3、业务需要锁认知

3.1 多线程使用同一个数据库连接会怎么样?

image.png
数据库连接不是线程安全的,这意味着不允许多个线程同时使用同一个数据库连接对象来执行操作。如果多个线程尝试使用同一个数据库连接进行并发操作,可能会遇到以下问题:

  1. 数据不一致
    • 多个线程使用同一个连接可能会导致数据库事务的隔离级别被破坏,从而产生脏读、不可重复读或幻读等问题。
  2. 竞态条件
    • 线程可能会在不适当的时刻修改数据,导致竞态条件,这可能会使应用程序的逻辑出错。
  3. 锁冲突
    • 数据库操作可能会涉及到锁,多个线程通过同一个连接持有锁可能会导致死锁或延长锁持有时间,影响性能。
  4. 连接状态损坏
    • 某些数据库操作可能会改变连接的状态,如事务状态、数据库游标位置等。多个线程共享同一个连接可能会导致这些状态信息混乱。
  5. 违反数据库连接使用协议
    • 许多数据库连接库都明确指出连接应该是线程独占的。违反这一规定可能会导致不可预知的行为。
  6. 性能问题
    • 多个线程竞争同一个连接可能会导致性能瓶颈,因为线程需要等待获取连接。
  7. 资源泄露
    • 如果线程没有正确管理数据库连接的生命周期,可能会导致连接泄露,随着时间的推移,可能会导致数据库资源耗尽。

3.2 为什么需要读锁分离?

写策略

image.png

读策略

image.png
以全局配置信息为例,在许多分布式系统中,全局配置信息的读取操作确实不需要加锁,因为配置信息通常是只读的,直到需要更新。然而,锁分离的概念可以适用于那些需要确保配置在读取期间不被修改的场景,或者在某些情况下,需要确保读取到的配置信息是最新且一致的。

在某些特定的业务逻辑中,可能需要以下操作:

  1. 一致性视图:在一些复杂的业务场景中,需要确保在某个时间点,所有服务读取到的配置信息都是一致的。例如,在分布式系统中进行滚动升级时,需要所有服务实例都读取到相同的配置版本。
    • 原因:在分布式系统中,尤其是在进行滚动升级或配置变更时,需要确保所有服务实例在某一时刻都能读取到相同的配置版本。如果不同实例读取到的配置信息不一致,可能会导致系统行为出现差异,进而引发错误或系统故障。
    • 锁的作用:通过使用读锁,可以在配置更新期间阻止其他服务实例读取旧的配置信息,直到新的配置被完全推送和生效。这样可以确保所有服务实例在配置更新后都能看到一致的配置视图。
  2. 缓存策略:系统可能会缓存配置信息以减少对中央存储系统的访问频率。在这种情况下,读锁可以确保在配置更新时,缓存的数据是最新且一致的。
    • 原因:为了减少对中央存储系统的访问频率和压力,系统可能会在本地缓存配置信息。如果配置信息被频繁更新,而缓存没有及时同步这些更新,可能会导致服务实例使用过时的配置数据。
    • 锁的作用:在读锁的保护下,可以确保在配置更新时,缓存的数据能够及时更新,保持最新状态。这样,即使在高并发环境下,也能确保所有服务实例读取到的配置信息是一致和最新的。
  3. 并发控制:在配置更新过程中,如果有大量的服务实例同时读取配置,可能会导致短暂的读-写冲突。读锁可以作为一种协调机制,确保在更新期间,系统的其他部分可以继续读取旧的配置,直到新的配置被推送。
    • 原因:在配置更新过程中,如果有大量服务实例同时尝试读取配置,可能会与更新操作发生冲突,导致数据不一致或更新失败。
    • 锁的作用:读锁可以协调读和写操作,确保在配置更新期间,其他服务实例可以继续读取当前有效的配置,而不干扰更新过程。同时,写操作也会等待所有读操作完成,以确保更新后的配置能够被所有服务实例正确读取。
  4. 故障恢复:在分布式系统中,可能会出现节点故障或其他异常情况。在这种情况下,读锁可以帮助系统在恢复过程中保持配置的一致性。
    • 原因:在分布式系统中,节点故障或其他异常情况可能会导致服务实例丢失或未能及时获取最新的配置信息。在系统恢复过程中,需要确保所有服务实例能够快速同步到正确的配置状态。
    • 锁的作用:在读锁的帮助下,系统可以在恢复过程中控制配置信息的访问,确保服务实例能够按顺序或在安全的时间点读取到最新的配置信息,从而快速恢复到正常运行状态。

在实际应用中,是否需要在读取配置时使用锁,取决于系统的具体需求和设计。如果配置信息的一致性非常重要,或者在更新配置时需要避免任何潜在的数据不一致,那么使用读锁可能是一个合适的选择。

4、连接池操作锁分离机制

在数据库连接池的管理中,获取和释放数据库连接通常需要用到锁,主要是为了避免并发问题,确保连接操作的原子性和一致性。以下是为什么数据库连接获取需要锁,以及没有锁可能造成的问题:

4.1 为什么需要锁

  1. 同步访问:在多线程环境中,多个线程可能同时尝试获取或释放数据库连接。锁可以保证这些操作同步进行,避免并发访问导致的数据不一致。
  2. 资源限制:数据库连接池中的连接数是有限的。锁可以确保在连接达到最大限制时,线程不会无限制地等待,而是可以收到明确的错误信号,从而进行适当的错误处理。

4.2 没有锁可能造成的问题

  1. 连接泄露:如果没有适当的锁机制,可能会导致连接在使用后没有被正确释放,从而导致连接泄露,随着时间的推移,连接池可能被耗尽。
  2. 数据不一致:在更新连接池状态(如连接计数)时,如果没有锁来保证操作的原子性,可能会导致数据不一致,例如多个线程可能会读取到错误的连接计数。
  3. 不可预测的行为:没有锁的保护,多个线程可能会看到连接池状态的中间状态,这可能导致不可预测的行为和难以追踪的错误。

4.3 解决方案

  • 使用锁:在连接池管理中,使用互斥锁(Mutex)或其他同步机制来保护对共享资源(如连接池)的访问。
  • 优化锁策略:采用细粒度锁或锁分离策略,使得获取和释放连接的操作可以并发执行,而不会相互阻塞。
  • 资源管理:实现有效的资源管理策略,确保连接在使用后能够被正确释放,避免资源泄露。

4.5 连接池操作锁分离策略

image.png

图表说明:
  • 连接池 (CP) :负责管理数据库连接的资源池。
  • 获取连接锁:用于控制多个线程同时请求数据库连接的锁,确保连接的并发获取。
  • 释放连接锁:用于控制多个线程同时归还数据库连接的锁,确保连接的并发释放。
  • 线程1, 3:表示请求数据库连接的线程。
  • 线程2, 4:表示归还数据库连接的线程。
    在这个设计图中,连接池通过两种类型的锁来提高并发处理能力:
  • 获取连接锁 允许多个线程同时尝试获取连接,减少线程在请求连接时的等待时间。
  • 释放连接锁 允许多个线程同时释放连接,提高连接归还的效率。
锁分离核心代码
import java.util.concurrent.atomic.AtomicInteger;
import java.util.concurrent.atomic.AtomicReferenceArray;
import java.util.concurrent.locks.ReentrantReadWriteLock;

public class ConcurrentBag<E> {
    // 用于存储连接对象的数组
    private final AtomicReferenceArray<E> bag;
    // 计数器,用于记录当前可用连接的数量
    private final AtomicInteger availableCount = new AtomicInteger(0);
    // 读写锁,用于实现锁分离
    private final ReentrantReadWriteLock lock = new ReentrantReadWriteLock();

    public ConcurrentBag(int initialCapacity) {
        bag = new AtomicReferenceArray<>(initialCapacity);
    }

    // 从连接池中获取一个连接
    public E borrow() {
        // 首先尝试以非阻塞方式获取读锁
        lock.readLock().lock();
        try {
            // 循环尝试获取一个可用的连接
            while (true) {
                int available = availableCount.get();
                if (available == 0) {
                    return null; // 没有可用连接
                }
                // 通过CAS操作尝试减少可用连接计数
                if (availableCount.compareAndSet(available, available - 1)) {
                    // 尝试从数组中移除一个元素
                    for (int i = 0; i < bag.length(); i++) {
                        E e = bag.get(i);
                        if (e != null) {
                            bag.set(i, null); // 将连接置为null,表示已借出
                            return e;
                        }
                    }
                    // 如果没有找到非null元素,回滚计数器
                    availableCount.incrementAndGet();
                }
            }
        } finally {
            lock.readLock().unlock();
        }
    }

    // 将连接归还到连接池
    public void offer(E e) {
        // 尝试以非阻塞方式获取写锁
        lock.writeLock().lock();
        try {
            // 循环直到成功将连接归还
            while (true) {
                int available = availableCount.get();
                // 检查是否有空间归还连接
                if (available < bag.length()) {
                    // 通过CAS操作增加可用连接计数
                    if (availableCount.compareAndSet(available, available + 1)) {
                        // 将连接放回数组中的任意位置
                        for (int i = 0; i < bag.length(); i++) {
                            if (bag.get(i) == null) {
                                bag.set(i, e);
                                return;
                            }
                        }
                    }
                } else {
                    // 连接池已满,无法归还
                    throw new IllegalStateException("Connection pool is full");
                }
            }
        } finally {
            lock.writeLock().unlock();
        }
    }
}

锁分离的实现:

锁分离的关键在于使用读写锁来区分读操作(获取连接)和写操作(归还连接)。读锁允许多个读操作并发执行,而写锁确保写操作独占访问,从而减少了锁竞争,提高了并发性能。

5、锁分离业务案例

5.1 分布式配置案例

使用锁分离来管理一个分布式系统中的配置更新操作。在许多分布式系统中,全局配置信息是共享资源,需要被不同的服务或实例读取和更新。为了确保配置信息的一致性和系统的高可用性,我们可以使用锁分离策略来优化配置的读写操作。

场景描述

在一个分布式系统中,全局配置信息存储在中央存储系统中,如ZooKeeper、Etcd或Consul。系统的不同部分需要读取这些配置以执行其功能,而管理员或自动化工具需要更新这些配置。

锁分离策略
  • 读锁(Shared Lock) :允许多个读操作并发进行,因为读操作不会改变配置状态。
  • 写锁(Exclusive Lock) :在更新配置时使用,确保在修改过程中不会有其他读或写操作发生。
    image.png

图表说明

  • 配置管理系统 (System) :管理全局配置的系统。
  • 读锁 (ReadLock) :用于控制对配置存储的并发读取。
  • 写锁 (WriteLock) :用于控制对配置存储的独占写入。
  • 配置存储 (ConfigStore) :存储配置信息的中央存储系统。
  • 服务实例1、2 (Thread1, Thread2) :系统中需要读取配置的服务实例。
  • 管理工具 (Thread3) :用于更新配置的管理工具或自动化脚本。
    读锁允许多个服务实例同时读取配置,而写锁确保在配置更新时不会有其他操作干扰,从而保证了配置的一致性和系统的稳定性。这种锁分离策略特别适用于配置信息频繁读取但更新较少的场景。

5.2 电子商务平台的库存管理

使用锁分离来管理电子商务平台中的库存更新操作。在高流量的电商平台中,商品库存信息频繁被读取以供用户下单参考,同时也需要在订单处理时准确更新库存数量。为了确保库存数据的一致性和系统的高响应性,我们可以使用锁分离策略来优化库存的读写操作。

场景描述: 在电子商务平台中,商品库存信息需要频繁读取以供用户查看,同时也需要在订单处理时更新库存数量。

锁分离策略

  • 读锁:允许多个用户同时查询商品库存,提高读取效率。
  • 写锁:在减少库存时(如用户下单),确保库存更新操作的原子性和一致性,防止超卖。

锁依据

  • 高并发读取:在促销或高峰时段,多个用户可能同时查看商品库存。读锁允许这些操作并发执行,提高了系统性能。
  • 数据一致性:写锁确保在库存更新时,库存数据保持一致,防止了超卖现象。

image.png

5.3 金融交易系统中的账户余额查询

在金融交易系统中,使用锁分离来处理账户余额的查询和更新操作。用户频繁查询账户余额,而交易操作则需要更新余额。为了保证交易数据的安全性和准确性,同时允许多个用户并发查询,锁分离策略是关键。

场景描述: 在金融交易系统中,用户余额信息需要被频繁读取,同时也需要在交易发生时更新。

锁分离策略

  • 读锁:允许多个用户同时查询账户余额。
  • 写锁:在执行存款、取款或转账操作时,确保交易的一致性和准确性。

锁依据

  • 安全性要求:金融系统对数据一致性和完整性有极高的要求。读写锁可以确保在进行交易(写操作)时,用户查询(读操作)不会干扰到交易的执行。
  • 性能需求:金融系统通常面临大量查询操作,读锁允许这些操作并发执行,提高了系统性能。
    image.png

5.4 内容管理系统(CMS)的文章编辑

在内容管理系统中,使用锁分离来管理文章内容的读取和编辑操作。编辑人员需要频繁查看文章,而作者可能在任何时候更新文章。为了提高内容的可访问性并防止编辑冲突,锁分离允许多个用户同时查看,同时确保文章编辑的独占性。

场景描述: 在CMS中,文章内容需要被编辑人员频繁读取和更新。

锁分离策略

  • 读锁:允许多个编辑人员同时查看文章内容。
  • 写锁:在编辑文章时,确保文章内容不会被同时编辑的另一个编辑人员的操作所影响。

证据

  • 并发编辑:在CMS中,可能多个编辑人员需要同时查看文章,而只有一个编辑人员进行编辑。读写锁允许查看操作并发执行,同时确保编辑操作的独占性。
  • 避免数据冲突:写锁防止了多个编辑人员同时修改文章,避免了数据冲突和丢失。
    image.png

5.5 分布式缓存系统中的数据访问

在分布式缓存系统中,使用锁分离来优化数据的读取和更新操作。缓存数据被多个服务频繁访问以提高响应速度,同时也需要在数据变更时更新缓存。锁分离策略通过允许多个服务并发读取缓存,同时在写入时确保数据一致性,从而优化了缓存系统的并发性能。

场景描述: 在分布式缓存系统中,缓存的数据需要被应用程序频繁读取,同时也需要在数据更新时进行同步。

锁分离策略

  • 读锁:允许多个请求同时从缓存中读取数据,提高读取效率。
  • 写锁:在更新缓存数据时,确保数据的一致性和最新性。

证据

  • 缓存一致性:在数据更新时,写锁确保所有缓存的数据是最新的,保持了缓存的一致性。
  • 提高读取效率:读锁允许多个请求同时从缓存中读取数据,提高了读取效率。

image.png

5.6 实时数据分析平台的数据更新

在实时数据分析平台中,使用锁分离来管理数据的实时更新和查询操作。分析师和决策者需要实时访问最新数据进行分析,而数据源可能频繁更新。锁分离策略确保了数据在更新时的一致性,同时允许多个用户并发访问实时数据,满足实时分析的需求。

场景描述: 在实时数据分析平台中,数据需要被频繁读取以供分析和展示,同时也需要在数据源更新时进行同步。

锁分离策略

  • 读锁:允许多个用户或服务同时访问和分析实时数据。
  • 写锁:在数据源更新时,确保数据的一致性和准确性。

证据

  • 实时性要求:实时数据分析平台需要快速响应数据变化。读写锁允许在数据更新时,其他用户仍然可以查看实时数据。
  • 数据准确性:写锁确保在数据源更新时,不会干扰到正在进行的数据分析。

image.png

标签:配置,读取,分离,深入探讨,并发,线程,操作,连接
From: https://www.cnblogs.com/xiaoge-it/p/18429893

相关文章

  • 存算分离+双集群容灾丨云和恩墨与华为共同发布 MogDB × OceanStor Dorado 联合解决方
    引言为期三天的第九届华为全联接大会(HUAWEICONNECT2024)于9月19日在上海世博中心&展览馆盛大召开。本次大会以“共赢行业智能化”为主题,邀请思想领袖、商业精英、技术专家、合作伙伴、开发者等业界同仁,从战略、产业、生态等方面探讨如何通过智能化、数字化技术,赋能千行万业,把握新......
  • 【Java】并发编程的艺术:悲观锁、乐观锁与死锁管理
    目录一、乐观锁和悲观锁二、ReadWriteLock三、StampedLock四、Semaphore五、死锁的条件六、如何发现死锁七、如何避免死锁一、乐观锁和悲观锁        悲观锁(PessimisticLocking)具有强烈的独占和排他特性。它指的是对数据被外界修改持保守态度。因此,在整......
  • 并发编程工具集——Fork/Join-上(三十六)
    简述前面提到的线程池、Future、CompletableFuture和CompletionService,这些工具类都是在帮助我们站在任务的视角来解决并发问题,而不是让我们纠缠在线程之间如何协作的细节上(比如线程之间如何实现等待、通知等)。精髓:对于简单的并行任务,你可以通过“线程池+Future”的方案......
  • 一文夯实并发编程的理论基础
    JMM内存模型定义java内存模型(即javaMemoryModel,简称JMM),不存在的东西,是一个概念,约定主要分成两部分来看,一部分叫做主内存,另一部分叫做工作内存。java当中的共享变量;都放在主内存当中,如类的成员变量(实例变量),还有静态的成员变量(类变量),都是存储在主内存中的。每一个线程都可以......
  • 一文夯实并发编程的理论基础
    JMM内存模型定义java内存模型(即javaMemoryModel,简称JMM),不存在的东西,是一个概念,约定主要分成两部分来看,一部分叫做主内存,另一部分叫做工作内存。java当中的共享变量;都放在主内存当中,如类的成员变量(实例变量),还有静态的成员变量(类变量),都是存储在主内存中的。每一个线程都可......
  • 线程同步:锁,条件变量,并发
    1)锁mutex2)条件变量头文件<condiction_variable>condition_variablecv;cv.wait(_lock,谓语)//使用谓语检查是否满足唤醒条件,防止假唤醒usingnamespacestd; mutex_mutex; condition_variablecv; //condition_variablecv2; intnum=1; threadth1([&](){ int......
  • springboot基于Java的高校学生食堂系统(源码+vue+部署文档+前后端分离等)
    收藏关注不迷路!!......
  • 【PLW003】设备器材云端管理平台v1.0(SpringBoot+Mybatis+NodeJS+MySQL前后端分离)
    设备器材云端管理平台是一种专为各种设备(如教育行业中的实验设备、建筑行业中的施工设备等)租赁或共享孵化的数字化管理工具,旨在融合数字化手段,提高各种设备器材的管理效率、确保设备的安全稳定运行,并优化资源使用及配置效率。随着高新技术的不断发展和应用(如大数据、人工智能等新......
  • locust+python高并发压测总结
    locust+python全链路压测总结1.什么是接口?为系统提供数据服务的叫做接口(Interface)locust安装pipinstalllocust安装完成后:locust-h查看是否安装成功2.如何编写locust脚本?编写locust脚本主要分为以下几个步骤:导入Locust类定义用户行为定义任务运行脚本2.1导入Lo......
  • SpringBoot + Disruptor 实现特快高并发处理,支撑每秒 600 万订单无压力!
    01、背景02、Disruptor介绍03、Disruptor的核心概念04、RingBuffer05、SequenceDisruptor06、Sequencer07、SequenceBarrier08、WaitStrategy09、Event10、EventProcessor11、EventHandler12、Producer13、案例-demo14、总结01、背景工作中遇到项目使用Di......