关于缓存系统的mutex模式实现

这篇blog是在上一家互联网公司某产品开发过程中的一些经验总结，整理一下分享上来。

关于mutex模式：

对于高并发大访问量的应用，一般都会在数据库访问前加一层缓存系统。

但是如果某一时刻某个缓存的key失效，而reload该key缓存的时间又比较长，导致大量的请求直接访问数据库，则会直接将数据库击垮。

解决方案：

当在缓存中获取某个key为null时，add一个mutex key，并进行数据的reload工作，数据reload后删除该mutex key。

如果另外一个线程访问该key也为null，则也会add一个mutex key，但发现add不进去(已经包含了该mutex key)。这时设置这个线程sleep一段时间后，再重试(可以设置重试次数)。如果全部重试完还是没有reload完数据则响应一个异常状态或响应304给终端。

程序部分伪码实现(缓存系统用的是Memcached)：

//根据业务生成一个Cache Key.
		String categoryListMemcachedKey = genCategoryListCacheKey(parentId);
		MemCache memcached=MemCache.getInstance();
		//该业务Key不存在或失效
		if(memcached.get(categoryListMemcachedKey)==null){
			//设置该业务键的mutex key.
			String mutexKey=categoryListMemcachedKey+"|mutex";
			if(memcached.add(mutexKey,1*60*1000)==true){//reload in 1min
				//categoryListStr代表数据库查询后构建的结果
				categoryListStr=dbResult;
				if("".equals(categoryListStr)){//set ""相当于没set,高并发请求仍旧会击跨数据库.
					memcached.set(categoryListMemcachedKey,"nodata",new Date(1000*60*1));//防止假数据一直存在缓存中,设置过期时间1min.
				}else{
					memcached.set(categoryListMemcachedKey,categoryListStr);
				}
				//删除mutex key
				memcached.delete(mutexKey);
			}else{//某线程正在load数据
				try {
					Thread.sleep(50);//当前线程睡眠50ms
					categoryListStr=(String)retry(memcached,categoryListMemcachedKey,3);//重试3次
					if(categoryListStr==null){categoryListStr = "nodata";}
				} catch (Throwable e) {
					LogFactory.getLog(MemcachedCacheManager.class).error("Thread sleep error:",e);
				}
			}
		}else{//缓存中已存在该业务key
			System.out.println("There has "+categoryListMemcachedKey+" in memcached!");
			categoryListStr=(String)memcached.get(categoryListMemcachedKey);
		}

上面代码中的重试方法(递归实现)：

/** 重试  */
	public static Object retry(MemCache memcached,String key,int tryNum){
		System.out.println("In retry:"+key+" tryNum:"+tryNum+"!");
		if(memcached.get(key)==null){//重试还是取不到数据
			System.out.println("Retry no data!");
			if(tryNum==0){//已达到重试上限
				System.out.println("There is no tryNum "+key+"!");
				return null;//返回null
			}else{
				try {
					Thread.sleep(50);//睡眠50ms
				} catch (Throwable e) {
					e.printStackTrace();
				}
				return retry(memcached,key,--tryNum);//递归重试
			}
		}else{
			System.out.println("Retry have data!");
			return memcached.get(key);
		}
	}

参考资料：

关于mutex设计模式：http://timyang.net/programming/memcache-mutex/

 这是新浪某大牛的blog，也是最初看到探讨mutex模式的文章。