全量缓存抗住秒级百万的 QPS 毫无压力
“百万 QPS”有一个非常重要的限制条件,即这百万的 QPS 都是分属于不同用户的
当百万的 QPS 属于不同用户时,因缓存是集群化的,所有到达业务后台的请求会根据一定路由规则(如 Hash),分散到请求缓存集群中的某一个节点
假设一个节点最大能够支撑 10W QPS,我们只需要在集群中部署 10 台节点即可支持百万流量。但当百万 QPS 都属于同一用户时,即使缓存是集群化的,同一个用户的请求都会被路由至集群中的某一个节点
即使此节点的机器配置非常好,当前能够支持住百万 QPS
此类并发次数非常大、数据完全相同的请求称为热点查询。
微博热点吃瓜事件
电商里的秒杀或者低价薅羊毛活动
主从复制进行垂直扩容
虽然单机的机器配置和程序的性能是有上限的,但我们可以利用节点间的主从复制功能来进行节点间的扩容。
主从复制能够解决一定流量的热点查询且实施起来较简单。但不具备扩展性,在应对更大流量的热点时会有些吃力。
利用应用内的前置缓存
首先是应用内缓存需要设置上限
最后如何发现热点缓存并前置
降级兜底不可少
部署的机器能够支持的 QPS 未必都能够大于当次的热点查询。对于可能出现的超预期流量,可以使用前置限流的策略进行应对
标签:缓存,前置,QPS,热点,节点,百万 From: https://www.cnblogs.com/jiaozg/p/17188979.html