缓存雪崩&缓存击穿&缓存穿透的本质
缓存雪崩
什么是缓存雪崩?
大量请求无法在缓存中命中,请求达到数据库,导致数据库压力增加,进而引起存储服务故障,引起雪崩。
为什么会出现缓存雪崩?
请求中大量数据同时过期,导致大量请求无法命中。
怎么解决?
微调过期时间,避免给大量缓存项设置相同过期时间,可以采用增加随机过期时间,将大量数据过期时间分开。
设置多级缓存,针对于可能发生缓存雪崩的数据采用不同的多级缓存处理,如是核心数据,允许查询缓存,未命中则查询数据库;如查询的不是核心数据,暂停从缓存中查询,直接返回预定义的默认值。
另一种导致缓存雪崩的情况是,缓存实例故障宕机,导致无法处理请求,从而把大量请求打到数据库,增加数据库压力。
怎么解决?
业务服务中针对于读服务设置服务降级/熔断/限流机制,监控redis缓存所在机器的负载指标,如发现redis缓存实例宕机,数据库负载压力突然增加发生雪崩风险,则立即启动服务熔断机制,暂停业务系统对缓存对访问,但是有损的。
或者业务系统在服务入口进行请求限流。
事前进行容量规划,搭建redis集群,实现集群高可用。
缓存击穿
什么是缓存击穿?
指的是缓存中无法处理频繁的热点数据,导致大量请求打到数据库,造成数据库压力,和缓存穿透的区别在于这个是热点key。
为什么会出现缓存击穿?
热点数据且数据过期失效。
怎么解决?
因为缓存穿透是因为某个热点key既不在缓存中,也不再数据库中,这样的请求势必不能通过缓存分担qps压力,如果持续有这样的请求势必会给缓存实例和数据库带来压力。
出现此类问题的原因可能是业务层导致,比如一个正常的缓存key被在缓存和数据库误删除了,导致缓存和数据库都没有这个缓存key了。
或是由于恶意攻击,某个不存在的key。
解决方式可以设置一个默认的返回值。
或是采用布隆过滤器,判断查询数据是否存在,避免去数据库查询数据,从而减轻数据库压力。
最好的一种方式就是在业务层对请求参数的合法性进行校验。
一张图总结