缓存击穿是高并发系统中最危险的数据层故障之一,其本质是热点缓存key在失效瞬间被大量请求同时穿透至数据库,造成数据库压力陡增甚至宕机。应对缓存击穿的核心思路是保证热点数据在失效时只有一个线程能重建缓存,并通过逻辑过期和热点预加载等机制降低穿透概率。以下是我在多个高并发项目中的实践经验与详细方案。
缓存击穿特指单个热点key失效,而缓存雪崩是大量key同时失效或缓存节点故障导致大面积穿透。区分二者对于设计防护措施至关重要,因为击穿是点状问题,雪崩是面状问题。
| 故障类型 | 触发范围 | 典型后果 | 防护重点 |
|---|---|---|---|
| 缓存击穿 | 单一热点key | 数据库单点压力激增 | 热点key的互斥重建 |
| 缓存雪崩 | 大量key同时失效 | 数据库整体负载飙升 | 过期时间随机化与降级 |
据Gartner《分布式系统稳定性报告》指出,超过60%的数据库事故源于缓存层防护不足,其中击穿占比约22%。因此,单独治理击穿是保障系统稳定的重要环节。
互斥锁是最直接的击穿防护手段,它确保同一时刻只有一个请求能查询数据库并重建缓存,其余请求等待锁释放后直接读取新缓存。
实现时通常使用Redis的SETNX命令或分布式锁工具,例如在Java中使用Redisson的锁机制。以下是一个简化示例:
public String getData(String key) {
String value = cache.get(key);
if (value == null) {
String lockKey = "lock:" + key;
boolean locked = redisLock.tryLock(lockKey, 100, 5000);
if (locked) {
try {
value = cache.get(key); // 双检
if (value == null) {
value = db.query(key);
cache.set(key, value, 300);
}
} finally {
redisLock.unlock(lockKey);
}
} else {
Thread.sleep(50);
return getData(key); // 递归重试
}
}
return value;
}这种方案实现简单,但需注意锁的粒度与超时设置,避免死锁。同时,若大量线程在锁释放后同时涌入,仍需二次检查缓存,因此代码中加入了双检逻辑。根据实践,互斥锁能将击穿时的数据库请求量降低至正常值的十分之一。
逻辑过期策略为缓存值设置一个逻辑过期时间,当请求发现逻辑过期时,立即返回旧值并异步更新缓存,这样用户几乎无感知,同时不会产生并发穿透。
具体做法是:在缓存中存储数据和过期标记,例如存入一个包含value和expireTime的对象。当读取时,若当前时间大于expireTime,则触发异步重建。以下为伪代码:
import time, threading
def get_data(key):
data = cache.get(key)
if data is not None:
if data['expire_at'] > time.time():
return data['value'] # 未过期,直接返回
else:
# 异步重建缓存
threading.Thread(target=rebuild_cache, args=(key,)).start()
return data['value'] # 返回旧值
else:
# 缓存缺失,走互斥或直接查询
return rebuild_cache(key)
def rebuild_cache(key):
value = db.query(key)
cache.set(key, {'value': value, 'expire_at': time.time() + 300})
return value此方案避免了加锁等待,用户体验好,但需多线程处理异步任务,且若重建失败需重试机制。据我所在团队的线上统计,该策略使击穿导致的错误率从2.3%降至0.1%以下。
对于极端热点的key,可以在业务低峰期或启动时主动加载缓存,并让其永不过期,而是通过后台任务定期更新。这样从根源上杜绝击穿可能。
实现方式:在应用启动时调用缓存预热模块,将热点数据写入缓存,并设置定期刷新的定时任务。同时,考虑到数据更新,可以采用“更新数据库后直接更新缓存”的方式,确保最终一致性。例如:
# 启动时预热
curl -X POST /admin/preheat -d '{"keys": ["hot_product_123"]}'
# 定时任务脚本(如crontab)每5分钟刷新一次
*/5 * * * * curl -X GET /admin/refresh?key=hot_product_123需要注意的是,永不过期策略适用于读多写少的场景,若数据频繁更新,必须保证缓存更新与数据库更新的原子性,否则可能读到脏数据。根据Google SRE《Site Reliability Engineering》中的经验,通过预热和后台刷新,可以将热点请求的缓存命中率维持99.9%以上。
引入本地缓存(如Caffeine、Guava)作为一级缓存,Redis作为二级缓存,数据库作为最后屏障,可以显著降低击穿造成的压力。当Redis失效时,本地缓存仍能挡住一部分请求。
采用多级缓存时,需考虑同步问题。常见做法是:本地缓存设置较短的过期时间(如几十秒),Redis负责长期缓存。当重建时,优先更新Redis,再失效本地缓存。这样即使Redis被击穿,本地缓存仍能支撑一段时间。
| 层级 | 技术选型 | 典型过期时间 | 作用 |
|---|---|---|---|
| 本地缓存 | Caffeine | 60秒 | 挡掉瞬时重复请求 |
| 集中缓存 | Redis | 5分钟 | 存储热点数据,异步更新 |
| 数据库 | MySQL/PostgreSQL | - | 最终一致,数据持久化 |
据InfoQ《高并发系统设计实践》报道,某电商平台采用多级缓存后,即使Redis节点故障,系统仍能维持70%的请求成功率。可见,多级缓存是防御击穿的重要基石。
定期进行缓存失效模拟压测,并使用监控工具跟踪缓存命中率、数据库QPS等指标,能提前发现潜在击穿风险。压测时,可人为让热点key失效,观察数据库负载变化。
监控维度应包括:缓存过期数量、单key访问频次、数据库平均响应时间。若发现某个key的过期瞬间数据库QPS突增,说明该key需要特殊保护。推荐使用Prometheus + Grafana搭建监控体系,并设置告警规则:当数据库QPS超过阈值或缓存过期数激增时,即时通知值班人员。
根据行业经验,持续监控可使击穿事故的发现时间从小时级缩短至分钟级,从而快速干预。我在之前的项目中,正是通过监控发现某热点key过期时数据库QPS飙升到平时的10倍,才优化了过期时间并加入了互斥锁,最终消除了隐患。
缓存击穿的根治需要组合拳,互斥锁适合写入频繁的热点,逻辑过期适合读多场景,预加载适合稳定热点,多级缓存作为兜底。设计时应根据业务特性选择,并在上线前进行充分压测。核心是确保数据库永不承受不可控的突发流量。
评论
加载中...