Cache缓存怎样支撑高并发

Cache（缓存）之所以能支撑高并发，核心在于它把“慢速存储（如数据库）”的访问，转变成了“快速存储（内存）”的访问，并通过一系列架构和设计手段，在高并发场景下保持高吞吐、低延迟和高可用。

下面从原理到实践系统说明：

一、为什么 Cache 能支撑高并发

1. 内存访问远快于磁盘

• 数据库：磁盘 IO + 锁 + 事务，毫秒级
• Cache（Redis / Memcached）：内存操作，微秒级
• 并发能力：内存可支撑 十万~百万 QPS

2. 减少数据库压力

高并发请求先打在 Cache：

请求 → Cache（命中） → 直接返回
请求 → Cache（未命中） → DB → 写回 Cache

大部分流量被 Cache 拦截，DB 只处理少量请求。

3. 无状态、易水平扩展

Cache 通常是无状态的，可以通过：

• 分片（Sharding）
• 集群（Cluster） 线性提升并发能力。

二、Cache 支撑高并发的关键技术

1. 缓存命中率优化（最重要）

命中率越高，并发能力越强。

手段：

• 热点数据常驻缓存
• 合理 TTL（过期时间）
• 预加载（预热）
• 本地缓存 + 分布式缓存（多级缓存）

2. 多级缓存架构

客户端
  ↓
CDN / 浏览器缓存
  ↓
本地缓存（Caffeine / Guava）
  ↓
分布式缓存（Redis）
  ↓
数据库

• 本地缓存：纳秒级
• Redis：微秒级
• 降低 Redis 压力

3. 缓存分片（Sharding）

避免单点瓶颈：

• Redis Cluster
• 一致性 Hash
• 按 Key 分片

效果：

• 并发能力随节点数线性增长

4. 高并发下的缓存问题解决方案

✅ 缓存击穿（单个热点失效）

现象：热点 Key 失效，大量请求直接打 DB

解决：

• 互斥锁（Redis SETNX）
• 逻辑过期（异步刷新）
• 热点 Key 永不过期

✅ 缓存雪崩（大量 Key 同时失效）

现象：同一时间大量缓存失效

解决：

• TTL 加随机值
• 多级缓存
• 限流 + 降级

✅ 缓存穿透（查不存在的数据）

现象：恶意请求不存在的 Key

解决：

• 布隆过滤器（Bloom Filter）
• 空值缓存（短时间）

5. 异步化 & 批量化

• 批量读（mget）
• 异步写（MQ）
• 延迟双删

减少锁竞争和 IO 次数。

6. 限流与降级

即使有 Cache，也要保护系统：

• 令牌桶 / 漏桶
• 熔断（Hystrix / Sentinel）
• 降级返回旧数据

三、典型高并发 Cache 架构示例

用户请求
   ↓
Nginx + Lua 本地缓存
   ↓
Redis Cluster（分片）
   ↓
DB（只读副本）

适用场景：

• 电商秒杀
• 热点新闻
• 排行榜
• 配置中心

四、总结一句话

Cache 支撑高并发的本质是：用内存换速度，用空间换时间，用架构换稳定性。

如果你愿意，我可以：

• 画一张高并发缓存架构图
• 结合 Redis 讲具体实现
• 针对秒杀 / 直播 / 搜索等场景细说

你更关心哪种？