从局部性原理到一致性模型：深入剖析缓存设计的核心权衡

缓存：高速存取数据的前哨站

缓存的根本思想，源于一个在计算机科学中被反复验证的黄金法则——局部性原理（Principle of Locality）。该原理包含两个层面：

1）时间局部性（Temporal Locality）：如果一个数据项被访问，那么在不久的将来，它极有可能被再次访问。例如，一篇热门新闻的详情页、一个爆款商品的库存信息。

2）空间局部性（Spatial Locality）：如果一个数据项被访问，那么与它物理位置相邻的数据项也极有可能被访问。这个原理在处理器缓存和硬盘预读中体现得更明显，在应用层缓存中，可以引申为相关联的数据也可能被一并访问。

缓存正是利用了这一原理，将那些被频繁访问的“热点数据”从低速的后端存储（如数据库）中复制一份，暂存到高速的存储介质（通常是内存）中。当后续请求再次需要这些数据时，系统可以直接从高速的缓存中获取，从而绕过缓慢且昂贵的数据库访问路径。

image

本地缓存和远程缓存是两种缓存策略，主要区别在于数据存储位置和访问方式。

1）本地缓存（Local Cache）：将数据存储在应用内存中，访问速度快，适合小量且频繁访问的数据。但应用关闭或重启可能导致数据丢失，多应用实例间可能存在数据一致性问题。常见实现有Guava Cache和Caffeine Cache。

2）远程缓存（Remote Cache）：将数据存储在网络服务器上，可以在多应用实例间共享，解决数据一致性问题，且数据不会因应用关闭而丢失。虽访问速度相对慢，但通过优化网络和数据结构，性能可得到提升。常见实现有Redis和Memcached。

在现代大型系统中，通常采用多级缓存的策略，即同时使用进程内缓存和分布式缓存，以兼顾速度与一致性，构建一个纵深防御体系。

image

一致性

缓存一致性（Cache Consistency）是指在使用缓存的系统中，确保源数据（如数据库）与缓存数据间保持同步。在并发系统中，由于多个服务节点可能同时进行数据读写，维护缓存一致性成为了一个重要且具有挑战性的问题。

以下是一些常见的处理缓存一致性的策略。

1）旁路缓存（Cache-Aside ）：最经典的模式。读操作先读缓存，未命中则读数据库并回写缓存；写操作则先更新数据库，再失效（Delete）缓存。选择失效而非更新缓存，是为了避免复杂场景下的并发写问题。

2）读/写穿透（Read/Write-Through）：应用层只与缓存交互，由缓存服务自身负责与数据库的同步。

3）写回（Write-Back） ：写操作只更新缓存，缓存根据一定策略（如定时、定量）批量异步地将数据刷回数据库。性能最高，但一致性最弱，且有数据丢失风险。

选择哪种策略，取决于业务对数据一致性要求的容忍度，这是一个需要在成本、性能和一致性之间做出的权衡。

过载保护

缓存的过载保护的核心目标是防止数据库过载，因为缓存的主要职责是降低数据库的压力并提升数据访问的效率。当缓存未能找到数据时，请求会直接访问数据库，如果这种情况在大量请求中频繁发生，可能导致数据库因过载而崩溃。

缓存穿透

缓存穿透（Cache Penetration）是指查询一个在缓存和数据库中都不存在的数据。如果每个请求都穿透到数据库，那么缓存就变成了摆设，这会给数据库带来很大的压力，影响正常的服务。

为了防止这种情况，可以使用布隆过滤器来判断一个元素是否在集合中。如果布隆过滤器表示不存在，那么就肯定不存在；如果布隆过滤器表示可能存在，再去查询缓存。另一种策略是缓存空结果，即使数据库中没有数据，也可以在缓存中存储一个空对象或空结果，并设置一个较短的过期时间。

image

缓存击穿

缓存击穿（Cache Breakdown）是指在使用缓存时，当某个热点数据的缓存过期或不存在时，大量并发请求同时访问该数据，导致请求直接落到数据库上。

为了防止这种情况，在缓存失效时，使用互斥锁来保证只有一个请求能够访问数据源，其他请求等待并从缓存中获取数据。

缓存雪崩

缓存雪崩（Cache Avalanche）是指在使用缓存系统时，当缓存中的大量热点数据同时失效或清空时，导致大量请求直接落到数据库上。

为了防止这种情况，可以通过设置缓存过期时间的随机性，比如在基础过期时间上添加一个随机值，确保缓存数据在不同的时间过期。另外也可以使用限流方式，避免高流量请求同时大道数据库。

未完待续