Cache一般都是至少两层cache。多层次间cache的包含关系主要有三种:
Inclusive : L2包含所有的L1 valid cacheline,L2需要记录所有L1的状态信息。
Exclusive: L1 和L2 包含的valid cacheline互斥,两个L1之间仍然可以包含相同的valid cacheline。
NENI / NINE (non-exclusive non-inclusive): L1 和L2 之间可以有相同的valid cacheline,但又不是完全的inclusive关系。
Inclusive相对比较简单,L2 miss时,不需要snoop其他L1,延迟小。
Exclusive 形式下,L2 可称之为 victim buffer/cache,AMD有exclusive的设计。
Exclusive在L2 miss时,需要snoop其他L1,因为L2不知道其他L1是否包含此cacheline的拷贝。
Exclusive的优势在于充分利用cache size,对每个core来讲,可使用的size = L1 + L2 cache size
NENI在L2 evict时,不需要back invalid L1;NENI多用于三级cache架构中的L1/L2。
以一个两层cache (三个L1 ,一个L2)为例,三种包含关系的示意图如下。
三种包含关系示意图
参考 https://en.wikipedia.org/wiki/Cache_inclusion_policy ,三种包含策略的具体操作流程如下图所示。
Inclusive policy
Exclusive policy
NENI policy