1.1.4 CPU缓存和内存屏障

CPU缓存

由于CPU的运算速度高出CPU和内存之间的数据传输速度一个级别,CPU厂商为了尽可能的利用CPU的性能,在CPU和内存之间添加了高速缓存,尽可能地避免处理器访问主内存的时间开销。

分三级缓存:L1 cache , L2 cache , L3 cache。

其中L1 cache 和 L2 cache是每个CPU核心都拥有的,而L3 cache 是所有的CPU所共享的。

并且L1 L2 L3 cache 的大小随级数增大。

每次数据访问都会按L1 cache -> L2 cache -> L3 cache -> 内存 -> 硬盘 的顺序来进行访问。

CPU性能优化手段 - 运行时指令重排

指令重排的场景:当CPU写缓存时发现缓存区块正在被其他的CPU占用,为了提高CPU处理性能,可能将后面的读缓存命令优先执行。

并非随便重排,需要遵循as-if-serial语义

as-if-serial语义的意思是指:不管怎么重排序(编译器和处理器为了提高并行度),(单线程)程序的执行结果不能被改变。编译器,runtime和处理器都必须遵守as-if-serial语义。

也就是说:编译器和处理器不会对存在数据依赖关系的操作做重排序

这样子就会出现两个问题

  1. CPU高速缓存下的一个问题:

    缓存中数据与主内存的数据并不是实时同步的,各CPU核心间缓存的数据也不是实时同步。在同一个时间点,各CPU所看到同一内存地址的数据的值可能是不一致的。

  2. CPU执行指令重排序优化下有一个问题:

    虽然遵守了as-if-serial语义,但仅在单CPU自己执行的情况下能保证结果正确。

    多核多线程中,指令逻辑无法分辨因果关系,可能出现乱序执行,导致程序运行结果错误。

内存屏障

有问题肯定就会有解决方案。

写内存屏障:在指令后插入Store Barrier , 能让写入缓存中的最新数据写入主内存,让其他线程可见。

强制写入主内存,这种显示调用,CPU就不会因为性能考虑而去对指令重排。

读内存屏障:在指令前插入Load Barrier , 可以让高速缓存中的数据失效,强制重新从主内存加载数据。

强制读取主内存内容,让CPU缓存与主内存保持一致,避免了缓存导致的一致性问题。

发布了17 篇原创文章 · 获赞 13 · 访问量 922

猜你喜欢

转载自blog.csdn.net/weixin_43871142/article/details/104307445
今日推荐