Scalable Vector Extension (SVE) 介绍

微信公众号 mindshare思享

最近富士通更新了其与RIKEN公司共同开发的Post-K(次世代京)超级计算机开发进展：

已经完成CPU原型开发，开始商业试用。

http://www.fujitsu.com/global/about/resources/news/press-releases/2018/0621-01.html

这个超级计算机计划2021年正式运作，应用于农业，运动，科学计算。基于Post-K,富士通和RIKEN目标是创造世界上最高性能的超级计算机。为了实现这一目标，富士通采用了广泛使用的armv8指令集的CPU，并且非常重要的是使用了arm的Scalable VectorExtension-SVE可伸缩向量扩展指令。Post-K原型机将会在ISC2018展出，ISC是一个重要的国际超级计算机展览会议。ISC2015上另一家基于arm指令集的超级计算机公司飞腾展出了HPC CPU“地球”和“火星”。

其中一个关键的技术是SVE，这个可以显著提升HPC的向量处理能力，也可以适合AI应用领域，半精度运算，深度学习，高精度的双精度运算。

扫描二维码关注公众号，回复： 3823233 查看本文章

本文介绍一下SVE。

SVE的前生

大家都知道在SVE之前, arm CPU构架对并行运算的支持主要是在NEON（官方名AdvancedSIMD）. 构架定义了：

· 32个128bit 定长的NEON寄存器

· 可支持整型，半／单／双精度浮点型，poly型的运算。

· 支持signed/unsigned 8-bit, 16-bit,32-bit, 64-bit, single/double/single precision float

o 最大支持16个8bit 运算

运算类型包括基本的加减乘除，逻辑，移位，bit操作，取绝对值，最小最大值，倒数，平方根等等。

NEON广泛应用于视频，音频，图像，信号处理等需要大量数据处理并且可以并行运算支持的应用场景，

NEON虽然很强大，但是还是有些限制，比如其是定长的运算，运算只能在64bit或是128bit的向量上进行，这可能导致一些compiler没办法直接将循环loop优化成NEON指令，因为其要处理left over的情况。

比如如果上面循环的次数不定，有可能是4的整数倍，有可能不是.Compiler基于安全考虑，只能加判断，将余下的循环用普通的非NEON运算实现。这会导致代码增大。

而且每个运算必须在一个向量上的所有元素上做运算，没有办法在其中某些元素做某些元素不做。

比如

本文基于arm research部门在ICS2018会议（ICS’18, Beijing, China）的Vector Architecture Exploration with gem5的topic。文中使用的slide也是其中的，该slide已公开。

SVE扩展解决了这些问题，使compiler更容易将代码向量化，减少需要手动写汇编，intrinsic的情况。

SVE特征

SVE的特点；

明显扩展了向量处理能力。

CPU的实现可以根据自己的需要实现128bit-2048bit长度的向量寄存器。更神奇的是，由于采用了VLA编程方式，一段C代码编译成SVE指令后，不管是在什么长度的SVE向量实现的CPU上都可以兼容运行，不需要针对不同的CPU再次编译。预计多少应用不需要手写SVE汇编或是C intrinsics，这简直是程序员的福音。

公开性能数据表明，SVE相比NEON有极大提升。