为了帮助提高Pytorch的训练效率,NVIDIA开源了一款混合精度训练工具Apex。号称能够在不降低性能的情况下,将模型训练的速度提升2-4倍,训练显存消耗减少为之前的一半。
官方安装方法(没能成功)
git clone https://github.com/NVIDIA/apex
cd apex
pip install -v --no-cache-dir --global-option="--cpp_ext" --global-option="--cuda_ext" ./2.
用下面的方法成功安装了
git clone https://github.com/NVIDIA/apex
cd apex
python3 setup.py install