前景
ZStack所聚焦的IaaS，作为云计算里的底座基石，能够更好的实现物理资源隔离，以及服务器等硬件资源的统一管理，为上层大数据、深度学习Tensorflow等业务提供了稳定可靠的基础环境。
近年来，云计算发展探索出了有别于传统虚拟化、更贴近于业务的PaaS型服务，该类型依赖于docker实现，如K8S等典型的容器云，可以直接从镜像商店下载封装好业务软件的镜像，更加快捷地实现业务部署。
此外，GPU场景也是客户业务的典型场景，相比于CPU的运算特点，在数据分析、深度学习有着明显的优势。
ZStack是如何与容器结合，以IaaS+PaaS的组合拳，为上层业务提供支撑的呢？本篇文章带大家了解一下，如何在ZStack 上部署 centos7.6 虚拟机，在虚拟机里部署docker，以及如何使用nvidia-docker实现在容器里调用GPU的业务场景。
环境
虚机系统：Centos 7.6
虚机内核：Linux 172-18-47-133 3.10.0-957.el7.x86_64 #1 SMP Thu Nov 8 23:39:32 UTC 2018 x86_64 x86_64 x86_64 GNU/Linux
docker版本：docker-ce 19.03
nvidia-docker版本：nvidia-docker-1.0.11.x86_64
显卡：RTX6000
Cuda版本：10.1
显卡驱动：418
如下图所示：
Part 01
显卡驱动安装
1、下载对应版本的CUDA，并以此安装驱动。CUDA已经紧密结合了NVIDIA，以下驱动在centos、ubuntu上面均可执行，并自带绝大部分NVIDIA型号的显卡驱动，实用性非常强。
wget http://plan.zstack.io/storage/iso/nvidia/cuda_10.1.168_418.67_linux.run
chmod+x http://plan.zstack.io/storage/iso/nvidia/cuda_10.1.168_418.67_linux.run
GPU透传给虚拟机的操作步骤，详见在zstack.io官网可搜索到的《GPU实践手册》。
特别提醒：平台CPU模式一定要设置成passthrough！否则后续无法正常调用GPU做任何操作。
2、安装驱动，会自动禁止使用默认显卡驱动。特殊情况如需手动禁用，可使用如下操作：
echo “blacklist nouveau” >>/usr/lib/modprobe.d/dist-blacklist.conf
echo “options nouveau modeset=0” >>/usr/lib/modprobe.d/dist-blacklist.conf
mv /boot/initramfs-$(uname -r).img /boot/initramfs-$(uname -r).img.bak
dracut /boot/initramfs-$(uname -r).img $(uname -r)
reboot
lsmod|grep nouveau （为空则不加载默认显卡驱动）
3、./cuda_10.1.168_418.67_linux.run （安装时除了最后一项外，其他均需选择）
4、安装完成就表示驱动已安装完毕，可以执行nvidia-smi命令查看
5、驱动安装完毕后，建议采用CUDA自带的测试工具来测试，如果测试结果显示PASS，表示CUDA安装成功。
yum install gcc-c++
yum install cpp
cd /root/NVIDIA_CUDA-10.1_Samples/1_Utilities/bandwidthTest/
make
./bandwidthTest
Part 02
DOCKER-CE安装:
1、如果安装docker，需先卸载，再安装docker-ce
yum remove docker docker-common docker selinux docker-engine
2、配置docker-ce repo源：
yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
3、列出可以安装的版本：
yum list docker-ce --showduplicates | sort -r
4、默认安装即可,当前为19.03版本：
yum install docker-ce （默认安装的是Docker version 19.03.13, build 4484c46d9d）
5、启动服务及开机自启配置：
systemctl start docker
systemctl enable docker
6、从镜像商店搜索一个带有GPU驱动的镜像：
docker search nvidia （镜像商店可以搜索带nvidia驱动的镜像，用第一个即可）
7、修改配置文件：
cat >> /etc/docker/daemon.json <<EOF
{
"runtimes": {
"nvidia": {
"path": "/usr/bin/nvidia-container-runtime",
"runtimeArgs": []
}
}}
EOF
Part 03
nividia-docker 安装
1、配置nvidia-docker相关源：
curl -s -L https://nvidia.github.io/nvidia-docker/centos7/x86_64/nvidia-docker.repo | sudo tee /etc/yum.repos.d/nvidia-docker.repo
2、搜索nvidia-docker包的版本：
yum search --showduplicates nvidia-docker
3、安装nvidia-docker：
yum install nvidia-docker-1.0.1-1.x86_64
4、启动服务，和配置开机自启动：
systemctl start nvidia-docker;
systemctl enable nvidia-docker;
systemctl status nvidia-docker
（需确保nvidia-docker状态一直正常运行，否则无正常使用）
5、检查相关依赖软件包是否已安装，如果缺失，可执行以下命令安装：
yum install libnvidia-container1
yum install nvidia-container-toolkit
yum install libnvidia-container-tools
6、重启一下docker服务：
systemctl restart docker
完成测试
nvidia-docker run --rm --gpus all nvidia/cuda:10.1
-base nvidia-smi (如下图所示，即为安装成功。此处必须加gpus all参数 如此才可调用GPU)
使用备注（躺坑日记）
a、如果需要向容器里传文件，参考一下方式传CUDA软件进容器，前面是本地文件，后面是容器id以及内部目录位置。反过来就是从容器里传文件出来。
docker cp /root/cuda_10.1.168_418.67_linux.run ffb6138f3299:/mnt/1.run
b、排除容器问题，一次性清理所有容器，则使用如下命令：
docker rm -f $(docker ps -aq)
c、重装驱动步骤：
yum remove nvidia-container-runtime
yum remove nvidia-container-toolkit
yum remove libnvidia-container-tools
yum remove nvidia-docker
./cuda_10.1.168_418.67_linux.run
yum install nvidia-docker-1.0.1-1.x86_64
systemctl start nvidia-docker; systemctl enable nvidia-docker; systemctl status nvidia-docker
yum install libnvidia-container1
yum install nvidia-container-toolkit
yum install libnvidia-container-tools
nvidia-docker run --rm --gpus all nvidia/cuda:10.1-base nvidia-smi 再跑就可以了
d、进入容器内部，执行操作使用如下命令：
docker -it nvidia/cuda:10.1-base /bin/bash
e、nvidia-docker 服务异常systemctl status nvidia-docker，报错error cuda all cuda-capable device are busy
此时问题为，平台CPU模式没有改成直通，修改后需要重启虚拟机才能生效。通过lscpu，查看并确认虚拟机CPU必须为物理CPU型号，而非QEMU型号CPU。
f、nvidia-docker 服务异常systemctl status nvidia-docker， 服务启动后自己停止，原因可能是GPU驱动没有装好。一定要经过CUDA自带脚本测试，测试通过才能认为显卡状态可用。
2、nvidia-docker run时报错：如果显示 no options [gpus] , --gpu all ，这个参数无效，报错原因是docker版本过低，建议使用19.03。低版本如17.03的docker-ce ，因为调用 GPU参数不同，所以可能被识别无效。
3、报错提示为缺少nvidia-container-runtime-hook，如下图，需要执行安装：yum install libnvidia-container1; yum install nvidia-container-toolkit-1.3.0-2.x86_64; yum install libnvidia-container-tools-1.3.0-1.x86_64
结语
历经一天时间，完成了ubuntu下和centos下的docker+ GPU +nvidia-docker的实践安装使用，中间简单的安装了一个Rancher PaaS平台，进行容器管理。
IaaS和PaaS都有着各自鲜明的优势，很多人总有这么一个疑问：到底该选择IaaS的资源隔离，来更好的管控硬件、迎合未来的混合云市场？还是选择PaaS，让应用更轻便、以释放人力到自己的核心业务上呢？最佳答案是：为何不全都要呢。ZStack IaaS结合PaaS实现IT改造，增加对IT的每一个细节掌控，共同撑起云计算的未来。
ZStack的愿景就是：“让每一家企业都拥有自己的云。”