OpenVINO安装及环境配置 win10
1 OpenVINOTM工具包简介
1.1 特点
Intel®OpenVINO™工具包发行版（The Intel® Distribution of OpenVINO™ toolkit）可加快模拟人类视觉的应用程序和解决方案的部署。该工具包基于卷积神经网络（CNN），将计算机视觉（CV）工作负载扩展到了英特尔®硬件上，以实现最佳性能。其具有以下特点：
- 支持从边缘到云的深度学习推理
- 加速AI工作负载，包括计算机视觉，音频，语音，语言和推荐系统
- 使用通用API，支持跨Intel®架构和AI加速器（CPU、iGPU、Intel®Movidius™视觉处理单元(VPU)、FPGA 和 Intel®高斯与神经加速器(Intel®GNA)）的异构执行
- 通过功能库和预优化的内核加快上市时间
- 包括对OpenCV，OpenCL™内核以及其他行业工具和库的优化调用
有关详细信息，请参见Intel® Distribution of OpenVINO™ toolkit Overview
1.2 包含的组件
以下为Win 10 OS的OpenVINOTM工具包所包含的组件：
| 组件 | 描述 |
|---|---|
| 模型优化器 | 该工具将在流行框架中训练的模型导入，转换和优化为Intel工具（尤其是推理引擎）可用的格式。注意：流行的框架包括Caffe*，TensorFlow*，MXNet和ONNX等框架 |
| 推理机 | 这是运行深度学习模型的引擎。它包括一组库，可轻松将其推理集成到您的应用程序中 |
| OpenCV | 为Intel®硬件编译的OpenCV*社区版本 |
| 推理机样本 | 一组简单的控制台应用程序，展示了如何在应用程序中使用英特尔的深度学习推理引擎 |
| Demos | 一组控制台应用程序，它们演示了如何在应用程序中使用推理引擎来解决特定的用例 |
| 其他工具 | 一组可用于模型的工具 |
| 预训练模型的文档 | open_model_zoo存储库中提供的预训练模型的文档 |
1.3 系统要求
以下为Win 10 OS的OpenVINOTM工具包的系统要求：
1.3.1 支持的硬件
- 第6至第10代Intel®Core™处理器和Intel®Xeon®处理器
- Intel® Xeon® 处理器E家族（以前的代码分别为Sandy Bridge，Ivy Bridge，Haswell和Broadwell）
- 第3代 Intel® Xeon® 可扩展处理器（以前的代码为Cooper Lake）
- Intel® Xeon® 可扩展处理器（以前为Skylake和Cascade Lake）
- Intel Atom® 处理器，支持Intel® Streaming SIMD扩展4.1（(Intel® SSE4.1）
- 具有 Intel® HD Graphics 的 Intel Pentium®处理器N4200/5、N3350/5 或 N3450/5
- Intel®神经计算棒2（Intel® Neural Compute Stick 2）
- 带有 Intel® Movidius™VPU 的 Intel® 视觉加速器设计 (Intel® Vision Accelerator Design)
1.3.2 操作系统
- Microsoft Windows* 10 64-bit
1.3.3 所需软件
详情见：Install Intel® Distribution of OpenVINO™ toolkit for Windows* 10
2 安装步骤
2.1 安装所需依赖项
2.1.1 Visual Studio
首先点击链接 Visual Studio 2019、2017、2015 下载Visual Studio安装包。然后在以下界面，搜索并安装以下组件：
2.1.2 Cmake
点击链接 CMake3.4或更高版本的64位，下载安装相应版本即可
2.1.3 Python3.6.5
点击链接Python 3.6.5 64位，下载以下安装包
安装时最好选择默认路径，并勾选添加至路径
2.2 安装OpenVINOTM工具包
2.2.1 注册并下载安装包
点击链接Download the Intel® Distribution of OpenVINO™ toolkit today，填写相关信息并下载安装包。注意记下序列号（Serial number）。
2.2.2 安装
Step1：双击w_openvino_toolkit_p_.exe文件，点击extract，然后在打开的窗口中选择安装目录和组件。我这里选择了默认路径和所有组件。
Step2：点击Next进入下一步。询问是否要同意收集信息，我这里选择了不同意。然后单击Next进入下一步。
Step3：如果缺少外部依赖项，则会看到警告屏幕。记下缺少的依赖项。此时无需采取其他任何措施。安装完OpenVINO™工具包核心组件后，请安装缺少的依赖项。我的电脑不是Intel的显卡，所以出现了下面的警告
如果缺少前面的依赖项，则可能出现以下警告
Step4：点击Next进入下一步，等待安装。安装的第一部分完成后，最后一个屏幕将通知您已安装了核心组件，并且仍然需要执行其他步骤：
单击Finish完成以关闭安装向导。一个新的浏览器窗口将打开到安装指南的下一部分，以设置环境变量。
如果安装提示必须安装依赖项，请先安装它们。如果没有缺少的依赖项，则可以继续设置环境变量。
3 设置环境变量
OpenVINO设置环境变量有两种方法：一种是每次使用时都用命令提示符设置一次；另一种手动永久设置环境变量。前者单次设置非常简单，适合偶尔使用OpenVINO的朋友；后者设置相对复杂，但对于经常使用OpenVINO的朋友，一次永久设置效果更好。这里将两种方法都介绍如下：
3.1 单次设置环境变量
找到之前的OpenVINOTM工具包的安装路径（我的是默认路径），打开命令提示符，并转到相应的路径：
cd C:\Program Files (x86)\IntelSWTools\openvino\bin\
运行setupvars.bat文件：
setupvars.bat
即可成功设置环境变量，如下图所示：
关闭“命令提示符”窗口时，将删除OpenVINOTM工具包的环境变量。下次还需用到OpenVINOTM工具包时，需要重新按此方法进行环境变量的设置，否则将无法编译和运行OpenVINO™应用程序。
3.2 永久设置环境变量
具体参见 为 Windows®10永久设置 OpenVINO™环境变量。
需要注意的是，对于2020版本的，由于添加了新的模块，所以在系统变量下编辑Path变量时，还需添加以下条目：%INTEL_OPENVINO_DIR%\deployment_tools\ngraph\lib
系统环境变量可在如下窗口中进行设置：
4 配置模型优化器
4.1 模型优化器简介
环境变量设置好以后，就可以进行模型优化器（Model Optimizer）的配置了。
模型优化器是Intel®OpenVINO™工具包发行版的关键组件。如果不通过Model Optimizer运行模型，则无法对训练后的模型进行推断。当通过模型优化器运行经过预训练的模型时，输出是网络的中间表示（IR）。IR是一对描述整个模型的文件，包含.xml文件（描述网络拓扑）和.bin文件（包含权重和偏置二进制数据）。推理引擎使用跨CPU、GPU或VPU硬件的通用API读取，加载和推断IR文件。
4.2 模型优化器配置步骤
可以一次为所有受支持的框架配置模型优化器，也可以一次为一个框架配置模型优化器。
选项1：同时为所有受支持的框架配置模型优化器
打开命令提示符，并转到模型优化器先决条件目录（这里为默认路径）：
cd C:\Program Files (x86)\IntelSWTools\openvino\deployment_tools\model_optimizer\install_prerequisites
然后运行以下批处理文件以为Caffe *，TensorFlow *，MXNet *，Kaldi *和ONNX *配置模型优化器：
install_prerequisites.bat
选项2：分别为每个框架配置模型优化器
详细请参考：分别为每个框架配置模型优化器
5 验证脚本
此步运行两个脚本来验证OpenVINO™工具包是否安装成功。此处是在CPU上运行产品随附的验证应用程序。首先打开命令提示符窗口，转到推理引擎演示目录（这里为默认路径）：
cd C:\Program Files (x86)\IntelSWTools\openvino\deployment_tools\demo\
然后分别运行以下脚本：
5.1 运行图像分类验证脚本
在命令提示符中运行demo_squeezenet_download_convert_run.bat文件。
demo_squeezenet_download_convert_run.bat
该脚本下载一个SqueezeNet模型，使用模型优化器将模型转换为.bin和.xml 中间表示（IR）文件。推理引擎需要此模型转换，因此它可以将IR用作输入并在Intel硬件上实现最佳性能。验证脚本完成后，将获得前十名类别的标签和可信度：
5.2 运行推理管道验证脚本
在命令提示符中运行demo_security_barrier_camera.bat文件。
demo_security_barrier_camera.bat
该脚本下载了三个经过预先训练的模型IR，构建了Security Barrier Camera Demo 应用程序，并与下载的模型和demo目录中的car_1.bmp 图像一起运行它，以显示推理管道。验证脚本使用车辆识别，其中车辆属性彼此建立，以缩小特定属性的范围。首先，将物体识别为车辆。该标识用作下一个模型的输入，该模型标识特定的车辆属性，包括车牌。最后，将识别为车牌的属性用作第三种模型的输入，该模型可以识别车牌中的特定字符。
演示完成后将打开两个窗口：
- 控制台窗口，显示有关演示执行的任务的信息
- 图像查看器窗口，显示结果帧，并将检测结果渲染为边界框，类似于以下内容：
关闭图像查看器窗口以结束演示。