Lattepanda Delta + Intel NCS 2运行人脸识别程序性能测试

在DFRobot举办的行业AI开发者大赛的支持下，我们拿到了赛事指定硬件平台的主板Lattepanda Delta以及可用于神经网络运算加速的Intel Neural Compute Stick 2。

Lattepanda不同于树莓派或Jetson Nano，它是一块基于x86架构的主板，因此可以顺利运行Windows 10系统。Lattepanda Delta板上还集成了一块Arduino Leonardo，可通过它直接与硬件连接。

为方便项目开展，我们为Lattepanda安装了Ubuntu 18.04系统。其安装过程没有特别之处，直接使用Rufus将系统刷入U盘作为启动盘即可。

要在主板上使用Intel NCS 2，需要先按照官方指南的步骤下载并安装OpenVINO Toolkit。安装完成后，输入下述指令：
[mw_shl_code=bash,false]source ~/intel/openvino/bin/setupvars.sh
cd ~/intel/openvino/install_dependencies
./install_NCS_udev_rules.sh[/mw_shl_code]

即可完成Intel NCS 2的准备工作。

Intel在OpenVINO中开放了大量的Demo，我们尝试在Lattepanda Delta + Intel NCS 2的环境下运行交互式人脸识别Demo的Python脚本。

在运行这个Demo之前，可以下载Intel提供的预训练模型文件（每个模型需要xml和bin格式的两个文件）。该Demo一共需要三个模型：face-detection-retail-0004（用于检测人脸）、landmarks-regression-retail-0009（用于在人脸上找到特征点）和face-reidentification-retail-0095（用于识别不同人脸）。

Demo所需的扩展包括：scipy(>=1.1.0)、numpy(>=1.11.0)、opencv-python(>=3.4.0)。输入模型文件位置、需识别的人脸图像所在目录即可成功运行。
[mw_shl_code=bash,false]source /opt/intel/openvino/bin/setupvars.sh
python ./face_recognition_demo.py \
-m_fd <path_to_model>/face-detection-retail-0004.xml \
-m_lm <path_to_model>/landmarks-regression-retail-0009.xml \
-m_reid <path_to_model>/face-reidentification-retail-0095.xml \
-d_fd MYRIAD \
-d_lm MYRIAD \
-d_reid MYRIAD \
--verbose \
-fg "预先准备的人脸图像所在目录"[/mw_shl_code]


经测试，在持续识别人脸的情况下，平均运行帧率约为14.59FPS。



在运行程序时，可通过设定-d_fd、-d_lm、-d_reid参数指定运行三个模型使用的硬件（CPU、GPU或MYRIAD，使用Intel NCS 2为MYRIAD）。设为CPU可仅使用Lattepanda的CPU运行该程序。此时，平均运行帧率降为9.30FPS。



作为对比，我们还在树莓派上部署了OpenVINO并运行了同一程序。在使用NCS 2的情况下平均帧率约5.30FPS。



该Demo程序及可用的模型文件可直接在此下载：。

由于树莓派为ARM架构，OpenVINO工具不能在它们上面直接运行，我们运行了另一个人脸识别程序以供参考。相同程序在Jetson Nano上的运行帧率也列在下表中。

人脸识别程序运行平均帧率对比

	Lattepanda Delta 432	树莓派 3B+	Jetson Nano
CPU	9.30	0.28(*)	14.97(*)
Intel NCS 2	14.59	5.17(**)	/(***)

*: 运行程序基于dlib，并未使用OpenVINO。demo程序每2帧执行一次人脸检测与识别。
**: 树莓派+Intel NCS 2所支持的预训练模型文件需要选择2019R3之前的文件。
***: OpenVINO Toolkit无法安装在Jetson Nano上，故无法使用Intel NCS 2。

为啥不漏脸呢

hnyzcj 发表于 2020-7-13 16:25
为啥不漏脸呢

冷酷的帅哥