目前,NCS主要支持Caffe和TensorFlow这两种主流深度学习框架。此外,NCS内部已经集成了一些经典的网络模型,比如GoogLeNet、AlexNet和SqueezeNet等。开发者也可以加载自己训练的网络模型,只要其网络层与NCS支持的范围匹配即可。
计算棒是什么?能代替电脑主机吗?
Movidius神经计算棒,简称NCS,是一款专门用于辅助人工智能应用开发的硬件设备。它主要的作用是帮助开发者对神经网络进行分析、调试以及验证,并且能够为深度学习的推理过程提供显著的加速效果,提升整体运行效率。
API部分则是为深度学习开发者提供的硬件调用接口。开发者可以使用训练好的网络模型,通过Compiler工具编译成计算棒可用的格式,再调用API方便地在主机与NCS之间进行通信,由NCS计算图像分析结果并传回主机完成推理。
具体来说,Profiler工具能够深入分析网络模型,报告每一层的运行效率,从而辅助开发者优化网络结构。Checker工具则是在部署前进行预测试,查看执行结果和性能表现。而Compiler工具负责将Caffe或TensorFlow模型转化为NCS能识别的graph文件。
在功能实现上,NCS通过其提供的SDK来工作,该SDK包含了Tool和API两大部分。Tool部分集成了Profiler、Checker和Compiler三个核心工具,分别用于分析网络模型效率、测试部署前的网络性能,以及将深度学习模型转化为NCS可识别的格式。