[原创] 怎样发挥Kirin 970人工智能的最大威力？

2018-03-27 14:00:13 来源: 官方微信

点击

在华为发布搭配NPU的Kirin 970之后，行内人员都对这个AI芯片的应用充满了各种想象和疑问，这不但因为它是业界首颗集成NPU的移动SoC，更因为它的强悍性能。据公开资料显示，Kirin 970每分钟处理2005张图片；而在没有NPU的情况下，同样时间处理的图片只有97张。可见NPU在人工智能世界里的实力。

华为无线终端芯片产品市场总监周晨

华为无线终端芯片产品市场总监周晨在日前于香港举办的Linaro 开发者大会上也表达了同样的观点。他指出，NPU由于本身设计的独特性，能够高效地运行神经网络模型，大大提升推理的效率，这是CPU和GPU所不能比拟的。但华为的AI布局并不仅仅是NPU，他们所提供的是一套便捷的解决方案：

Kirin 970的GPU/CPU/NPU的Die面积和NN性能对比

HiAI是基础

华为HiAI移动计算平台是一个开放的AI生态，能够将Kirin 970的AI能力“赋予”第三方的应用，而这主要基于开发者的需求所决定的。在周晨看来，现在的开发者在做开发的时候，非常关注开发成本、收益和IP保护三个方面，而HiAI正好能够完美解决这解决这个问题。

HiAI移动计算平台

作为一个面向人工智能应用的异构计算机构。HiAI拥有了几项方便开发者的特性：

（1）提供一些经常被使用的人工智能功能API，这样的话上层应用就可以利用这些API更好的将相关模型在移动设备上运行；

（2）支持更多主流的架构，兼容更多的模型；

（3）提供对模型和算子的独立硬件加速。

（4）异构计算配置，能够让开发者可以灵活的配置神经网络模型的加速。从上图我们可以看到，HiAI底层提供了GPU、CPU、DSP和NPU的硬件支持，应用在运行的时候，芯片会判断工作量和对时延的需求，然后自动选择GPU或者AI加速器执行相关处理，这样就能达到性能最优化处理的效果。

HiAI最新SDK支持的项目

根据周晨介绍，HiAI移动计算平台支持稀疏模型加速，且NPU可以跳过系数为零的乘加运算，这可在保持计算精度的同时，大大提高计算效率，并降低了带宽要求；另外，HiAI移动计算平台支持8位和1位量化，有效降低计算带宽和存储消耗，提高能耗效率。

在这个基础之上，华为还将对HiAI持续升级（例如增加对Caffe 2和ONNX等的支持），保证整个平台符合新兴应用的需求。

Hikey 是加速器

有了HiAI之后，开发者就能基于其开发应用了，但并不是所有的开发者都能够买一个搭载Kirin 970芯片的手机来开发，且手机上的接口并不能很完美地符合开发者的需求。为了更好地拓展Kirin 970的AI应用范围和方向，华为推出了一个实用的解决方案——HiKey 970 AI开发板。从与周晨的交流中我们得知，这已经是华为Hikey开发板系列的第三款了。