[原创] 怎样发挥Kirin 970人工智能的最大威力?
在华为发布搭配NPU的Kirin 970之后,行内人员都对这个AI芯片的应用充满了各种想象和疑问,这不但因为它是业界首颗集成NPU的移动SoC,更因为它的强悍性能。据公开资料显示,Kirin 970每分钟处理2005张图片;而在没有NPU的情况下,同样时间处理的图片只有97张。可见NPU在人工智能世界里的实力。
华为无线终端芯片产品市场总监周晨在日前于香港举办的Linaro 开发者大会上也表达了同样的观点。他指出,NPU由于本身设计的独特性,能够高效地运行神经网络模型,大大提升推理的效率,这是CPU和GPU所不能比拟的。但华为的AI布局并不仅仅是NPU,他们所提供的是一套便捷的解决方案:
Kirin 970的GPU/CPU/NPU的Die面积和NN性能对比
华为HiAI移动计算平台是一个开放的AI生态,能够将Kirin 970的AI能力“赋予”第三方的应用,而这主要基于开发者的需求所决定的。在周晨看来,现在的开发者在做开发的时候,非常关注开发成本、收益和IP保护三个方面,而HiAI正好能够完美解决这解决这个问题。
HiAI移动计算平台
作为一个面向人工智能应用的异构计算机构。HiAI拥有了几项方便开发者的特性:
(1)提供一些经常被使用的人工智能功能API,这样的话上层应用就可以利用这些API更好的将相关模型在移动设备上运行;
(2)支持更多主流的架构,兼容更多的模型;
(3)提供对模型和算子的独立硬件加速。
(4)异构计算配置,能够让开发者可以灵活的配置神经网络模型的加速。从上图我们可以看到,HiAI底层提供了GPU、CPU、DSP和NPU的硬件支持,应用在运行的时候,芯片会判断工作量和对时延的需求,然后自动选择GPU或者AI加速器执行相关处理,这样就能达到性能最优化处理的效果。
HiAI最新SDK支持的项目
根据周晨介绍,HiAI移动计算平台支持稀疏模型加速,且NPU可以跳过系数为零的乘加运算,这可在保持计算精度的同时,大大提高计算效率,并降低了带宽要求;另外,HiAI移动计算平台支持8位和1位量化,有效降低计算带宽和存储消耗,提高能耗效率。
在这个基础之上,华为还将对HiAI持续升级(例如增加对Caffe 2和ONNX等的支持),保证整个平台符合新兴应用的需求。
有了HiAI之后,开发者就能基于其开发应用了,但并不是所有的开发者都能够买一个搭载Kirin 970芯片的手机来开发,且手机上的接口并不能很完美地符合开发者的需求。为了更好地拓展Kirin 970的AI应用范围和方向,华为推出了一个实用的解决方案——HiKey 970 AI开发板。从与周晨的交流中我们得知,这已经是华为Hikey开发板系列的第三款了。
Hikey 970
周晨表示:“新的Hikey 970不但支持华为HiAI SDK,而且相对于纯CPU运算AI,Hikey 970更有25倍的性能提升和50倍的效率提升。当然,支持流行的AI栈、主流的OS和更多的硬件接口也是必不可少的。”
HiKey 970的规格
在周晨看来,通过提供开发板的方式,一方面可以让大家能够感受到Kirin 970的人工智能实力,能在上面做更多的创新,为华为和相关的开发者提供更多的应用方向;另一方面,由于有了更多的开发者在上面投入开发,也为芯片升级提供了更多思路和指引方向,从而为更好地满足开发者的需求,也为消费者带来更好的体验。
华为方面也打算通过人才培养、开发支持,创新支持和市场等计划来扩展Hikey 970的覆盖范围。
闪耀明星计划
关于AI,其实大家最关注的还是应用的问题,在问到华为对于AI未来应用的展望时。
周晨回答说:“现在华为的HiAI的API已经支持了比较多的应用,展望未来的更多创意方向,期待大家的共同挖掘。”
HiAI目前支持的多种类型应用
你对AI的应用有什么期望?
文/半导体行业观察 李寿鹏
今天是《半导体行业观察》为您分享的第1540期内容,欢迎关注。
R
eading
推荐阅读(点击文章标题,直接阅读)
关注微信公众号 半导体行业观察 ,后台回复关键词获取更多内容
回复 摩尔定律 ,看更多与摩尔定律相关的文章
回复 材料 ,看更多与半导体材料相关的文章
回复 面板 ,看更多面板行业的文章
回复 晶体管 ,看更多与晶体管相关的文章
回复 晶圆 ,看晶圆制造相关文章
回复 士兰微 ,看更多与士兰微公司相关的文章
回复 ISSCC ,看《从ISSCC论文看半导体行业的走势》
回复 展会 ,看《2017最新半导体展会会议日历》
回复 投稿 ,看《如何成为“半导体行业观察”的一员 》
回复 搜索 ,还能轻松找到其他你感兴趣的文章!
点击阅读原文了解摩尔精英
- 半导体行业观察
- 摩尔芯闻