​你不一定知道的高通AI硬实力

高通中国区董事长孟樸在日前举办的“2019 Qualcomm人工智能开放日”上表示，5G将成为一项通用技术，使万事万物彼此互连。 它也将如电力和互联网一样，为人类的生产生活带来翻天腹地的变化，创新者也将迎来一个充满新机遇的时代。

Qualcomm中国区董事长孟樸

“在5G时代，信息就像电一样，往来穿梭于云和端之间，成为一种巨大的新能量。未来的10年中，与5G部署并行发展的技术领域，将是大数据的分析和运用，其核心应用就是人工智能”，孟樸接着说。在他看来，AI将推动整个商业格局的根本性转变，当中包括了手机等移动终端、汽车、智慧交通、物联网等等。

作为产业的领先者，高通正在推动AI从云到端的布局，助力开发者更快走入新时代。

从孟樸的介绍中我们得知，高通在2007年起就启动了首个AI研究项目，公司在过去十多年也一直致力于AI领域各个方面的研究，也驱动公司产品路线图中AI的应用，他们说做的基础研究和所交付的产品，可以让AI应用于众多行业。到2018年，他们还成立了Qualcomm AI Research，希望进一步加速AI创新。

高通投入AI研究已经超过十年

高通技术工程高级总监、 AI研发负责人侯纪磊博士也指出，高通正在打造平台式创新，推动人工只鞥呢在行业实现规模化运用。例如为了实现人工智能的的高能效，高通通过自动化技术，利用AI技术来优化AI模型，缩短产品上市时间并减少工程成本。具体下来则是通过压缩、量化和编译三种方式来实现。

高通实现高能效的三种方式

据侯纪磊介绍，高通在压缩AI模型架构的时候，能够自动移除不重要/荣誉单元，同时保证准确度。数据显示，在压缩大三倍的时候，准确度损失低于1%；在量化方面，也能在自动降低权重和激活进度的同时，保证准确度。从高通提供的数据我们可以看到，他们在FP32和量化INT8上能实现近乎相同的准确度，其更低内存和计算则可以带来每瓦特性能的4倍提升；至于编译方面，高通面向自动化硬件编译的强化学习，可以应对数十种潜在组合，在TensorFlow Lite上更是可以实现4倍加速。

如下图所示，高通在AI硬件加速方面也有不少的研究。这对但比特操作，他们甚至实现了运算能耗的10倍到100倍的提升。“高通甚至能够把量子场论等物理学的基础数学框架运用到深度学习”，侯纪磊强调。

高通在AI硬件加速方面的研究

在这些研究的推动下，高通在之前已经能够为客户提供便捷的端侧方案。例如其骁龙移动平台已为超过10亿部智能手机提供领先的AI加速。以Qualcomm于去年年底推出骁龙855移动平台为例，它集成第四代多核Qualcomm AI Engine，其中包括全新设计的、专门面向AI处理而设计的硬件核心——Hexagon张量加速器（HTA）。

据了解，基于第四代AI引擎的高通骁龙855，在性能上是高通骁龙845的三倍，也是友商竞品的两倍，这主要得益于他们的在软硬件方面的升级。不同于其他竞争对手在手机SoC上独立设计一个加速器，高通通过灵活调用Kryo CPU、Adreno GPU和Hexagon DSP等传统单元，搭配全新的张量加速器，高效率地实现AI加速应用。

从高通之前的介绍我们得知，高通Adreno 640 GPU拥有50%的算术逻辑单元（ALU）提升，支持FP32和FP16浮点运算；Kryo 485 CPU相比前代CPU，性能也有45%的提升，高通也为其融合了进一步加速AI性能的全新点积指令；Hexagon 690 DSP则包含了全新的Hexagon张量加速器、向量扩展内核、以及优化的标量内核。

以上三者的灵活调度帮助骁龙855的第四代AI Engine实现了每秒7TOPs的运算能力，在多个方面赋能终端设备。

高通SoC的AI能力

高通同时也看到了云端推理的需求，凭借在移动领域的独特设计专长——领先的工艺制程、先进的信号处理、低功耗和规模化，高通宣布推出全新打造的Qualcomm Cloud AI 100加速器。这款用于数据中心的AI推理处理器，旨在让分布式智能可以从云端遍布至终端之间的全部节点。高通也将为开发者提供完整的工具和框架支持。

基于这些技术，高通在日前于深圳举办的人工智能开放日上，携手20多个伙伴带来了超过40项基于高通AI Engine的AI应用。使用搭载骁龙移动平台的OPPO、三星、vivo、小米等智能手机和利用基于骁龙平台的AI开发套件，虹软、百度、大象声科、华捷艾米、Loom.ai、旷视、Mobius、Morpho、商汤、腾讯王者荣耀、腾讯AI Lab、中科创达、有道等企业展示了包括智慧影音、娱乐游戏、生活工具和行业应用等四大类，如移动端AI电竞战队、AI通话智能降噪、AI啸叫抑制、AI智能超级夜景、AI 智能美颜拍照、AI智能视频虚化、实时语音翻译、AR全屏翻译、无人超市等丰富多彩的应用，为用户带来更高效、智能、具备感知能力的极致体验。

孟樸也指出，到2025年，智能手机、PC/平板电脑、扩展现实（XR）、汽车和物联网这五大领域中的AI应用率将会从2018年的不到10%提升到100%，而高通将会在当中扮演一个重要角色。