高通中国区董事长孟樸在日前举办的“2019 Qualcomm人工智能开放日”上表示,5G将成为一项通用技术,使万事万物彼此互连。它也将如电力和互联网一样,为人类的生产生活带来翻天腹地的变化,创新者也将迎来一个充满新机遇的时代。
Qualcomm中国区董事长孟樸
“在5G时代,信息就像电一样,往来穿梭于云和端之间,成为一种巨大的新能量。未来的10年中,与5G部署并行发展的技术领域,将是大数据的分析和运用,其核心应用就是人工智能”,孟樸接着说。在他看来,AI将推动整个商业格局的根本性转变,当中包括了手机等移动终端、汽车、智慧交通、物联网等等。
作为产业的领先者,高通正在推动AI从云到端的布局,助力开发者更快走入新时代。
从孟樸的介绍中我们得知,高通在2007年起就启动了首个AI研究项目,公司在过去十多年也一直致力于AI领域各个方面的研究,也驱动公司产品路线图中AI的应用,他们说做的基础研究和所交付的产品,可以让AI应用于众多行业。到2018年,他们还成立了Qualcomm AI Research,希望进一步加速AI创新。
高通投入AI研究已经超过十年
高通技术工程高级总监、 AI研发负责人侯纪磊博士也指出,高通正在打造平台式创新,推动人工智能在行业实现规模化运用。例如为了实现人工智能的的高能效,高通通过自动化技术,利用AI技术来优化AI模型,缩短产品上市时间并减少工程成本。具体下来则是通过压缩、量化和编译三种方式来实现。
高通实现高能效的三种方式
据侯纪磊介绍,高通在压缩AI模型架构的时候,能够自动移除不重要/荣誉单元,同时保证准确度。数据显示,在压缩大三倍的时候,准确度损失低于1%;在量化方面,也能在自动降低权重和激活进度的同时,保证准确度。从高通提供的数据我们可以看到,他们在FP32和量化INT8上能实现近乎相同的准确度,其更低内存和计算则可以带来每瓦特性能的4倍提升;至于编译方面,高通面向自动化硬件编译的强化学习,可以应对数十种潜在组合,在TensorFlow Lite上更是可以实现4倍加速。
如下图所示,高通在AI硬件加速方面也有不少的研究。这对但比特操作,他们甚至实现了运算能耗的10倍到100倍的提升。“高通甚至能够把量子场论等物理学的基础数学框架运用到深度学习”,侯纪磊强调。
高通在AI硬件加速方面的研究
在这些研究的推动下,高通在之前已经能够为客户提供便捷的端侧方案。例如其骁龙移动平台已为超过10亿部智能手机提供领先的AI加速。以Qualcomm于去年年底推出骁龙855移动平台为例,它集成第四代多核Qualcomm AI Engine,其中包括全新设计的、专门面向AI处理而设计的硬件核心——Hexagon张量加速器(HTA)。
据了解,基于第四代AI引擎的高通骁龙855,在性能上是高通骁龙845的三倍,也是友商竞品的两倍,这主要得益于他们的在软硬件方面的升级。不同于其他竞争对手在手机SoC上独立设计一个加速器,高通通过灵活调用Kryo CPU、Adreno GPU和Hexagon DSP等传统单元,搭配全新的张量加速器,高效率地实现AI加速应用。
从高通之前的介绍我们得知,高通Adreno 640 GPU拥有50%的算术逻辑单元(ALU)提升,支持FP32和FP16浮点运算;Kryo 485 CPU相比前代CPU,性能也有45%的提升,高通也为其融合了进一步加速AI性能的全新点积指令;Hexagon 690 DSP则包含了全新的Hexagon张量加速器、向量扩展内核、以及优化的标量内核。
以上三者的灵活调度帮助骁龙855的第四代AI Engine实现了每秒7TOPs的运算能力,在多个方面赋能终端设备。
高通SoC的AI能力
高通同时也看到了云端推理的需求,凭借在移动领域的独特设计专长——领先的工艺制程、先进的信号处理、低功耗和规模化,高通宣布推出全新打造的Qualcomm Cloud AI 100加速器。这款用于数据中心的AI推理处理器,旨在让分布式智能可以从云端遍布至终端之间的全部节点。高通也将为开发者提供完整的工具和框架支持。
基于这些技术,高通在日前于深圳举办的人工智能开放日上,携手20多个伙伴带来了超过40项基于高通AI Engine的AI应用。使用搭载骁龙移动平台的OPPO、三星、vivo、小米等智能手机和利用基于骁龙平台的AI开发套件,虹软、百度、大象声科、华捷艾米、Loom.ai、旷视、Mobius、Morpho、商汤、腾讯王者荣耀、腾讯AI Lab、中科创达、有道等企业展示了包括智慧影音、娱乐游戏、生活工具和行业应用等四大类,如移动端AI电竞战队、AI通话智能降噪、AI啸叫抑制、AI智能超级夜景、AI 智能美颜拍照、AI智能视频虚化、实时语音翻译、AR全屏翻译、无人超市等丰富多彩的应用,为用户带来更高效、智能、具备感知能力的极致体验。
孟樸也指出,到2025年,智能手机、PC/平板电脑、扩展现实(XR)、汽车和物联网这五大领域中的AI应用率将会从2018年的不到10%提升到100%,而高通将会在当中扮演一个重要角色。