随着物联网时代的到来，智能设备的实时决策能力受到广大科技厂商的关注。本月，华为、苹果接连发布搭载神经网络模块的手机芯片，提振了移动端AI芯片的市场预期。利用神经网络增强设备的本地化智能，将AI从数据中心后台送入用户的口袋，或成为AI芯片的下一个目标。

跨国企业积极布局

苹果一推出用于iPhone的A系列处理器和M系列动态处理器，科技厂商就对面向设备的AI芯片跃跃欲试。寒武纪创始人陈天石表示，自主开发核心AI指令集是发展AI生态的根本之策。ARM与寒武纪英雄所见略同，在最新发布的多核微架构DynamIQ中加入了机器学习和人工智能的原生指令集，并宣称在3~5年内将Cortex-A73的AI性能提升50倍。DynamIQ可在单个集群实现对最多8枚异构内核的细粒度管理，单个内核可以有不同的性能和功耗，带给人工智能应用更加灵活的解决方案，首款基于DynamIQ的嵌入式处理器Cortex-A75将面向智能手机、智能家电、单板机等终端设备。

ARM产品经理Govind Wathan指出，CPU算力的提升将降低设备对云端网络的依赖，提升智慧驾驶等延时敏感场景下的决策响应速度，并优化数据安全。

微软也将在下一代HoloLens的全息处理单元集成一枚自主设计的AI芯片。该芯片利用神经网络模块，基于设备本身处理头部追踪器、红外摄像机生成的视觉数据，避免数据上传云端导致的延时抖动并降低隐私泄露风险。就像ARM标榜DynamIQ是“下一个时代的计算技术”，微软HoloLens技术总监Marc Pollefeys认为混合现实和人工智能代表计算力的未来，微软用AI打造智能化MR设备的尝试正加速它的到来。

将TPU以云服务方式供应的谷歌也意识到设备数据回传远程服务器的延时问题，并在最新发布的安卓穿戴设备上搭载了谷歌首个完全面向终端的机器学习技术。安卓副总工程师Dave Burke透露，谷歌还将发布手机版人工智能学习系统TensorFlow Lite，允许开发者运用谷歌机器学习开发手机App，而且谷歌和Facebook都在推进神经网络在手机和虚拟现实头盔中的应用。

华为略微“抢跑”

据悉，微软AI芯片将随着下一代HoloLens在2019年登场，ARM DynamIQ尚需3~5年的提升周期，谷歌安卓穿戴设备的机器学习功能暂只面向智能简讯系统。而采用麒麟970处理器的华为已“抢跑”成功，率先发布全球首个集成独立AI专用NPU（神经网络处理单元）的移动芯片。

华为消费者BG CEO余承东强调，华为的AI战略是Mobile AI=On Device AI+Cloud AI。说明华为将终端智能与云端智能做出区分，两者并重。据了解，华为NPU支持运动追踪、人脸识别、夜拍优化，峰值运算达到1.92TFP、16OPS。在内部测试中，三星S8每分钟识别图片95张，苹果CPU+GPU的A10处理器每分钟识别487张，搭载CPU、GPU、NPU的麒麟970每分钟识别2005张。与Kirin960的四核Cortex-A73相比，性能提升25倍，效能提升50倍。

紧接着麒麟970，苹果公布搭载神经网络引擎的A11仿生芯片，这款双核仿生神经网络引擎专为机器学习算法开发，能优化面部特征提取、Animoji、增强现实功能，每秒运算次数最高达6000亿次。

与微软的考虑类似，发布了增强现实平台ARKit的苹果需动用手机摄像头、动作传感器、陀螺仪实现场景追踪、光学估算等AR功能，靠云端处理多个传感器的数据将占用内存、加剧延时抖动和数据外流风险，神经网络引擎将支持终端在不联网状态下处理AI相关任务。

“麒麟970的神经网络功能模块和A11的神经运算模型是一种积极的尝试，未来双方的神经网络模块会更完善，集成更多CPU、GPU的软核与模组单元来支持设备本身的智能应用。”赛迪顾问电子信息行业分析师向阳在接受《中国电子报》专访时说。

具有先发优势的华为、苹果并非高枕无忧，老对手高通在终端市场蓄力已久。先是发布骁龙NPE（神经处理引擎）软件开发包，支持开发者基于NPE兼容的Caffe、Caffe2、Tensorflow深度学习框架，利用骁龙600系列和800系列处理器为App搭载AI功能，实现摄像头、汽车、智能手机、无人机的本地化AI应用。继而在上个月收购荷兰深度学习初创公司Scyfer，为高通的AI终端化战略提供技术支持。

高通研发团队认为，将AI算法集成到终端而非云端有利于及时响应、保护隐私、提升性能比和带宽利用效率。高通执行副总裁Matt Grob指出，高通将为手机、智能车等终端搭载机器视觉、自然语言处理能力，并探索AI在无线连接、能源管理和图像方面的应用。

“苹果和华为搭载神经网络单元的芯片有很强的定制色彩，会有优秀的应用性和专业性，但在通用性层面还不能与高通比肩。如果两家企业能推出更多的通用性解决方案，会让各自的AI芯片焕发更大价值。”赛迪智库软件产业所研究员蒲松涛告诉《中国电子报》记者。Scorch AI软件发展负责人Vadim Budarv指出，AI应赋予终端设备积累、学习用户习惯的本地化智能，深入贴合用户喜好，支持智能驾驶、智能监控场景下的实时决策，将人工智能真正送进用户的口袋。