芯片厂竞逐边缘运算,谁将突围?
2018-07-30
边缘运算带动新的市场商机,大量装置如何管理、人工智能如何导入、安全防护如何实现等,让市场对硬体有新的需求,但随着开发难度上升,许多厂商着手升级开发工具的完整和便利性,让开发者可以专注在自身业务的投入,造就了新一波开发风潮。
边缘运算的触角已涵盖各领域并得到落实,但架构从集中式转为多节点的分散式、边缘端(如终端和闸道器等)的自主性提升,使得底层的装置管理更复杂、网路技术的融合也更重要,而且安全防护的机制需要更加谨慎,因此开发过程需要考量的内容越来越多元,增加开发的难度。
也因此,越来越多上游厂商积极改善开发工具的实用和便利性,协助开发者专注于自身创新业务开发,而非工具的学习。以下分析上游IP厂商ARM、芯片厂商英特尔与云端厂商微软等在开发工具和平台的布局与进展。
ARM从多方切入积极布局边缘运算,于2017~2018年推出各式相关IP,并协助开发者降低开发难度。除了三大芯片IP系列產品外,ARM先前已推出ARM Mbed平台,包括Mbed Cloud和Mbed OS两大部分,Mbed主要是基于ARM架构,针对IoT服务发展的基础建设框架,并搭配自家Cortex-M芯片建立生态系。Mbed Edge则透过物联网闸道器让使用者能将Mbed Cloud装置管理功能进一步拓展,如对装置进行导入、控制与管理等。
Mbed Edge有三大特点:一、通讯协定转译:可将非IP协定的联网装置(如LoRa和Modbus)转译成IP based,共同在Mbed Cloud进行管理。二、闸道器管理:提高IoT闸道器的復原能力和降低停机时间,并新增如发送警报、程式、资源、诊断与介面管理。三、进行边缘运算:使用者可依需求将复杂程度不同的运算资源或演算法置于闸道器中,就算与云端断线仍能独立运作。
ARM进行全方面IP扩增
让物联网闸道器具备运算资源有两大好处,一是闸道器不必从云端接收指令就能做简单的应用与判断,例如监控生產线的压力值,一旦系统自动判定预设门槛便会自动关闭生產线,过程不再需要经过云端,二是可节省网路流量,藉由闸道器或终端自行决定是否要传送资料或舍弃。
2018年后ARM翻新Mbed Cloud,厂商可利用新版Mbed Cloud部署更有弹性的物联网。虽然云端已为多数厂商採用,仍有厂商受限于安全和法律议题无法跟进,新版Mbed Cloud便是针对此而增加内部部署装置管理,让Mbed Cloud可支援多个公有、私有、混合云与内部部署等环境,并让受限装置得以连网。由于厂商得以使用、管理并整合新设备和既有设备,新版Mbed Cloud亦有助边缘运算的推动。
在边缘运算的布局上,ARM在2018年推出Project Trillium机器学习运算平台,以因应大量人工智能应用导入终端装置的趋势。终端装置在符合大量运算需求时,也要能维持同样能源效率,该平台除了提供使用者弹性和扩充性,也将更多人工智能应用带进各类终端装置。
在安全防护方面,ARM则推出PSA框架,与首款针对物理安全防窜改的处理器ARM Cortex-M35P,搭配如TrustZone、CryptoCell与CryptoIsland等技术和IP,让终端装置在面对网路、软体与物理等多方面攻击时,有更强防护能力。
从上述新產品和服务可以看出,ARM从边缘端的安全、运算与扩充弹性等各方面升级,积极朝向2035年前达到全球1兆连网设备的目标前进。2018年5月中ARM与南韩电力厂商KEPCO合作仪表系统升级,利用Mbed Edge让KEPCO部署各类智能闸道器,连结电网和公共事业服务,以及对各种家用电器进行资料即时分析,协助优化能源的使用。
身为全球最重要芯片厂商之一,英特尔积极布局物联网、人工智能与边缘运算相关策略和產品线。在2018年初CES展,英特尔便推出许多边缘运算相关展示,例如与多家厂商合作智能家庭產品,包括京东新一代语音助理京东叮咚PLAY,内含英特尔Atom处理器,除了支援语音辨识外,亦可直接从装置执行脸部辨识。
英特尔重视视觉应用
此外,英特尔也与宏碁、华硕、惠普与联想等PC品牌厂商合作,推出搭载亚马逊Alexa语音助理的电脑。英特尔参与协助改善Alexa使用体验,使其支援语音控制,并透过智能音效强化音讯品质和语音唤醒,让使用者可利用语音指令唤醒电脑。
CES展后,英特尔接着以2017年推出的英特尔Xeon可扩充平台为基础,推出新型Xeon D-2100系列处理器,将更多运算与智能能力结合在消费者和商用装置上(如手机、物联网感测器与自驾车等),直接在网路边缘端搜集资料,并于当下做出回馈。
该处理器将智能功能内嵌于功耗更低的系统单芯片,支援各种过往因空间和功耗限制而无法导入智能应用的边缘环境,如此一来有机会将芯片尺寸缩小,并优化边缘端瞵体装置的安全、网路、加速与功耗等,未来可因应5G、网路虚拟化与串联云端资源等应用。
在边缘运算相关范畴中,英特尔特别着重视觉应用技术,近期併购了Nervana、Movidius、MobilEye与Altera。在Computex 2018前,英特尔更针对机器视觉应用,开放视觉推论和类神经网路工具套件OpenVINO,协助开发者快速将边缘装置和物联网装置收集到的影像资料,转换成有价值的资讯。
OpenVINO可让开发者结合搭配CPU、GPU、FPGA与VPU等硬体,并搭配套件中三组主要API,分别是Deep Learning Deployment Toolkit(深度学习部署工具)、OpenCV(开源电脑视觉及影像处理工具)与OpenVX(电脑视觉API标准),再利用英特尔旗下深度学习编译器nGraph做开发。该开发套件亦与市场间主流框架如TensorFlow、MXNet与Caffe等相容,让开发者得以更多元工具进行开发。
目前该开发套件已与工业电脑厂商凌华合作辨识条码,来追踪產品,亦与神基ALPR系统合作开发自动撷取车牌影像,并与威联通和威强电合作进行医疗影像收集,利用影像强化AI推论能力,协助诊治老年性黄斑部病变。
微软提升研发便利性
微软近年积极发展边缘运算,微软执行长于2018年开发者大会上表示英特尔ligent Cloud和英特尔ligent Edge时代已来临,将大力投入AI技术、產品与服务开发,并以社会公益角度出发,除了之前启动的AI for Earth,另一个针对残疾人士AI for Accessibility的5年计画也跟着开启,预计将投入2,500万美元。
微软最初以物联网相关业务切入,推出Azure IoT套件,协助厂商做IoT业务转型,其中,与边缘运算较有关系的为Azure IoT Hub和2017年推出的Azure IoT Edge。Azure IoT Hub主要处理云端和装置间的沟通,包括通讯模式和协定支援、装置安全性与装置状态监控,Azure IoT Edge则是导入在Azure IoT Hub之前,主要是将云端分析结果或自定义逻辑演算置入装置中,让装置不再只是收集资料或资料管理的管道,而是可确实将AI应用落地的解决方案。
微软对英特尔ligent Edge的认知在于,未来智能装置并不需时刻处于连网状态,就能让使用者观看、倾听、理解与进行预测,亦即智能装置需拥有更多运算和自行处理的能力。
微软也于2018年升级Azure IoT Edge,若从开发端来看,首先是将Azure IoT Edge进行开源,让客户可自行修改Edge端应用,提高掌控度,第二为既有Azure认知服务中的Custom Vision服务,已得以部署至Azure IoT Edge中,让无人机和工业设备等边缘端装置不需连网就能进行关键决策。预计未来微软将会在Azure IoT Edge上开放更多认知服务。
第三便是容器化解决方案的简化,微软的Azure Kubernetes Service(AKS)大幅整合开发工具、工作空间、DevOps功能、网路与监控工具等功能,让开发者可专注于开发而非工具的学习和转换,也让开发者能迅速上手Kubernetes,微软预计也会让Azure IoT Edge设备支援Kubernetes服务,从微软对AKS的重视,也可看出Kubernetes对开发者社群的重要性日增。
由上述微软各项发展可知,从Azure IoT Edge进行业务扩展和生態圈布建已是未来策略主轴,除了简化与强化Edge端的开发过程和功能外,也会将既有的认知服务逐步与Azure IoT Edge结合,让人工智能得以在边缘端落实,达到英特尔ligent Edge目标。
随着运算能力提升加上人工智能导入,边缘端将能实现更多智能化和自动化的应用,其中视觉应用将会成为边缘运算主流之一,例如物件辨识、人脸辨识、行为辨识、即时侦错与即时警示等,都会开始应用于各场域中,涵盖制造业、智能城市、自驾车、智能家庭与智能零售等,成为边缘运算兴起的第一波亮点。
边缘运算不同于过往连上云端时,需时时保持连网状态,加上边缘端的运算和执行能力提升,可以加入更多安全防护措施,但边缘运算将云端架构分层处理,在数据的筛选、传递、储存与应用上差异极大,整体架构将更复杂,便利性高的开发工具将日渐增加。(本文作者为拓墣產业研究院研究员刘耕睿)。