边缘运算带动新的市场商机和转型,也让市场对硬件有了新的需求,包括大量装置如何管理、人工智能的导入与安全防护如何实现等,但随着开发过程难度上升,许多厂商开始着手升级开发工具的完整和便利性,让开发者可以专注在自身业务的投入,造就新一波开发风潮。
边缘运算改变既有架构,带动新型开发需求
边缘运算触角已涵盖各领域并得到落实,但由于架构从集中式转为多节点的分散式,边缘端(如终端和闸道器等)的自主性提升,使得底层的装置管理将更复杂、网络技术融合也会更重要,而且安全防护机制需要更加谨慎,因此开发过程需要考量的内容越来越多元,自然增加开发过程的难度。
▲ 边缘运算基本架构(Source:拓墣产业研究院,2018/08)
对开发者来说,开发过程难度提升会影响产品与服务产出速度和效率,因此越来越多上游厂商积极改善开发工具的实用和便利性,协助开发者专注于自身创新业务开发,而非工具的学习。以下便分析上游 IP 厂商 ARM、芯片厂商 Intel 与云端厂商微软等在开发工具和平台的布局与进展。
ARM──从边缘端进行全方面 IP 扩增
知名 IP 厂 ARM 从多方切入积极布局边缘运算,于 2017~2018 年推出各式相关 IP,并协助开发者降低开发难度。除了三大芯片 IP 系列产品外,ARM 先前已推出 ARM Mbed 平台,包括 Mbed Cloud 和 Mbed OS 两大部分,Mbed 主要是基于 ARM 架构,针对 IoT 服务发展的基础建设框架,并搭配自家 Cortex-M 芯片进行市场推广和建立生态系。Mbed Edge 主要是透过物联网闸道器让使用者能将 Mbed Cloud 装置管理功能进一步拓展,如对装置进行导入、控制与管理等。
Mbed Edge 有三大特点:1. 通讯协定转译:可将非 IP 协定的联网装置(如LoRa和Modbus)转译成 IP based,共同在 Mbed Cloud 进行管理;2. 闸道器管理:提高 IoT 闸道器的复原能力和降低停机时间,并新增强化如发送警报通知、程序、资源、诊断与界面管理;3. 实现边缘运算:使用者可依需求将复杂程度不同的运算资源或演算规则置于闸道器中,就算与云端断线仍能独立运作。
让物联网闸道器具备运算资源有两大好处:1. 闸道器不必从云端接收指令就能驱动简单的应用,例如监控生产线的压力值,一旦系统自动判定预设门槛便会自动关闭生产线,过程不再需要经过云端;2. 可节省网络流量,借由闸道器或终端自行决定是否要传送资料或舍弃。
2018 年后 ARM 进一步针对 Mbed Cloud 进行翻新,厂商可利用新版 Mbed Cloud 实现更弹性的物联网部署方式。虽然云端已为多数厂商采用,但仍有厂商受限于安全和法律议题无法跟进,新版 Mbed Cloud 便是针对此现况,开始支援内部部署装置管理,让 Mbed Cloud 可支援多个公有、私有、混合云与内部部署等环境,并让受限装置得以连网。由于厂商得以使用、管理并整合新设备和既有设备,新版 Mbed Cloud 亦有助边缘运算的推动。
在边缘运算布局上,ARM 也在 2018 年推出 Project Trillium 机器学习运算平台,以因应大量人工智能应用导入终端装置趋势。终端装置在符合大量运算需求同时,也要能维持同样能源效率,该平台除了提供使用者高度弹性和扩充性,也将更多人工智能应用带进各类终端装置。
在安全防护方面,ARM 推出 PSA 框架,与首款针对物理安全防窜改的处理器 ARM Cortex-M35P,搭配如 TrustZone、CryptoCell 与 CryptoIsland 等技术和 IP,让终端装置在面对网络、软件与物理等多方面攻击时,有更强防护能力。
从上述新产品和服务可以看出,ARM 从边缘端的安全、运算与扩充弹性等各方面进行升级,积极实现 2035 年前达到全球 1 兆连网设备目标。而 2018 年 5 月中 ARM 也与韩国电力厂商 KEPCO 合作仪表系统升级,利用 Mbed Edge 让 KEPCO 部署各类智慧闸道器,连结电网和公共事业服务,以及对各种家用电器进行资料即时分析,协助优化能源的消费状况。
Intel──重视视觉于边缘端的应用
做为全球最重要芯片厂商之一,Intel 积极布局物联网、人工智能与边缘运算相关策略和产品线。从 CES 2018 开始,Intel 便推出许多边缘运算相关展示,例如与多家厂商合作智慧家庭产品,包括京东新一代语音助理京东叮咚 PLAY,内含 Intel Atom 处理器,除了具备语音辨识能力外,亦可直接从装置执行脸部辨识。
此外,Intel 也与宏碁、华硕、HP 与联想等电脑品牌厂商合作,推出搭载 Amazon Alexa 语音助理的电脑产品。Intel 参与协助改善 Alexa 使用体验,使其支援免手动操控的语音控制,并透过智慧音效技术强化音讯品质和语音唤醒功能,让使用者可利用语音指令唤醒电脑。
CES 展后,Intel 接着以 2017 年推出的 Intel Xeon 可扩充平台为基础,推出新型 Xeon D-2100 系列处理器,以将更多运算与智慧能力结合在消费者和商用装置上(如手机、物联网感测器与自驾车等),直接在网络边界(边缘端)搜集资料,并于当下做出回馈。
该处理器将智慧功能内嵌于功耗更低的系统单芯片(SoC),支援各种过往因空间和功耗限制而无法导入智慧应用的边缘环境,如此一来有机会将芯片尺寸缩小,并优化边缘端硬件装置的安全、网络、加速与功耗等,未来可因应 5G、网络虚拟化与串联云端资源等应用。
在边缘运算相关范畴中,Intel 特别着重视觉应用技术,近期就购并了 Nervana、Movidius、MobilEye 与 Altera。在 COMPUTEX 2018 前,Intel 更特别针对机器视觉应用发表开放视觉推论和类神经网络最佳化工具套件 OpenVINO,协助开发者快速将边缘装置和物联网装置收集到的影像资料转换成有价值资讯。
OpenVINO 可让开发者结合搭配 CPU、GPU、FPGA 与 VPU 等硬件,并搭配套件中 3 组主要 API,分别是 Deep Learning Deployment Toolkit(深度学习部署工具)、OpenCV(开源电脑视觉及影像处理工具)与 OpenVX(电脑视觉 API 标准),再利用 Intel 旗下深度学习编译器 nGraph 进行开发。该开发套件亦与市场间主流框架如 TensorFlow、MXNet 与 Caffe 等相容,让开发者得以更多元工具进行开发。
目前该开发套件已与工业电脑厂商凌华(ADLINK)进行辨识条码来达到追踪产品目的,亦与神基(Getac)ALPR 系统进行自动撷取车牌影像功能,并与威联通和威强电合作进行医疗影像收集,并利用影像强化 AI 推论能力,协助诊治老年性黄斑部病变。
微软──提升边缘端开发便利与相容性
微软近年积极发展边缘运算,微软首席执行官更于 2018 年开发者大会上表示,Intelligent Cloud 和 Intelligent Edge 时代已来临,将大力投入 AI 技术、产品与服务开发,并以社会公益角度出发,除了之前启动的“AI for Earth”计划,另一个针对残疾人士的“AI for Accessibility”5 年计划也跟着开启,预计将投入 2,500万美元。
微软最初以物联网相关业务切入,推出 Azure IoT 套件,协助厂商进行 IoT 业务转型,其中与边缘运算较有关系的为 Azure IoT Hub 和 2017 年推出的 Azure IoT Edge。Azure IoT Hub 主要处理云端和装置间的沟通,包括通讯模式和协定支援、装置安全性与装置状态监控;Azure IoT Edge 则是导入在 Azure IoT Hub 之前,主要是将云端分析结果或自定义逻辑演算置入装置中,让装置不再只是收集资料或资料管理的管道,而是可确实将 AI 应用落地的解决方案。
微软对 Intelligent Edge 的认知在于,未来智慧装置并不需时刻处于连网状态,就能让使用者观看、倾听、理解与进行预测,亦即智慧装置需拥有更多运算和自处理的能力。
微软也于 2018 年升级 Azure IoT Edge,若从开发端来看,首先是将 Azure IoT Edge 进行开源,让客户可自行修改 Edge 端应用,提高掌控度;第二为既有 Azure 认知服务中的 Custom Vision 服务,已得以部署至 Azure IoT Edge 中,让无人机和工业设备等边缘端装置不需连网就能进行关键决策。预计未来微软将会在 Azure IoT Edge 上开放更多认知服务。
第三便是容器化解决方案的简化,微软的 Azure Kubernetes Service(AKS)大幅整合开发工具、工作空间、DevOps 功能、网络与监控工具等功能,让开发者可专注于编程而非工具的学习和转换,也让开发者能迅速上手 Kubernetes,且微软预计也将让 Azure IoT Edge 装置支援 Kubernetes 服务,从微软对 AKS 的重视,也可看出 Kubernetes 对开发者社群的重要性日增。
除了开发者方面,Microsoft也与其他厂商合作,例如与无人机大厂 DJI 共同推出针对 Windows 10 电脑创建的 SDK,以 Azure 做为云端平台,拓展商用无人机与 SaaS 解决方案。该 SDK 有助于提升 Windows 10 相关无人机装置,实现更佳的飞行控制和即时资料传输能力,同时两方也将共同开发基于 Azure IoT Edge 和 Microsoft人工智能的解决方案。
Microsoft亦与另一个芯片大厂高通(Qualcomm)共同打造执行于 Azure IoT Edge 的 Vision AI 开发套件,主要是为基于摄影镜头的物联网解决方案提供关键软硬件支援,开发者可透过 Azure Machine Learning Services、Qualcomm Vision Intelligence Platform 与 Qualcomm AI Engine 加速解决方案生成,这些摄影镜头也能于 Azure 平台上执行进阶服务,例如机器学习、串流分析与认知服务,并载入于 Edge 端运行。
由上述Microsoft各项发展可知,从 Azure IoT Edge 进行业务扩展和生态圈布建已是未来策略主轴,除了简化与强化 Edge 端的开发过程和功能外,也会将既有的认知服务逐步与 Azure IoT Edge 结合,让人工智能得以在边缘端落实,达到 Intelligent Edge 目标。
技术的开放和创新对Microsoft来说是现在进行式,也确实受到市场肯定,因此Microsoft持续积极建立生态圈和深化合作关系,2018 年也发起“Intelligent edge 合作伙伴社群”,希望透过认证等方式强化与合作伙伴的关系。
小结
AI 加速朝边缘移动,视觉将是主要广泛应用
随着运算能力提升加上人工智能导入,有助于边缘端实现更多智慧化和自动化的应用,其中视觉应用将会成为边缘运算主流之一,例如物件辨识、人脸辨识、行为辨识、即时侦错与即时警示等都会开始应用于各场域中,涵盖制造业、智慧城市、自驾车、智慧家庭与智慧零售等,将会成为边缘运算兴起的第一波主要亮点。
边缘运算架构更趋复杂,开发工具讲求便利与全面
由于边缘运算不同于过往连上云端时,需时时保持连网状态,加上边缘端的运算和执行能力提升,可以加入更多安全防护措施。但边缘运算将云端架构分层处理,在数据的筛选、传递、储存与应用上差异极大,整体架构将更复杂,也因此有越来越多厂商致力于降低开发者在开发过程时遇到的困难,预计便利性高的开发工具将日渐增加。
(首图来源:shutterstock)
延伸阅读:
- 边缘运算提升稳定与效率,估智慧制造 2020 年产值达 3,200 亿美元
- 企业护机密,云端退烧、边缘运算当红