这个9月，AI芯片独角兽地平线发布了自诩最强边缘 AI 芯片地平线「旭日3」，一时间引起轰动。相比第二代芯片，「旭日3」的AI性能上得到很大提升，只需在 2.5W 的功耗下，能够达到等效 5TOPS 的标准算力。尤其是对应高端市场的旭日3M，有更强大的编解码能力，强大的ISP效果令其极具竞争力。
这些年来，地平线的主要精力都放在旭日及征程等系列，产品线主要聚焦在边缘AI芯片这一领域，这也让地平线成为全球估值最高的人工智能芯片独角兽。众所周知，AI芯片分为云端和边缘端，云端芯片要求高性能，边缘端芯片由于应用场景众多，对于环境和能耗等也有更多要求。事实上，当前边缘AI芯片已不再是个小众领域，除地平线以外，包括谷歌、英伟达、英特尔、高通、华为、寒武纪均于近两年推出边缘AI芯片，AI芯片的战火已经由云端蔓延到了边缘。根据全球技术市场咨询公司 ABI Research 的数据显示：预计到2025年，边缘 AI 芯片组市场的收入将达到122亿美元，云AI芯片组市场的收入将达到119亿美元。边缘 AI 芯片组市场将超过云AI芯片组市场。首席分析师Lian Jye Su 表示：随着行业的发展，企业越来越多的需要解决有关数据隐私、电源效率、低延迟和强大的设备上计算性能等问题，边缘AI将是解决方案。预期在未来五年，AI训练与推论会在网关或是各种边缘装置进行，甚至往下到传感器节点。那么，边缘AI到底是什么，靠什么能解决这些行业痛点呢？一、边缘计算与边缘AI近年来，物联网设备连接数呈现出线性增长趋势。据Gartner预测，到2020年，全球物联网设备的数量将超过200亿台。与此同时，设备本身也变得越来越智能化。人工智能与物联网在实际应用中的落地与融合，将推动人类社会进入“万物智能互联”时代，而随之产生的数据也将呈井喷式爆发。在过去的十年里，云计算成功地缓解了日益增长的数据所带来的存储、管理等问题，但是目前网络带宽的增长速度远远赶不上数据的增长速度，网络带宽成本的下降速度要比CPU、内存这些硬件资源成本的下降速度慢很多，同时复杂的网络环境让网络延迟很难有突破性提升。所以，传统的云计算不能满足对响应时间和安全性的高要求。以无人驾驶汽车为例，高速行驶的汽车需要在毫秒级的时间内响应，一旦由于数据传输、网络等问题导致系统响应时间增加，将会造成严重的后果。除此之外，云计算还面临带宽不足的问题。如果将边缘设备产生的大量数据全部传输至云计算中心，会给网络带宽造成极大的压力。例如，飞机波音787每秒产生的数据超过5GB，但飞机与卫星之间的带宽不足以支持数据的实时传输。总之，单纯依靠云计算这种集中式的计算处理方式，不足以支持以物联网感知为背景的应用程序运行和海量数据处理。在这种应用背景下，边缘计算应运而生。它与现有的云计算集中式处理模型相结合，能有效解决云中心和网络边缘的大数据处理问题。边缘计算是云计算的一种补充和优化。如果说云计算是集中式、在“云端”进行的大数据处理，那么，边缘计算则可以理解为边缘侧、靠近终端（例如手机、智能语音交互设备等）的大数据处理。在很多情况下，边缘计算和云计算是共生关系。有个形象的解释，把云计算和边缘计算比喻成章鱼的各器官，似乎更容易理解。作为自然界中智商最高的无脊椎动物，章鱼拥有“概念思维”能力，与两个强大的记忆系统分不开。一个是大脑记忆系统，大脑具有5亿个神经元，另一个是八个爪子上的吸盘。也就是说，章鱼的八条腿可以思考并解决问题。云计算就好比章鱼的大脑，边缘计算就类似于八爪鱼的那些小爪子，一个爪子就是一个小型的机房，靠近具体的实物。边缘计算更靠近设备端，更靠近用户。具体而言，边缘计算有几个明显的优点：带宽：边缘设备处理了部分产生的临时数据，不再需要将全部数据上传至云端，只需要传输有价值的数据，这极大地减轻了网络带宽的压力，且减少了对计算存储资源的需求；延迟：在靠近数据源端进行数据处理，能够大大地减少系统时延，提高服务的响应时间；经济性：某个应用如果使用云端，即使能从技术上解决带宽和延迟问题，但在边缘执行计算可能更划算；可靠性：某个应用如果使用云端，即使能从技术上解决带宽和延迟问题，但到云端的网络连接并非一直可靠，而应用可能需要一直运作。在这种情况下，就要使用边缘计算了。例如人脸辨识门锁，如果网络连接断开，你希望门锁仍然正常工作；隐私：某个应用如果使用云端，即使能从技术上解决带宽、延迟、可靠性和经济性等问题，可能仍有许多应用出于隐私考虑而需要进行本地处理。边缘计算为关键性隐私数据的存储与使用提供了基础设施，提升数据的安全性。边缘计算因为其突出的优点，满足未来万物联网的需求，从2016年开始迅速升温，引起全球的密切关注。当然，边缘计算是一个持续迭代更新的概念，不同技术的融合，使得边缘计算的内核不断创新，例如人工智能和神经网络的应用，也正在赋能“边缘AI”的落地。得益于云端服务器广泛的数据计算能力，人工智能和机器学习领域取得了巨大进步，发展出更加综合性的人工神经网络，以解决富于挑战性的任务。随着机器学习、神经网络训练等网络架构和工具不断适配、兼容到嵌入式系统上，越来越多的AI应用也可以直接在边缘设备运行，于是“边缘AI”成为了当下讨论的热点。边缘AI是指在硬件设备上本地处理的AI算法，可以在没有网络连接的情况下处理数据。这意味着可以在无需流式传输或在云端数据存储的情况下进行数据创建等操作。为了实现这些目标，边缘计算可以在云上靠深度学习生成数据，而在数据原点——即设备本身（边缘）执行模型的推断和预测。目前，国际上尚未建立边缘人工智能的标准架构和统一算法，但各大厂商已经开始在相关领域进行探索。谷歌、亚马逊和微软等传统云服务提供商推出了边缘人工智能服务平台，通过在终端设备本地运行预先训练好的模型进行机器学习推断，将智能服务推向边缘。此外，市场上已经出现多种边缘人工智能芯片，如文章开篇提到的地平线旭日3、谷歌edge TPU、英特尔Nervana NNP、华为Ascend 910和Ascend 310等。二、边缘计算与5G边缘计算与5G可以说是互为犄角的关系。国际标准化组织3GPP定义了5G的三大场景。其中，eMBB指3D/超高清视频等大流量移动宽带业务，mMTC指大规模物联网业务，URLLC指如无人驾驶、工业自动化等需要低时延、高可靠连接的业务。5G通信网络更加去中心化，需要在网络边缘部署小规模或者便携式数据中心，进行终端请求的本地化处理，以满足URLLC和mMTC的超低延时需求，因此边缘计是5G核心技术之一。边缘计算恰好可以解决5G三大场景面临的问题。首先，边缘计算设备将为新的和现有的边缘设备提供连接和保护；其次，尽管5G将为基于云的应用程序提供更好的连接性和更低的延迟，但仍然存在处理和存储数据的成本。混合边缘计算/5G解决方案将降低这些成本；最后，边缘计算可以让更多应用程序在边缘运行，减短了由数据传输速度和带宽限制所带来的延时，并可对本地数据做初步分析，为云分担一部分工作。另一方面，5G与边缘计算一定程度上是相辅相成的。一方面，得益于5G自身发展，将对边缘计算的发展起到直接促进作用；另一方面，由于5G对物联网有促进作用，也将间接促进边缘计算发展。三、边缘AI的使用场景边缘AI因其流量占有少、时延低、隐私性强等特征，在各行各业具有广泛的应用前景。智能手机 这或许是我们最熟悉的边缘AI设备。Siri和谷歌助手是智能手机上边缘AI的最好例证，因为该技术驱动了它们的语音UI。手机上的AI使得数据处理发生在设备（边缘）侧，这意味着不需要将设备数据交付到云端。这有助于保护隐私和减少流量。
