继英伟达最小边缘超算，英特尔再推10倍提升VPU，终端AI芯片创业压力加剧

感激机械之心国外记者袁渊供应相关资料

三条 AI 芯片产物线的发布，标记着英特尔人工智能买卖获得实质进展。

在比来的财报德律会议上，英特尔乐观地展望，2019 年人工智能的年收入达到 35 亿美元，高于 2017 年的 10 亿美元，完成 2022 年 100 亿美元方针的三分之一以上。

英特尔透露，在无人机、相机、机械人和主动驾驶汽车等设备的边缘较量收入同比增进了 20%。

「这一数字将逐年增进，基于我们的广度与深度，已经从数据中心走到边缘。」英特尔公司副总裁兼 AI 产物事业部总司理 Naveen Rao 透露。

英特尔具体介绍了代号为 Keem Bay 的下一代 Movidius Myriad 视觉处理单元（VPU），该单元针对边缘推理义务进行了优化。

英特尔物联网副总裁乔纳森·巴伦（Jonathan Ballon）透露，该芯片拥有一种新的片上存储器架构，具有 64 位存储器带宽，机能是上一代产物的约 10 倍。

巴伦称：「它将以比同类产物低一倍的机能，几分之一的尺寸和成正本供应优于 GPU 的机能。」

Keem Bay 中封装了用于较量机视觉的专用芯片和 12 个可加速运行速度的专用（SHAVE）处理器内核，可使用 Myriad Development Kit（MDK）进行编程，从而兼容更多 AI 算法。

英特尔透露，Keem Bay 的功耗是 Nvidia 的 Jetson TX2 的四分之一，比华为昇腾（Ascend）310 较量速度快 1.25 倍。在特定情形下，能效比竞争敌手的处理器高六倍，每秒供应的 TOPS  推理量是 Nvidia 的 Xavier 的四倍。

该款芯片将在 2020 年上半年推出，包罗 PCI Express 和 M.2 等形式。

早在 2016 年 9 月，英特尔就收购总部位于圣马特奥的 AI 初创团队 Movidius，设计用于较量机视觉的专用低功耗处理器芯片，为其终端算力市场步下主要一子。

2017 年，英特尔推出 Myriad 2，被 Google 的 Clips 相机，大疆的 Phantom 4 无人机，和国内安防市场的高端摄像头所采用。

随后推出的 Myriad X 具有改善的成像和视觉引擎，包罗附加的可编程 SHAVE 内核和升级的视觉加快器，以及支撑多达 8 个高清传感器的内陆 4K 图像处理器管线。

参考英伟达在软件生态的深挚根蒂而能厚积薄发，此次巴伦也着重强调了，英特尔在软件与斥地对象方面的起劲，使用英特尔OpenVINO 对象包的客户能够获得大约 50％的额外机能。

基于 OpenVINO 对象包，Edge AI DevCloud 可以对无人机和摄像优等边缘设备进行 AI 原型和测试，斥地人员能够使用现有对象和框架免费测试和优化 OpenVINO 顶用于 Intel 硬件（例如 CPU 或 FPGA）的模型。

跟着 Edge AI DevCloud 的发布，客户如今可以使用在夏日推出的 Deep Learning Workbench 对象进行建模和仿真，然后将其免费布置在斥地云中的各类分歧硬件设置上。

Ballon 在与 VentureBeat 的一次对话中称，OpenVINO 是英特尔汗青上增进最快的对象。

2018 年 5 月，英特尔首次向斥地人员和制造商供应 OpenVINO 或开放式视觉推理和神经收集优化，以使用英特尔硬件进行深度进修推理。

OpenVINO 支撑从 CPU，GPU 和 FPGA 到 Intel Movidius 神经较量棒的一系列机械进修加快器。该对象包于本年早些时候进行了更新，以扩展到较量机视觉应用之外，并支撑语音和 NLP 模型。

英特尔今天还与 Udacity 一路推出用于物联网纳米级法式的 Edge AI。据悉，正在建立的数据中有 70％位于边缘，只有一半将进入民众云，其余的将在边缘存储和处理。

在终端之外，英特尔当然没忘最焦点的数据中心市场，Nervana 产物线难产三年关于落地。

英特尔推出头向 AI 推理和 AI 练习范畴的两个系列产物，离别是神经收集练习处理器（Intel Nervana NNP-T）和神经收集推理处理器（Intel Nervana NNP-I），作为英特尔为云端和数据中心客户供应的首个针对复杂深度进修的专用 ASIC 芯片。

练习芯片 NNP-T 采用台积电 16nm 制程工艺，拥有 270 亿个晶体管，硅片总面积达 680 平方毫米，支撑所有主流深度进修框架。

早在 2016 年，英特尔就提出启动 Nervana 神经收集处理器的项目研发，直到本年才正式颁发，并宣告正式投入生产，并实现商用。

值得注重的是，这两款产物面向百度、 Facebook 等前沿人工智能客户，并针对这些企业的 AI 处理需求进行定制斥地。

谈到英特尔Nervana的奇特性和优势时，英特尔公司人工智能产物事业部副总裁、推理产物事业部总司理Gadi Singer向机械之心透露，首要集中在功能、功能、规模化三个方面。

• 1）在功能方面，Nervana供应了非常节能的构建模块(building blocks)，也许能供应10到15瓦的解决方案，能够零丁使用，也能够基于需求将多个模块集成。是以无论巨细，都能知足用户在任何级别上构建解决方案。

• 2）多功能性。分歧于市面上的图像或语音单功能处理器，Nervana的立项之初就是必需支撑多种用途。经由构建一组深度进修的功能，能够被应用多个分歧类型的机械进修义务中。

  因为在大型云办事应用某些内容时，需要以多种形式使用它，是以需要在普遍的局限内供应精巧的解决方案。

  深度进修转变得如斯之快，AI从某个研究实验室到或公司起头注重到斥地再到布置或者只需要不到一年的时间，就比如客岁BERT出来时， 三个月内人人对它进行了普遍的试验，一年之内对其进行了非常大规模的布置。

  在瞬息万变的情况下，研发出一个能随时‘预备停当’的通用解决方案，我们才能够解决甚至还没有被普遍存眷的新问题。是以，我们的架构是使用构建模块络续进行重组。

• 3）最后是规模化，比起硬件方面，更多组员主攻的是软件这个部门。软件对整个解决方案的优化非常要害，好比软件能认识在分歧的内存位置以及使用这些功能离别需要的时长，软件能每个数据模块的使用频率并把它们放置在准确的位置上，让你能够最高效地使用推理较量引擎。

  Nervana架构与某些单一用途的同类产物分歧，使用带有接口通道的API分层构建它。最底层的API直接与硬件打交道，然后中央会有一些雷同于图谱节点的API，像是深度进修图谱中的高级较量单元，然后最高层的软件层将它们映射到用户所需要的任何应用法式接口中。

不止于英特尔，细心视察就会发现，本年巨头发力终端和边缘端的算力市场比以往声量更大。这在某种意义上也标记着终端 AI 芯片市场的成熟，巨头起头收割。

1、英伟达

Jetson 是英伟达在面向嵌入式市场的产物线，恰是对标英特尔 Movidius。区别于其他边缘 SoC 的特点，Jetson 家眷强调并交运行多个神经收集。

截止今朝，Jetson 已发布四个系列，包罗 Jetson TX1、Jetson TX2、Jetson Nano、Jetson Xavier NX，首要布置在边缘与终端应用上，适用于机械人、无人机和智能摄像优等应用。

2017 年，英伟达推出首款采用 Pascal GPU 架构（16 nm 工艺）的芯片 Jetson TX2，巨细相当于一张信用卡。官方给出的数据显露，TX2 可在 MAX Q、MAX P 两种状况下运行，功耗在 7.5W-5W。

2018 年，英伟达发布 Jetson 系统级模块——AGX Xavier，可供应工作站级其余义务执行机能。AGX Xavier 有 10W/15W/30W 三种选择，神经收集运算输出为 32TOPS，可应付多达四路的 HEFC 4K 、60fps 视频流。

而就在上周，英伟达进一步推出 Jetson 的最新成员 Jetson Xavier NX，号称「全球最小边缘超算」。

可供应高达 14 TOPS（功耗为 10W 时）或 21 TOPS（功耗为 15W 时）的机能，可以并交运行多个神经收集，并在与 Nano 同样尺寸（70x45mm）的小巧外形中同时处理来自多个高差别率传感器的数据。

Xavier NX 将于来岁 3 月起头发售，价钱 399 美元。

与此同时，英伟达为 Jetson 设置了一套开放式..和完整的 AI 软件客栈 JetPack SDK，能够运行复杂的 AI 收集，并用于深度进修的加快库以及较量机视觉、较量机图形、多媒体等。

2、谷歌

本年年早些时候，谷歌推出名为 Coral 的内陆终端 AI ..，是 TPU 的边缘芯片版本，强调以低功耗水平提凌驾色的 ML 推理机能。可以以精巧的功率示意执行 MobileNet v2 等最进步的移动视觉模型，且 fps 可达 100 以上。

3、华为

看国内市场，当属华为作为风向标。

客岁，华为发布周全自研芯片旌旗，昇腾则是其推出的首款面向边缘较量品牌，采用华为自有的达芬奇架构（12nm 工艺），使用华为自有的高效天真 CISC 指令集。

昇腾系列除了对准机械人、智能制造等终端智能产物，同时也是华为在安防智能摄像头和边缘较量的主要结构。

昇腾 310 最大功耗为 8W，半精度（FP16）运算能力 8TFLOPS，整数精度（INT8）16TOPS，支撑 16 通道全高清视频解码（H.264/265）。在本年上半年正式推出。

很长一段时间里，因为云端 AI 芯片市场被集中垄断，同时加倍依靠生态，导致大部门 AI 芯片的初创公司都将方针对准在边缘和终端市场，以各类 AI 加快器或 SoC 芯片的形式走向市场。

经由奇特的架构设计以及领先的机能指标的芯片，以求在涣散而潜力伟大的物联网市场分得一杯羹。

现在，英特尔 Myriad Keem Bay、英伟达 Jetson Xavier NX 的推出不光标记着巨头边缘端 AI 芯片结构的完美和实力的进一步增加，同时也是边缘端芯片市场竞争加倍激烈的强烈旌旗。

巨头的 AI 芯片触角舒展至边缘端，将让 AI 芯片初创公司面临着加倍严重的生存挑战。