寒武纪发布边缘AI芯片思元220，性能优于英伟达Xavier NX两倍

按照寒武纪发布的参数，思元 220 参数机能比肩英伟达客岁发布的 Jetson 系统级模块——AGX Xavier 和上周发布 Jetson Xavier NX。 [原文来自：www.ii77.com]

在功耗上胜出 AGX Xavier，在较量速度上优于 Xavier NX。

[本文来自：www.ii77.com]

11 月 14 日机械之心新闻，寒武纪副总裁刘道福在深圳发布思元系列边缘端 AI 芯片「思元 220」和思元 220-M.2 边缘加快卡。

思元 220 的问世, 标记着寒武纪已经具备了从终端 (寒武纪 1A、1H、1M 处理器 IP)、边缘端 (思元 220 芯片) 到云端 (思元 100、思元 270 芯片) 完整的智能芯片产物线。 

最新发布的思元 220 芯片采用了寒武纪在处理器架构范畴的一系列立异性手艺——寒武纪最新一代智能处理器 MLUv02，实现：

最大 32TOPS（INT4）算力，而功耗仅 10W。

对比 英伟达在客岁发布的 Jetson 系统级模块——AGX Xavier 和上周发布 Jetson Xavier NX。

AGX Xavier 有 10W/15W/30W 三种选择，神经收集运算输出为 32TOPS，可应付多达四路的 HEFC 4K 、60fps 视频流。在功耗上有待进一步提拔。

而就在上周，英伟达进一步推出 Jetson 的最新成员 Jetson Xavier NX，号称「全球最小边缘超算」。

可供应高达 14 TOPS（功耗为 10W 时）或 21 TOPS（功耗为 15W 时）的机能，可以并交运行多个神经收集，并在与 Nano 同样尺寸（70x45mm）的小巧外形中同时处理来自多个高差别率传感器的数据。

Xavier NX 将于来岁 3 月起头发售，价钱 399 美元。虽主打边缘超算，但这个价钱有些让人望而却步。

说回思元 220 ，据介绍，它可供应 16/8/4 位可设置的定点运算，客户能够凭据实际应用天真的选择运算类型来获得卓越的人工智能推理机能。

在软件方面，经由端云一体的软件..，思元 220 持续支撑寒武纪 Neuware 软件对象链，支撑业内各主流编程框架，包罗 Tensorflow，Caffe，mxnet，以及 pytorch 等。

思元 220 是一款专门用于深度进修的 SOC 边缘加快芯片，采用 TSMC 16nm 工艺，它具有高算力，低功耗和雄厚的 I/O 接口。

基于思元 220，寒武纪前期面向市场推出小尺寸的 M.2 加快卡，将来会推出更高算力的产物形态。

思元 220-M.2

思元 220-M.2 边缘加快卡在尺寸为 U 盘巨细的卡片上实现了 16TOPS（INT4）或 8TOPS（INT8）的算力。客户能够经由尺度的 M.2 接口快速布置到已有的买卖中实现买卖的智能升级和边缘加快解决方案。

寒武纪透露，面向将来，针对分歧的场景，包罗边缘较量、主动驾驶车载较量、练习等场景。寒武纪将持续投资，推出更多的 AI 处理器，面向全场景持续供应更进步天真、快速高效、机能卓越 AI 算力产物及办事。

运动现场，寒武纪副总裁刘道福认为：比拟数据中心较量或许说云较量，边缘较量有几个优势：

1）大幅降低传输成本。

在好多如电力、能源等工业范畴，收集前提并欠好，而且通信根蒂举措的革新成本很高，是以数据直接在边缘进行处理，处理完的数据直接用于边缘决议，或许有效信息传回云端集中决议，这都能够削减传输成本。

2）大幅降低延时。

边缘较量往往具有实时的要求，因为要对各类设备进行实时决议，而传统的云较量，因为收集延时，很难做到实时。

3）珍爱数据隐私和平安。

边缘较量能够无需将数据或许原始数据传回云端，从而能够大大珍爱数据的平安和隐私，削减数据泄露。

在昨天的报道《继英伟达最小边缘超算，英特尔再推 10 倍提拔 VPU，终端 AI 芯片创业压力加剧》里，我们也谈到，边缘智能，作为人工智能的最后一公里，很长一段时间里被创业者视为得以绕开巨头打压的蓝海市场，但本年市场被催熟的趋势显着，英特尔Nervana、英伟达Jeston系列、以及谷歌Coral和华为鲲鹏等巨头慢慢进场收割，AI芯片创业生态竞争加剧。

除了今朝云边连系的思元系列，寒武纪在更早推出的是终端产物线：终端 IP 处理器系列。

从第一代产物，2016 年推出的首个商用深度进修处理器 Cambrion-1A，到 17 年面向较量机视觉范畴专用的二代处理器 Cambricon-1H（Cambricon-1H8、Cambricon-1H16），再到陆续了前两代产物完整性长处的第三代最新产物，面向内陆练习的 Cambricon-1M。

采用 7nm 台积电工艺的 Cambricon-1M，机能十倍超越于已被普遍使用各大移着手机终端的 Cambricon-1A。能够实现 5TOPS/W 能效比，单个处理器核即可支撑 CNN、RNN、SOM 等多样化的深度进修模型，更进一步支撑 SVM、k-NN、k-Means、决议树等经典机械进修算法。

科大讯飞就曾在发布会上流露，寒武纪处理器在语音智能处理的测试究竟，显露出了能耗效率上的优胜性。其领先于竞争敌手的云端 GPU 方案至少 5 倍，语音内陆识别正确率相对于传统处理器也有 9.8% 的提拔。

IP 处理器成名的寒武纪在终端产物络续成熟之后，紧接着推出云端芯片，本次思元系列的前两款产物：思元 100 和思元 270。

回首这两款云端芯片在实际运用中，均示意出如下几点配合的优势：

• 1）作为通用处理器，支撑各类深度进修手艺，支撑多模态智能处理（视觉、语音和天然说话处理），应用范畴普遍；
• 2）从指令集和架构角度来看，比拟于 GPU，对于在深度进修和人工智能场景中示意出了更高的效能比；
• 3）配套软件斥地情况完美，用户体验精巧；
• 4）为「端云一体「策略而斥地的最佳执行者。

此次发布的思元 220，更是旨在填补市场内边缘端加快方案的空白而存在，同时也彻底完美了寒武纪产物线中边缘端芯片的空白。

寒武纪借助因为生齿身分带来的数据优势，加倍擅长于练习，是以多款芯片均能够看出手艺优势带来的偏重点在于练习。

今朝寒武纪无论是云端，终端，照样边缘芯片，都采用统一的处理器架构和指令集，以及统一的软件栈。

这三个范畴的生态能够互相促进，形成正轮回。云端供应了完整的斥地，调试，调优的软件，云端斥地好的法式，能够很轻易快速的布置到终端和边缘，解决终端和边缘斥地难，调试难，调优难的问题，而终端和边缘，能够储蓄大量的客户和斥地者，反哺于云端生态，最终实现云，边，端生态的繁荣。