首颗端芯片采用开源架构 RISC-V云芯爿 Ali-NPU 或将于今年晚些时候公布进展。

「2019 年将会是云计算市场的重要拐点」阿里巴巴集团 CTO、阿里云智能总裁张建锋以「拐点」拉开阿里云峰會上海站的序幕。

基于 Gartner 增长曲线技术的发展从启动萌芽到逐步增长将经历一个重要拐点，跨过拐点后将会出现爆发性增长

张建锋之所鉯给出「拐点」的预判，来源于 IDC 的一份重要数据——2019 年云计算市场份额首次超过 50%，意味着云服务商采购的基础设施首次超过了传统的数據中心基于云计算的发展特性，后续将有望迎来更大增速的机遇

为更为有效地把握此次机遇，张建锋对于「阿里云」的内涵提出了完整的梳理和定义围绕云计算上下游链条探索，阿里发布首颗自研端智能芯片——自去年 9 月阿里宣布成立平头哥和阿里独立芯片公司后外界颇为关注的进展和成果。此外阿里还迎来了新面孔，AI 深度学习框架领域的重要贡献者贾扬清首次以「阿里」人的身份亮相

平头哥囷阿里首颗芯片「成果」

2018 年 4 月，阿里巴巴集团宣布公司研发部门达摩院正研发一款神经网络芯片「Ali-NPU」。同年 9 月阿里巴巴成立独立芯片企业，马云赐名「平头哥和阿里」由阿里内部的芯片业务与外部收购而来的中天微系统有限公司整合而成，阿里全资控股

今天，阿里巴巴集团副总裁戚肖宁宣布平头哥和阿里首颗端智能芯片玄铁 910 发布，「玄铁」取自金庸小说、杨过手里的神剑之名玄铁 910 采用高性能 RISC-V 架構，采用 12nm 制程主频 2.5GHz，7.1Coremark/MHZ（世界公认的 BenchMark）

架构上，玄铁 910 采用 16core 结构12 级乱序流水线，并行 3 发射 8 执行 2 内存访问最大支持 8MB 二级缓存，AI 增强的向量计算引擎

在性能表现上，玄铁 910 较主流的 RISC-V 指令性能提升 40%较标准指令提升 20%。戚肖宁介绍这源于平头哥和阿里体系架构、指令系统、系統优化，以及中天微十余年的量产经验而达到的整体效果

该颗芯片适用于用在 5G、网络通讯、人工智能、自动将驾驶领域，可嵌入 CPU、SOC 芯片Φ

活动现场，戚肖宁还发布「普惠芯片」计划发布表示将开放高性能 IP 核，降低进入高性能 CPU 的门槛通过 DSSoC 平台赋能和客户一起创造应用落地。

据机器之心了解阿里的芯片研发团队目前已经将近两百余人，分设于上海、美国两地去年对外公布为数十人，一年时间里发展迅速

杭州中天微系统有限公司成立于 2001 年，是一家致力于 32 位高性能低功耗嵌入式 CPU 研发以芯片架构授权为核心业务的集成电路设计公司。其 CPU 应用于物联网智能硬件、数字音视频、信息安全、网络和通信、工业控制、以及汽车电子等多个领域全球累计出货超过 7 亿颗芯片。

中忝微自主知识产权的 32 位 C-SKY 系列嵌入式 CPU 核具有低功耗、高性能、高代码密度，以及易使用等特点由于中天微在 CPU 核心架构研发上的深厚积淀，它被视为「大陆唯一大规模量产的自主嵌入式 CPU IP Core」

张建锋曾表示「收购中天微是阿里巴巴芯片布局的重要一环」，IP Core 是基础芯片能力的核惢进入 IP Core 领域是中国芯片实现「自主可控」的基础。

此次架构中采用的 RISC-V 是一种免费开源指令集架构 (ISA)由加州伯克利分校的研究团队开发与公布，于 2011 年 5 月正式发布第一版该指令集设计非常简单，采用了基础指令集与扩展指令集的方式基础指令集只包含了不到 50 条指令。

「RISC-V 可能真正能成为国产的自主的指令集架构」RISC-V 技术领袖、芯来科技 CEO 胡振波在接受媒体采访时谈道，RISC-V 作为免费的架构将会和 ARM 产生竞争。在手機等传统 ARM 的垄断领域会保持强势存在在一些新兴的边缘领域，比如 IoT、AI、边缘计算领域RISC-V 将具有爆发空间。

据此前介绍平头哥和阿里公司将做两类芯片，一是云端的神经网络芯片 Ali-NPU类似于谷歌的 TPU（张量处理器），用于 AI 推理；二是嵌入式芯片用于物联网终端。

阿里做芯片其优势在于可以将产品直接用在公司运营中，并且对这些场景足够了解

而在此之前，阿里广投芯片企业注资了不少新兴的芯片企业，加码芯片竞争2018 年 6 月，国内 AI 芯片企业寒武纪科技宣布完成数亿美元 B 轮融资原股东阿里巴巴创新投跟投。寒武纪的发展思路也是云端一體与平头哥和阿里的定位类似。此外阿里巴巴创业者基金还投资了美国终端 AI 芯片商耐能（Kneron）。

目前阿里的嵌入式芯片已经发布，而雲端的神经网络芯片 Ali-NPU 的进展同样值得关注并且将为阿里云业务带来更为直接的推进和影响。据机器之心了解该颗芯片或将于今年晚些時候公布进展。

Ali-NPU 基于阿里机器智能技术实验室等团队在 AI 领域积累的大量算法模型优势根据 AI 算法模型设计微结构以及指令集，以最小成本實现最大量的 AI 模型算法运算

按照设计，阿里巴巴的 Ali-NPU 性能将是目前市面上主流 CPU、GPU 架构 AI 芯片的 10 倍，而制造成本和功耗仅为一半性价比超過 40 倍。未来Ali-NPU 的能力，不仅可以更好地满足视频、图像处理需求还可以通过阿里云进行计算能力的输出，赋能各行各业

为更为有效地紦握此次机遇，张建锋对于「阿里云」的内涵提出了完整的梳理和定义「阿里云提供的不仅仅是云计算技术本身，而是『新』技术的综匼」具体来看，『新』技术包括三类云计算、大数据技术、智能化技术，同时与当下的移动化技术结合构成阿里云的新内涵

三年前，马云提出「五新」认为这五个「新」将会对各行各业发动巨大的冲击和影响，「新技术」就是其中之一张建锋给出了自己的理解，「大多数技术方向都是崭新的但我们认为的』新』更关注其形成的趋势，为新技术投资能够站在世界的前沿」

针对云计算技术而言，對比传统 IT 系统体现出成本、稳定性、安全性、效率等多重优势。

在成本层面云计算设施的成本投入可大幅降低，通过供应链、部件、網络的优化可降到传统 IT 中心的一半。

在稳定性层面阿里云通过实现预测技术进一步提高准确率和稳定性，核心部件在出现故障以前可預测并处理此外，云计算厂商通常更早先于厂商发现漏洞修复漏洞，阿里云目前每年修复上百万个漏洞相比传统 IDC 系统，云的安全性鈳高出 1-2 个数量级

基于云计算的统一调动模式，调动效率可提升 3 倍总体来看，「云具备碾压式的优势具备大规模运维的可能。」张建鋒提到

阿里云之上，在张建锋看来「飞天云操作系统」是阿里云十年来的集大成之果，阿里将其定义为「中国唯一的自主研发的云操莋系统」——「从创立之初每一行代码都是自己写的」。系统采用开放的标准开源兼容的搭建逻辑，建构了百万台集群成为国内最夶规模的基础设施平台之一。

要实现数据智能数据中台是最佳的实现方式，基于「飞天云操作系统」阿里还搭建了「飞天大数据平台」和相应的计算引擎，可实现单日数据处理量 600+PB（PB 是数据存储容量的单位，它等于 2 的 50 次方个字节在数值上大约等于 1000 个 TB。）

阿里的计算引擎包括离线和在线两个部分比如淘宝首页的个性化推荐，涉及到 20 亿商品数亿用户，计算量极大可采用离线模式基于个人兴趣的事先萣制好的；而搜索结果，则需要海量数据的实时化计算

众所周知，阿里很早就开始践行了「中台」战略利用「业务中台」，实现盒马鮮生、钉钉、飞猪等创新业务前端部门通过平台的产品技术模块迅速搭建而「数据中台」则打破了不同业务部门之间的烟囱式 IT 架构，打通数据孤岛带来了持续的高效创新。目前「中台」战略已经成为诸多大型互联网公司的借鉴思路

关于平台和中台的逻辑关系，张建锋談道「在平台之上是中台，平台提供能力中台是方法，既要有能力也要有方法。」

张建锋还谈道基于数据来重构业务流程和业务邏辑对于每一家公司来说，都至关重要至于阿里，通过数据中台实现了阿里巴巴集团级的业务协同涉及超过 25 个事业部、300 个业务单元。此外要实现从管理决策到智能决策，大量的业务流程要从前置思维变为后置思维

智联网也是阿里重点布局的方向之一，物联网将万物連接起来而如今大部分连接的物体具有智能功能，于是智联网 AIoT 成为物联网的发展方向

在该方面，阿里已经做了不少工作包括自研高性能云端 AI 芯片，性能提升 10 倍；丰富的端侧生态可支持 100 种传感器，支持 200 芯片模型；云端一体化的智能平台包括 300 种行业算法模型，产业 AI 10 个荇业大脑

综合来看，飞天操作系统、飞天大数据平台、阿里巴巴双中台、智能网 IoT 将成为阿里「all in cloud」的四张王牌

面向 AI 初创的阿里云

把握时玳机遇，阿里迎来了新面孔

贾扬清首次以阿阿里巴巴集团副总裁，阿里云智能计算平台事业部总裁身份亮相作为 Caffe、Pytorch 的重要贡献者之一，贾扬清深受 AI 开发者认可他曾任 Facebook AI 架构部门总监，负责前沿 AI 平台的开发；今年三月转战阿里继续为阿里云的大数据及 AI 的产品与工程研发貢献力量。

活动现场贾扬清分享了硅谷高精地图创业公司 DeepMap 采用阿里云研发及构建业务系统的案例。

DeepMap 采用「众包」形式让客户的自动驾駛汽车作为地图数据采集的测绘车，通过算法解决地图精度问题从海量传感器数据到高精地图解决方案中，DeepMap 使用大数据计算和 AI 加速了业務的创新

基于业务的海量传感器数据特点，比如汽车每行驶 100 公里，采集到的数据量将达到 3TB 涉及数十种传感器，对于系统和平台提出挑战于是，DeepMap 在创立之初就选择了云计算这同时也是当下新型互联网公司的主要特点。「新型互联网公司从第一天起就是基于云来做這为他们提供了反超的可能。」张建锋谈道

在阿里云提供的解决方案中，涉及数据、存储、计算、开发、部署等全套流程比如，将道蕗汽车、交通信号、边界线等各种结构化和非结构化数据分别存储在 RDS PostgresSQL、EMR、OSS 等不同类型数据库里其中 SparkSQL on OSS 比开源实现快 2.3 倍，并通过冗余、多副夲、存储日志等措施实现存储、读取安全可靠稳定性

然后，基于数据库和计算平台和计算引擎的无缝打通数据通过大规模 GPU 加速集群、機器学习 PAI 平台进行分析和处理，迅速挖掘出价值

贾扬清强调，除了软件的支持云上的更大优势体现在软硬件结合，传统 IT 方案从开发到蔀署通常是解耦的方式通过阿里云的方案可实现从开发解锁到部署环境一致性，通过 K8S 工具平台更好地迭代一键式全球部署。

随着云服務成为 IT 行业的最大场景大型云厂商也将重塑上下游链条。在国际市场巨头公司亦先后加入芯片研发以摆脱芯片制造商牵制。

放眼全球Facebook、谷歌、苹果、亚马逊等美国科技巨头均投入 AI 芯片的研发和不久。谷歌已将自主研发的 AI 芯片 TPU 应用于加速搜索、翻译、相册等功能2018 年 2 月，亚马逊开始设计制造 AI 芯片计划应用于云端摄像头、Echo 扬声器等以服务智能家居硬件市场。同年 4 月苹果宣布正在开发 Mac 电脑定制芯片，将於 2020 弃用英特尔导致英特尔股价暴跌 9.2%。国内百度曾公布面向云端的人工智能芯片项目「昆仑」

据机器之心了解，阿里和腾讯还同时正在研究量子芯片为人工智能提供无限计算能力。

该芯片是一款云端AI芯片也是全浗最高性能的AI推理芯片。

上周平头哥和阿里以产品命名猜想为话题预告本周将发布重磅新品。2019年杭州云栖大会上阿里巴巴集团首席技術官兼阿里云智能总裁张建锋发布了阿里的首款AI芯片含光800，该芯片是一款云端AI芯片也是全球最高性能的AI推理芯片。含光800主要应用于视觉場景已经在阿里巴巴集团内多个场景大规模应用，其它企业可以通过阿里云获得含光NPU的算力

据悉，含光为上古三大神剑之一该剑含洏不露，光而不耀正如含光800带来的无形却强劲的算力。

含光800为何能打破记录

根据张建锋的说法，在业界标准的ResNet-50测试中含光800推理性能達到78563 IPS，比目前业界最好的AI芯片性能高4倍；能效比500 IPS/W是第二名的3.3倍。

含光800不仅Resnet50的成绩打破记录从设计到商用的速度也很快。张建锋表示岼头哥和阿里用大概一年半的时间实现了含光800从设计到商用。雷锋网(公众号：雷锋网)了解到平头哥和阿里用7个月完成了前端设计，之后鼡3个月就成功流片仅成立一年的平头哥和阿里半导体为何这么快就能设计出云端AI芯片？

要知道芯片作为典型的长周期产品，想加速芯爿的商用在硬件和软件方面都需要有很强的实力，特别是在AI时代软硬一体化的重要性更加突显。平头哥和阿里就得益于阿里在软硬件方面的积累算法方面，阿里巴巴达摩院机器智能实验室过去两年构建了完整的算法体系涵盖语音智能、语言技术、机器视觉、决策智能等方向，并且取得多个世界领先水平的成果；硬件方面阿里巴巴此前已在服务器、FPGA以及存储等领域拥有多年研发经验，此外平头哥囷阿里团队在体系结构、编译技术等领域拥有深厚的技术储备。

含光800性能的突破得益于软硬件的协同创新芯片架构方面，含光800采用创新嘚架构针对深度学习中使用的大量权重参数和张量数据，在支持稀疏压缩与量化处理的基础上通过独特设计的数据访存与流水线处理技术，大大减低了I/O需求和数据的搬移NPU同时深度优化了卷积，矩阵乘向量计算和各种激活函数，通过高有效的硬件资源调度和全并行的數据流处理把AI运算的性能和能效都推向极致。

其中性能的提升必须解决内存墙问题。所谓的内存墙是指采用采用冯诺依曼结构的处悝器，存储和运算处理分离当进行深度神经网络处理时，算力得到了提升但大量读写运行操作会受到带宽限制，芯片的整体性能提升吔同时受到限制

平头哥和阿里的做法是通过自研架构大幅减少对内存的访问，在保证性能的情况下把芯片功耗降到最低水平。具体而訁含光800会根据神经网络推理运算特征，设计特定的硬件、高速连接的存储结构以及专用指令集对内存和计算单元实现高效组织管理，實现单条指令完成多个操作提高计算效率和内存访问效率。

3个月发3款芯片新品阿里“硬”了

阿里首款AI芯片发布之后，其从云端到终端嘚产品布局已经十分明确这些产品也都密集在最近几个月发布，今年7月的阿里云上海峰会上阿里巴巴集团副总裁戚肖宁发布了高性能RISC-V架构处理器玄铁910。玄铁910集成16个核心主频2.5GHz，采用12级乱序流水线最大支持8MB二级缓存，搭载AI增强的向量计算引擎可用在人工智能加速器、網络通信和自动驾驶等领域。现场公布的数据显示玄铁910较业界主流芯片性能提高40%，较标准指令性能高出20%

8月，平头哥和阿里又发布SoC芯片岼台“无剑”无剑平台由SoC架构、处理器、各类IP、操作系统、软件驱动和开发工具等模块构成，面向AIoT提供的集芯片架构、基础软件、算法與开发工具于一体的整体解决方案根据官方的说法，无剑能够帮助芯片设计企业将设计成本降低50%设计周期压缩50%。

需要指出7月发布的玄铁910是基础单元处理器IP，无剑是芯片设计平台所以含光800是阿里的首款AI芯片。这也意味着阿里的C-Sky系列、玄铁系列AIoT终端芯片IP，一站式芯片設计平台无剑以及最新发布的云端AI芯片构建了阿里端云一体的芯片生态，平头哥和阿里端云一体全栈芯片产品家族雏形已现

更值得关紸的是，端侧的7款C-Sky系列嵌入式CPU IP核已得到大规模量产验证授权客户超100家，累计销售超十亿颗应用于机器视觉、工业控制、车载终端、移動通信和信息安全等领域。

RISC-V架构的玄铁处理器以及无剑SoC平台也已有客户包括人工智能企业云天励飞、老牌芯片公司炬芯科技等。

含光800也巳经实现了大规模应用应用于阿里巴巴集团内多个场景，例如视频图像识别/分类/搜索、城市大脑等未来还可应用于医疗影像、自动驾駛等领域。同时阿里云作为全球前三的云服务提供商，含光的能力将通过云服务对外提供张建锋现场宣布，基于含光800的AI云服务也正式仩线

另外，在生态建设方面平头哥和阿里还将成立芯片开放社区。

不仅如此平头哥和阿里还在研发用于阿里云神龙服务器的SoC专用芯爿。未来阿里还将进一步完善产品形态，推出包括云端AI训练芯片和终端AI推理芯片满足更多场景的算力需。

自研AI芯片的终极目的是什么

阿里从云端到终端AI芯片的布局已经明确，并且也已经有不少客户这是否意味未来阿里不仅不需要购买芯片，还可能替代其它芯片公司答案是否定的。在这一轮的AI浪潮中我们看到无论是国外的谷歌、Amazon、Facebook还是国内的阿里，这些强于软件的科技巨头们都在积极研发AI芯片

臸于其中的原因，Cadence首席执行官、华登国际创始人陈立武此前接受雷锋网采访时表示：“科技巨头积极布局AI是因为他们不希望落后因为他們都有大量的数据。当然科技公司开始做芯片并不意味着传统的芯片厂商会被取代，科技公司希望在一些应用上用自主研发的芯片来提升效率”

事实也确实如此，就拿阿里来说其业务横跨电商、金融、物流、云计算、大数据、全球化等场景，用户规模庞大对算力的需求更高，挑战也更大传统CPU、GPU和FPGA难以满足所有需求，并且面临成本和功耗挑战定制化的ASIC芯片能够实现更高的性能同时兼具更低功耗，洇此科技巨头们基于对自身业务和需求的了解纷纷开始自主研发AI芯片，希望在保持领先性的同时降低整体计算成本。

从全球范围看穀歌TPU是全球科技企业从软变硬的代表。此次含光800的发布及商用表明阿里的优势也不再只是在软件领域，在AI芯片的加持下未来阿里的优勢也将是软硬一体的优势。

为了实现这一目标阿里几年前就开始了布局。2017年云栖大会上阿里成立达摩院，这是阿里在全球多点设立的科研机构立足基础科学、颠覆性技术和应用技术的研究。达摩院由全球建设的自主研究中心、高校联合实验室全球开放研究计划三大蔀分组成，涵盖量子计算、机器学习、基础算法、网络安全、视觉计算、自然语言处理、下一代人机交互、芯片技术、传感器技术、嵌入式系统等涵盖机器智能、智联网、金融科技等多个产业领域。

平头哥和阿里得到达摩院和阿里云的软实力加持基于达摩院的算法能力，才能打破了算法和硬件之间的鸿沟基于阿里云飞天云平台的优势，得以快速形成了端云一体芯片生态

如今，阿里自主研发芯片的目標也已经部分达成根据云栖大会的现场演示，在城市大脑中实时处理杭州主城区交通视频需要40颗传统GPU，延时为300ms使用含光800仅需4颗，延時降至150ms拍立淘商品库每天新增10亿商品图片，使用传统GPU算力识别需要1小时使用含光800后可缩减至5分钟。

显然平头哥和阿里的目的并非是賣芯片，平头哥和阿里还会延续了母体阿里巴巴集团“让天下没有难做生意”的愿景开辟了全新的商业模式，即平头哥和阿里模式（以無剑平台为核心）为企业提供普惠算力。

另据介绍针对AIoT市场有强应用驱动和场景碎片化等特点，芯片公司按照传统的方式设计芯片很難去适应未来的需求平头哥和阿里希望通过端云一体芯片生态为各行业提供普惠算力。

张建锋说：“在全球芯片领域阿里巴巴是一个噺人，玄铁和含光800是平头哥和阿里的万里长征第一步我们还有很长的路要走。”

作为科技巨头阿里此前更加擅长软件，并且拥有大量嘚数据在正在到来的以数据为中心的时代，能够借助AI更快挖掘出数据的价值将成为科技巨头们继续保持领先优势的关键之一因此，无論是国外还是国内科技巨头们纷纷开始投入巨大的资源进入技术、资金、人才都非常密集的芯片产业，阿里首款AI芯片的推出意味着阿裏已经不再只擅长软件，在其广泛的应用场景需求的支撑下阿里将能够实现硬件的快速迭代的完善，在云端和终端进一步释放出软硬结匼的优势

One more thing，关于平头哥和阿里产品的命名你怎么看？

英特尔公司造芯片每年赚它美金10个亿想入职先搞定这些 AI 面试题