9月25日消息,在上周举办的2019云栖大会上,阿里巴巴旗下平头哥半导体公司发布了阿里巴巴第一款芯片——含光800,号称全球最高性能AI推理芯片。
据悉,含光800AI芯片是阿里巴巴第一款正式流片的芯片,主要应用于云端视觉处理场景,性能打破了现有AI芯片记录,性能及能效比全球第一。
官方数据显示,含光800在芯片测试标准平台Resnet 50上的具体分数为:性能78563 IPS,是第二名(15012)5倍;能效比500 IPS/W,是第二名(150)3.3倍。
含光出自《列子·汤问》篇有“上古三剑”一章,寓意含而不露,光而不耀,象征含光800无形却强劲的算力。
据介绍,1颗含光800的算力相当于10颗GPU,目前基于含光800的AI云服务已在阿里云上线。
含光800是一款AI芯片,偏重推理。由于人工智能芯片的差异化设计主要体现在硬件架构和软件算法上,二者需要高度适配才能发挥芯片的最大价值。从目前来看,传统CPU、GPU在深度学习推理任务上并没有完全发挥硬件能力,例如GPU架构主要针对图像处理设计,其硬件结构、软件生态几乎固化,因此对AI任务很难有深度优化。
含光800性能的突破得益于软硬件的协同创新,芯片架构方面,含光800采用创新的架构,针对深度学习中使用的大量权重参数和张量数据,在支持稀疏压缩与量化处理的基础上,通过独特设计的数据访存与流水线处理技术,大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积,矩阵乘,向量计算和各种激活函数,通过高有效的硬件资源调度和全并行的数据流处理,把AI运算的性能和能效双双推向极致。
算法方面,阿里巴巴达摩院机器智能实验室过去两年构建了完整的算法体系,涵盖语音智能、语言技术、机器视觉、决策智能等方向,并且取得多个世界领先水平的成果;硬件方面,阿里巴巴此前已在服务器、FPGA以及存储等领域拥有多年研发经验,此外,平头哥团队在体系结构、编译技术等领域拥有深厚的技术储备。
去年9月在杭州云栖大会上,阿里巴巴正式宣布成立芯片公司“平头哥半导体有限公司”,由阿里去年4月收购的国产芯片企业中天微与阿里旗下达摩院芯片团队整合而成。短短一年,已经硕果累累。
今年7月25日,上海举办的2019阿里云峰会上,平头哥发布了高性能RICSC-V架构处理器玄铁910,可以用于设计制造高性能端上芯片,应用于5G、人工智能以及自动驾驶等领域。
8月29日,平头哥发布了面向AIoT时代的一站式芯片设计平台“无剑”,宣称可以帮助芯片设计公司,将芯片设计成本降低50%,同时将设计周期缩短50%。
张剑锋表示,阿里巴巴有足够的能力去做传统公司的事情,“我们用一年半时间,就完成了芯片的制作。所以,阿里巴巴将成为软硬件一体化协同发展的公司”。
在阿里巴巴看来,数字化升级需要具备四大关键技术:可靠易用的云、全局智能的大数据、云端一体的智联网和随时随地的移动协同。