4月18日,2023火山引擎原动力大会上,火山引擎全栈自研核心组件——火山引擎DPU重磅登场,引发了与会嘉宾的瞩目。通过减少虚拟化损耗,火山引擎DPU可以释放更多资源给业务负载,提升算力基础设施效率。
会上,火山引擎总裁谭待向与会嘉宾介绍到,自研DPU可减少虚拟化损耗,从而降低成本。云计算本质是资源池化和软件定义为传统IT带来敏捷性,但随着云基础设施规模越来越大,计算、存储、网络的虚拟化损耗始终带来不小的额外开销。所以火山引擎自研了硬件DPU,实现计算存储网络的全组件卸载,释放更多资源给业务负载,提升算力基础设施效率。
火山引擎总裁谭待认为,未来3年内,大规模的算力中心,将形成DPU+CPU+GPU的混合算力结构,CPU负责通用计算、GPU负责AI计算、DPU负责资源卸载、加速和隔离。
火山引擎DPU,从硬件到软件全栈自主研发。火山引擎自主设计了DPU、自研了基于DPU的RDMA网络以及软硬一体的Hypervisor层,网络性能升级到5000万pps转发能力,20us延迟,处于业界领先地位。内部部署已经超过万台,渗透率上持续提升。
火山引擎基于自研DPU推出新一代服务器实例,整体性能大幅提升。在Intel全新一代SPR CPU平台上,通过引入火山引擎DPU,整机性能最高提升93%,单核性能最高提升13%。≤16c小规格实例性能最高提升6倍以上。
在AMD全新一代Genoa CPU平台上,通过引入火山引擎DPU,整机性能最高提升138%,单核性能最高提升39%。≤16c小规格实例性能最高提升10倍以上。
而在Nvidia A800 裸金属上,拥有火山引擎DPU的加持,跨节点提供800Gbps RDMA网络带宽,更加适用于大规模集群分布式训练场景,提高集群并行效率,相较于上一代实例集群性能最高提升3倍以上。
目前,火山引擎已宣布与字节国内业务大规模并池,是业界首家大规模内外实时复用计算资源的云厂商,特定时间内快速交付超大量规模资源,调度可达分钟级10w核CPU,保障敏捷弹性和更极致的降本增效。坐拥字节跳动开放11年来的技术积累和规模优势,火山引擎将助力于为企业提供更具极致性能、极致性价比的云服务。