五代至强MLPerf AI跑分提升1.8倍!Intel仍是唯一
  • 上方文Q
  • 2024年04月02日 20:03
  • 0

快科技4月2日消息,近日,MLCommons公布了针对AI推理的MLPerf v4.0基准测试结果,其中Intel Emerald Rapids五代至强处理器表现优异,相比Sapphire Rapids四代至强性能大幅提升。

迄今为止,Intel仍然是是唯一一家提交MLPerf CPU测试结果的厂商,从2020年开始提交基于四代至强的测试结果,如今五代至强也加入了进来。

五代至强MLPerf AI跑分提升1.8倍!Intel仍是唯一

具体来说,五代至强经过硬件、软件优化,对比四代至强在MLPerf v3.1中的表现相比,平均提升了1.42倍。

其中,针对具备连续批处理(continuous batching)等软件优化的GPT-J模型,性能提升约1.8倍。

得益于MergedEmbeddingBag、Intel AMX加速器等其他优化,DLRMv2的测试性能提升约1.8倍,准确率达99.9。

Intel正在与思科、戴尔、广达、超微、纬颖科技等OEM厂商合作,提交基于各自产品的MLPerf测试结果。

五代至强MLPerf AI跑分提升1.8倍!Intel仍是唯一

文章纠错

  • 好文点赞
  • 水文反对

此文章为快科技原创文章,快科技网站保留文章图片及文字内容版权,如需转载此文章请注明出处:快科技

观点发布 网站评论、账号管理说明
热门评论
查看全部评论
相关报道

最热文章排行查看排行详情

邮件订阅

评论0 | 点赞0| 分享0 | 收藏0