快科技11月14日消息,据外媒体报道称,英伟达今天发布了新一代芯片H200,其整体性能相比上一代有着大幅提升。
官方公布的细节显示,新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品(基于Hopper架构),集成了141GB的内存,且是HBM3e内存的芯片。
借助HBM3e,英伟达H200以每秒4.8TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍,带宽增加了2.4倍。
英伟达还表示,相比H1100来说,H200在用于推理或生成问题答案时,性能较H100提高60%至90%,不过两个芯片是可以兼容的。
按照之前市场的行情,H100芯片成本仅3320美元,但英伟达对其客户的批量价格仍然高达2.5万至4万美元,利润率超1000%。
不过,H200依然不会提供给中国厂商,不是价格和产能的问题,而是美国AI芯片管制新规。