前两天NVIDIA在GTC 2022大会上发布了H100 GPU核心,这是一款专为AI及HPC高性能计算而生的超级GPU,拥有1.8万个CUDA核心,功耗飙升到700W。
H100的生产也是极为复杂的,它没有使用传闻的台积电5nm,而是定制版的台积电4nm工艺,名字为4N,而台积电的4nm官方命名是N4,集成了超过800亿晶体管,核心面积高达814mm2,作为对比的话,上代的A100核心是台积电7nm工艺,542亿晶体管,核心面积826mm2。
由此可见,在面积几乎相同的情况下,H100核心的晶体管密度提升了48%左右,不过比台积电官方宣称的密度提升80%要少。
NVIDIA上次使用台积电定制工艺还要追溯到12nm图灵时代,这次则是4nm工艺定制版,但是跟之前一样,NVIDIA并没有明确给出定制版4N工艺跟台积电N4工艺区别有多少。
目前所知的差异主要是能效,4N工艺重点优化了省电,虽然SXM版H100最高功耗有700W,但是PCIe 5.0版的功耗是350W,相比目前的A100核心的400W还低了,但性能提升是数倍的,可见能效之高。