2019年9月,半导体企业Cerebras Systems发布了世界最大芯片“WSE”(晶圆级引擎),台积电16nm工艺制造,面积达46225平方毫米,内部集成了1.2万亿个晶体管、40万个AI核心、18GB SRAM缓存,支持9PB/s内存带宽、100Pb/s互连带宽,而功耗也高达15千瓦,主要用于AI加速计算。
美国能源部就看中了它,打造了两套计算系统CS-1,每台250万美元,用来搭配超级计算机,同步进行AI和增强计算。
Cerebras今天宣布了第二代WSE-2,制造工艺升级为台积电7nm,面积维持在46225平方毫米,因为如此庞大的芯片,一块300mm晶圆也只能造出一块,制造和封装工艺直接决定了芯片面积。
得益于工艺升级,集成晶体管数量达到了恐怖的2.6万亿个,密度也达到每平方毫米5624.6万,均增加了1.17倍,因此核心数量增至85万个,增加了1.13倍,另外SRAM缓存容量增至40GB,内存带宽来到20PB/s,互连带宽来到220Pb/s,都增加了1.22倍。
作为对比,作为曾经最大的台积电7nm工艺芯片,NVIDIA A100的面积也不过826平方毫米,缓存才40MB。
Cerebras还设计了一套系统,可以绕过任何制造缺陷,保证100%的良品率,毕竟坏掉一颗,就直接废掉一块晶圆。
事实上,Cerebras最初设计了1.5%的核心冗余,也就是允许坏掉12750个,但是后来发现台积电7nm工艺已经相当成熟,根本不需要浪费这么多额外核心。
WSE-2 85万个核心通过2D Mesh平面网格布局互连,辅以FMAC数据路径,并定制了编译器,便于开发应用。
与美国能源部合作的第二代CS-2系统,整体设计基本不变,而在各项规格翻了一番还多之后,整体功耗基本不变,今年第三季度投用。