DC娱乐网

“AI的真正主角不是GPU,而是内存。”HBM内存之父金正浩教授“GPU实际工作

“AI的真正主角不是GPU,而是内存。”HBM内存之父金正浩教授“GPU实际工作的时间只有10%”金教授的结论是今后左右AI性能的不是“拥有多快的GPU”,而是“拥有多快、多大的内存”。“今后内存需求将增加1000倍。”“未来的AI芯片是100层3D大楼”金教授描绘的未来芯片模样。现在HBM是主力,但今后HBF、HBS等新型内存将陆续登场。最终,这些内存将被层层堆叠成100层高层大楼形式的芯片。不是从侧面拉取数据,而是上下直接传递,从而最大化速度的结构。那么GPU呢?它将登上这座大楼的最顶层。原因是热量。因为GPU最热,所以放在最上面便于散热。到现在为止GPU是主角、内存是配角,但未来的芯片中,内存将成为大楼的主体,GPU则被置于其上的结构将被颠倒。