广州模板建站哪家好,做淘推广的网站,成都装修公司加盟,企业网站seo优化外包“ChatGPT是人工智能领域的iPhone时刻#xff0c;也是计算领域有史以来最伟大的技术之一。” 英伟达创始人兼CEO黄仁勋此前这样盛赞ChatGPT。 ChatGPT突然爆火#xff0c;对大算力芯片提出了更高更多的要求。近日#xff0c;据韩国经济日报报道#xff0c;受惠于ChatGPT也是计算领域有史以来最伟大的技术之一。” 英伟达创始人兼CEO黄仁勋此前这样盛赞ChatGPT。 ChatGPT突然爆火对大算力芯片提出了更高更多的要求。近日据韩国经济日报报道受惠于ChatGPT三星、SK海力士HBMhigh bandwidth memory高带宽内存接单量大增。 HBM是什么 HBMHigh Bandwidth Memory即高带宽存储器是基于硅通孔TSV和微凸点Microbump技术将多个DRAMdie和Logicdie堆叠而成的具有三维结构的存储产品。 GPU的主流存储方案目前有GDDR和HBM两种。在冯·诺依曼计算机体系结构中存在着“内存墙”和“功耗墙”问题由于传统显存GDDR5面临着带宽低、功耗高等瓶颈HBM则能通过3D封装工艺实现DRAMdie的垂直方向堆叠封装可以极大程度节约存储芯片占据的面积实现更高的集成度和更大存储容量。 在传输速率方面基于TSV工艺可以在存储芯片上制造多个内存通道、且更高集成度使得HBM和处理器之间物理距离得以缩短因此HBM在位宽、带宽等关键性能上均明显优于GDDR。根据SAMSUNG3DTSV工艺较传统POP封装形式节省了35%的封装尺寸降低了50%的功耗并且对比带来了8倍的带宽提升有效解决了内存墙问题和功耗墙问题成为当前满足AI需求的最佳方案被所有主流AI芯片采用。 为什么需要HBM 主要是因为随着GPU 的功能越来越强大需要更快地从内存中访问数据以缩短应用处理时间。例如AI和视觉具有巨大内存和计算和带宽要求。 为了减小“内存墙”的影响提升内存带宽一直是存储芯片聚焦的关键问题。 半导体的先进封装为克服阻碍高性能计算应用程序的内存访问障碍提供了机会内存的延迟和密度都是可以在封装级别解决的挑战。基于对先进技术和解决方案开展的研究内存行业在新领域进行了更深入的探索。 为了克服这些挑战半导体封装设计人员采用了异构集成路线以在更靠近处理器的位置包含更多内存。而HBM就为现代处理器和嵌入式系统当前面临的内存障碍问题提供了解决方案。这些存储器为系统设计人员提供了两个优势一是减少组件占用空间和外部存储器要求二是更快的内存访问时间和速率。 叠起来之后直接结果就是接口变得更宽其下方互联的触点数量远远多于DDR内存连接到CPU的线路数量。因此与传统内存技术相比HBM具有更高带宽、更多I/O数量、更低功耗、更小尺寸。 目前HBM产品以HBM第一代、HBM2第二代、HBM2E第三代、HBM3第四代、HBM3E第五代的顺序开发最新的HBM3E是HBM3的扩展版本。 当然存储器的容量也在不断加大HBM2E的最大容量为16GB目前三星正在利用其第四代基于EUV光刻机的10nm制程14nm节点来制造24GB容量的HBM3芯片此外8层、12层堆叠可在HBM3E上实现36GB业界最大的容量比HBM3高出50%。 此前SK海力士、美光均已宣布推出HBM3E芯片皆可实现超过1TB/s的带宽。 同时三星也宣布HBM4内存将采用更先进的芯片制造和封装技术虽然HBM4的规格尚未确定但有消息称业界正寻求使用2048位内存接口并使用FinFET晶体管架构来降低功耗。三星希望升级晶圆级键合技术从有凸块的方式转为无凸块直接键合。因此HBM4的成本可能会更高。 HBM的未来应用前景 随着AI大模型、智能驾驶等新技术的崛起人们对高带宽的内存的需求越来越多。 首先AI服务器的需求会在近两年爆增如今在市场上已经出现了快速的增长。AI服务器可以在短时间内处理大量数据GPU可以让数据处理量和传输速率的大幅提升让AI服务器对带宽提出了更高的要求而HBM基本是AI服务器的标配。 除了AI服务器汽车也是HBM值得关注的应用领域。汽车中的摄像头数量所有这些摄像头的数据速率和处理所有信息的速度都是天文数字想要在车辆周围快速传输大量数据HBM具有很大的带宽优势。 另外AR和VR也是HBM未来将发力的领域。因为VR和AR系统需要高分辨率的显示器这些显示器需要更多的带宽来在 GPU 和内存之间传输数据。而且VR和AR也需要实时处理大量数据这都需要HBM的超强带宽来助力。 此外智能手机、平板电脑、游戏机和可穿戴设备的需求也在不断增长这些设备需要更先进的内存解决方案来支持其不断增长的计算需求HBM也有望在这些领域得到增长。并且5G 和物联网 (IoT) 等新技术的出现也进一步推动了对 HBM 的需求。 并且AI的浪潮还在愈演愈烈HBM今后的存在感或许会越来越强。据semiconductor-digest预测到2031年全球高带宽存储器市场预计将从2022年的2.93亿美元增长到34.34亿美元在2023-2031年的预测期内复合年增长率为31.3%。 HBM需要克服的问题
1HBM需要较高的工艺从而导致大幅度提升了成本。
针对更大数据集、训练工作负载所需的更高内存密度要求存储厂商开始着手研究扩展Die堆叠层数和物理堆叠高度以及增加核心Die密度以优化堆叠密度。
但就像处理器芯片摩尔定律发展一样当技术发展到一个阶段想要提升更大的性能那么成本反而会大幅提升导致创新放缓。
2产生大量的热如何散热是GPU极大的挑战。
行业厂商需要在不扩大现有物理尺寸的情况下增加存储单元数量和功能从而实现整体性能的飞跃。但更多存储单元的数量让GPU的功耗大幅提升。新型的内存需要尽量减轻内存和处理器之间搬运数据的负担。
最后总结
随着人工智能、机器学习、高性能计算、数据中心等应用市场的兴起内存产品设计的复杂性正在快速上升并对带宽提出了更高的要求不断上升的宽带需求持续驱动HBM发展。相信未来存储巨头们将会持续发力、上下游厂商相继入局让HBM得到更快的发展和更多的关注。 参考资料
[01] 《An Overview of the Development of a GPU with integrated HB Mon Silicon Interposer》IEEE
[02] https://www.eepw.com.cn/article/202312/454189.htm
[03] https://www.eet-china.com/news/202302168387.html
[04] 李川,郑浩,王彦辉.硅转接层高带宽存储互连通道信号完整性设计及仿真 [J]. 计算机工程与科学. 2022 (02)
[05] 吴铁彬,过锋,王谛. 面向E级计算的高性能处理器核心运算架构研究进展[J]. 计算机工程与科学. 2023 (05)
