技术企业正在探索 HBM（高带宽内存）设计的重大变革，计划将在下一代内存堆栈中直接嵌入 GPU 核心。据韩国业内消息，Meta 和 NVIDIA 正在评估“定制 HBM”架构，将 GPU 核心集成进未来 HBM 设备的基底（base die），SK 海力士和三星也被曝已参与前期讨论。
目前的 HBM 技术是将多个 DRAM 芯片叠加在一个负责外部输入输出的基底上。即将于明年实现量产的 HBM4，将内置控制器以提升带宽和效率。而此次新架构试图实现的“嵌入式 GPU”则进一步突破，将计算能力直接分布在内存内部，从而减少数据移动并降低功耗。业内人士表示，这种设计能够显著提升 AI 工作负载的性能和能效，因为计算与内存的物理距离大幅缩短。
但上述融合方案仍面临挑战，包括 TSV（硅通孔）堆叠结构下的有限芯片面积、电源分配难题，以及如何为内层高度集成 GPU 逻辑实现有效散热等问题。
韩国科学技术院（KAIST）电气工程系金正浩教授指出：“随着 AI 推进，存储芯片与系统半导体之间界限正在加速消融，技术变革顺势提速。本土企业必须将生态布局从传统存储拓展至逻辑芯片领域，抢占下一代 HBM 市场先机。”
在产品层面，AMD 最新发布的 Instinct MI430X 加速卡采用了下一代 CDNA 架构，支持高达 432GB 的 HBM4 内存和 19.6TB/s 的内存带宽。而 NVIDIA 新一代“Vera Rubin”超级芯片则采用不同路径，每颗 Rubin GPU 集成两块大尺寸算力芯片，并配套八组 HBM4 堆栈，实现单颗 GPU 约 288GB、整板约 576GB 的 HBM4 内存容量。
行业普遍认为，具备强大封装与逻辑芯片技术的公司将在新一轮竞争中占据先机，而传统存储厂商则需加速向系统级半导体领域布局，方能保持竞争力。