在 Analysist Day 2024 这一重要的科技展示舞台上,
Marvell(美满电子)重磅宣布推出一项具有创新性的用于定制 XPU 的定制高带宽存储器(CHBM)解决方案,而该 XPU 主要面向 AI 应用领域,这一消息无疑在半导体行业引起了广泛的关注与热议。

该方案是与领先的内存制造商合作开发的,其中包括与
美光、三星以及
SK 海力士等知名企业携手共进。CHBM 致力于为特定的 XPU 设计进行全方位的优化,涵盖性能、功耗、内存容量、芯片尺寸以及成本等多个关键方面。通过这种深度的优化整合,CHBM 有望为 AI 应用场景下的 XPU 提供更为优秀的运行表现,满足不同客户对于定制化芯片解决方案的多样化需求。并且值得注意的是,CHBM 将与
Marvell的定制 XPU 完美兼容,不过在初期阶段,它至少不会成为 JEDEC 定义的 HBM 标准的一部分,这也彰显了其独特的定制化特性与独立的发展路径。
Marvell的定制 HBM 解决方案允许为特定应用定制接口和堆栈,尽管目前公司尚未透露任何细节,但这一特性无疑为未来的应用拓展提供了极大的想象空间。Marvell的目标之一便是着力减少行业标准 HBM 接口在处理器内部所占用的空间,通过这种方式,能够有效地释放出更多可用于计算和功能实现的区域。公司宣称,凭借其专有的芯片间 I/O,它不仅能够在其定制 XPU 中多封装 25% 的逻辑,还可能在与计算 Chiplet 相邻的地方多安装 33% 的 CHBM 内存封装,如此一来,便能够显著增加处理器可用的 DRAM 量,从而进一步提升处理器的整体性能与数据处理能力。此外,公司预计内存接口功耗将降低高达 70%,这对于降低芯片整体功耗、提高能源利用效率具有极为重要的意义,尤其是在 AI 应用场景中,能够有效减少能源消耗,提升系统的稳定性与可持续运行能力。

由于Marvell的 CHBM 不依赖于 JEDEC 指定的标准,因此在硬件层面,它将需要一系列全新的组件构建。这包括一个新控制器以及可定制的物理接口、新的芯片间接口以及彻底改造的 HBM 基础芯片。新的
Marvell芯片间 HBM 接口带宽为 20Tbps/mm(2.5TB/s 每毫米),这一数据相较于目前 HBM 提供的 5Tbps/mm(625GB/s 每毫米)有着极为显著的提升,充分展示了 CHBM 方案在数据传输速率方面的巨大优势。随着技术的不断发展与演进,
Marvell还设想无缓冲内存的带宽将达到 50Tbps/mm(6.25TB/s 每毫米),这无疑为未来更高性能的芯片设计与应用提供了坚实的技术储备与发展方向。
Marvell没有具体说明其 CHBM 接口的宽度。除了表示其 “通过串行化和加速其内部 AI 计算加速器硅芯片与 HBM 基础芯片之间的 I/O 接口来增强 XPU” 外,
Marvell没有透露其定制 HBM 解决方案的许多细节,这在某种程度上暗示了与行业标准 HBM3E 或 HBM4 解决方案相比,接口宽度较窄。然而,从整体来看,CHBM 解决方案将是可定制的,这一特性依然使其在应对不同客户需求和特定应用场景时具备很强的灵活性与适应性。

“通过为特定性能、功耗和总体拥有成本定制 HBM 来增强 XPU,是 AI 加速器设计和交付新范式中的最新一步,”
Marvell定制、计算和存储组高级副总裁兼总经理 Will Chu 表示。“我们非常感谢与领先的内存设计商合作,以加速这场革命,并帮助云数据中心运营商继续扩展其 XPU 和基础设施,以迎接 AI 时代。”
在与
美光、三星和
SK 海力士的合作对于
Marvell CHBM 的成功实施至关重要,因为这为定制 HBM 的相对广泛利用奠定了坚实的基础,通过多方合作汇聚优势资源,有望推动这一创新方案在 AI 应用领域的广泛应用与深入发展。
在全球半导体产业积极探索 AI 芯片创新发展的大背景下,
Marvell推出的定制 CHBM 方案成为行业焦点。
亿配芯城与
ICGOODFIND密切关注行业动态。
Marvell与内存巨头合作开发的 CHBM 方案,针对 XPU 多方面优化且不依赖标准,有带宽提升、功耗降低等优势,虽接口细节暂未全明但具可定制性,合作基础为其应用推广提供保障,这为半导体企业在 AI 芯片内存方案设计、合作开发与技术创新方面提供了参考范例,促使行业深入思考如何在新兴领域打造差异化竞争力与推动技术落地应用。