SK hynix通过192GB SOCAMM2内存推进AI服务器发展

数据中心、AI基础设施和高性能计算系统需要能够支持日益复杂工作负载的内存架构。在此背景下，SK hynix Inc. 已开始量产其192GB SOCAMM2内存模块，该模块旨在为下一代AI服务器提供更高带宽和更优能效。

该新模块基于采用1cnm工艺（第六代10纳米级技术）的LPDDR5X低功耗DRAM。它将传统用于移动设备的低功耗内存引入服务器领域，以满足大规模AI工作负载对性能和效率的要求。

面向AI服务器架构的高容量内存
SOCAMM2¹（Small Outline Compression Attached Memory Module 2，小型压缩连接内存模块2）被设计为AI服务器的主要内存解决方案，将紧凑外形与可扩展性相结合。其压缩连接器增强了信号完整性，并支持更便捷的模块更换，从而支持灵活的系统配置。

与传统RDIMM²模块相比，该新解决方案具有：

这些特性对于大规模AI模型尤为重要，在这些模型中，内存吞吐量和效率直接影响系统性能。

解决AI工作负载瓶颈
现代AI应用，尤其是具有数千亿参数的大型语言模型（LLMs），需要大量的内存带宽和容量。传统内存架构在训练和推理过程中都可能成为限制因素。

SOCAMM2模块通过实现更快的数据传输并降低能耗开销来缓解这些限制。这有助于在系统层面提升处理速度，尤其是在处理并行计算的AI服务器环境中。

该产品专门针对NVIDIA Vera Rubin平台进行了优化，体现了内存技术与AI计算架构之间日益增强的融合。

向高能效AI内存转型
随着AI基础设施的发展，行业正逐步转向在性能与功耗之间取得平衡的解决方案。LPDDR5X等低功耗DRAM技术正逐渐超越移动应用领域，在数据中心中变得愈发重要，因为能效是关键因素之一。

在降低功耗需求的同时运行高容量内存模块，有助于降低运营成本，并支持大规模计算环境中的可持续发展目标。

面向AI基础设施需求的可扩展生产
为满足云服务提供商和AI系统开发商的需求，SK hynix已建立SOCAMM2的稳定量产体系。这确保了对需要高性能内存解决方案的下一代AI平台的持续供应。

SOCAMM2的推出反映了行业向专用内存架构发展的更广泛趋势，这些架构针对AI工作负载进行了优化，其中带宽、能效和可扩展性是关键选择标准。

1 SOCAMM2（Small Outline Compression Attached Memory Module 2）：一种基于低功耗DRAM的内存模块，具备厚度薄与可扩展性等特性，特别适用于AI服务器。该产品采用压缩式连接器，可提升信号完整性且易于更换。
2 寄存双列直插式内存模块（RDIMM, Registered Dual In-line Memory Module）：在存储器模块的内存控制器与DRAM芯片之间增加可中继地址、命令信号的寄存器（Register）或时钟缓冲器（Buffer），适用于服务器和工作站的DRAM模块。

由 Natania Lyngdoh（Induportals 编辑）编辑 — 由 AI 改编。

www.skhynix.com