顶点光电子商城2025年3月20日消息：近日，在GTC 2025大会上，美光公布了自家的SOCAMM内存模块，将用于英伟达最新发布的Blackwell Ultra GB300产品线。

          SOCAMM并非传统内存条的简单升级，而是将HBM3（高带宽内存）与AI加速单元集成于同一基板，形成“存算一体”的革新架构。其核心技术亮点包括：通过12层HBM3堆叠，单模块带宽较上一代提升3倍，足以支撑万亿参数模型实时训练；采用美光独有的低功耗电路设计，在满载运行时功耗降低至225W，显著低于同类方案；内置硬件级数据调度器，自动优化张量传输路径，减少GPU闲置等待时间。

          英伟达GB300系列作为面向AI数据中心的旗舰产品线，对内存子系统提出三大极限需求：需容纳百万级上下文长度的LLM（大语言模型）参数；自动驾驶等场景要求响应延迟低于1ms；企业级训练任务需保持99%以上的GPU利用率。

          SOCAMM通过NVLink-C2C直连技术与GB300 GPU核心互联，实现内存带宽的“零损耗”传输。实测数据显示，在ResNet-50训练任务中，GB300系统吞吐量提升2.7倍，推理能效比达15.8 TOPS/W。

           此次合作暴露了AI芯片竞争的下一战场——内存架构创新。传统冯·诺依曼架构下，数据在内存与计算单元间的“搬运”已成为算力瓶颈。SOCAMM的存算融合设计，为突破“内存墙”提供了新思路。