Vera Rubin’s DRAM Cut in Half: Is the Memory Cycle Really Over?

NVIDIA의 Vera Rubin에서의 DRAM 삭감은 메모리 수요 약화의 신호가 아니라 전략적 변화로, 고가의 HBM4를 핫 상태에 집중하고 덜 중요한 상태는 저렴한 계층으로 밀어내는 것이며, CPU 오케스트레이션은 용량보다 배치에 초점을 맞춥니다. 메모리 사이클은 끝나지 않았습니다. HBM은 여전히 강력하고 SOCAMM 수요는 이동할 수 있으며, 시스템당 콘텐츠 감소는 더 높은 볼륨으로 상쇄될 수 있습니다. • SemiAnalysis는 NVIDIA의 표준 Vera Rubin SOCAMM 구성이 192GB 모듈에서 96GB 모듈로 줄어들어 랙당 CPU 측 DRAM이 약 54TB에서 28TB로 감소했다고 보도했습니다. • 이 움직임은 LPDDR5X 공급 제약 때문이며, 출하 지연을 피하기 위해 랙 비용을 약 760만 달러에서 680만 달러로 낮춥니다. • HBM4 용량은 20.7TB로 유지되지만 대역폭은 576TB/s에서 1,580TB/s로 증가하여 NVIDIA가 핫 레인을 느슨하게 하지 않음을 보여줍니다. • 작성자는 CPU의 중요성이 로컬 DRAM 용량을 늘리는 것이 아니라 상태가 어디로 갈지를 제어하는 데 있다고 주장합니다. • SOCAMM 비트 수요 = 모듈 용량 × 시스템당 모듈 수 × 출하 시스템 수; 시스템당 콘텐츠 감소는 더 높은 볼륨으로 상쇄될 수 있습니다. • 기사는 HBM, SOCAMM 및 스토리지가 함께 속하는지 의문을 제기합니다. 이들 간의 경계가 이익 풀을 결정합니다.