Damnang
· Damnang’s Substack
· 2026년 7월 6일, 02:55
· ⏱ 17 분 소요
| Substack에서 읽기 ↗
요약
CXL(Compute Express Link)은 AI 트레이닝에서 추론으로의 전환, 심각한 메모리 용량 위기로 인한 하이퍼스케일러 메모리 지출 비중이 CAPEX의 8%에서 30%로 증가, 그리고 PCIe 6.0 대역폭이 이제 메모리 채널 속도와 일치하는 등의 요인으로 부활하고 있습니다. 이는 DRAM과 SSD 사이에 새로운 메모리 계층을 만들어 HBM을 잠식하지 않으면서 총 DRAM 수요를 확장합니다. 그러나 이 기사는 명시적인 트레이드 추천이나 공개된 포지션을 제공하지 않습니다.
•하이퍼스케일러 메모리 지출은 2023~2024년 전체 CAPEX의 약 8%에서 2026년 약 30%로 증가했으며, 이는 AI 수요에 의해 거의 4배 급증한 것입니다.
•CXL은 2024년 초 AI 시대에 '죽었다'고 선언되었는데, 이는 트레이닝 워크로드가 메모리 용량보다 GPU 간 대역폭을 우선시했기 때문입니다.
•세 가지 요인이 CXL을 부활시켰습니다: 추론 워크로드는 값비싼 HBM에 비효율적으로 맞는 대규모 KV 캐시(GPU당 80~120GB)를 필요로 함; 메모리 위기로 풀링과 오래된 DRAM 재사용이 경제적이 됨(Meta의 Vistara 논문); PCIe 6.0 x16이 약 128GB/s를 제공하여 2.5개의 DDR5 메모리 채널과 일치.
•CXL 메모리는 로컬 DRAM(지연 시간 ~100ns)과 SSD(지연 시간 ~100μs) 사이에 계층을 추가하며, Montage Technology 데모에서 95~100% 처리량에서 애플리케이션 수준 지연 시간 패널티는 5~10μs에 불과합니다.
•배포는 세 단계로 진화합니다: 직접 연결(현재 볼륨), 풀링(공유 100TiB+ 풀), 그리고 패브릭(CXL 3.1 이후 랙 스케일 공유 메모리).
•Microsoft는 2025년 11월 Azure M-시리즈 VM에서 CXL 연결 메모리를 미리 선보였습니다; Meta는 하이퍼스케일 생산에서 부활한 DDR4로 CXL을 배포했습니다; CXL 4.0 사양은 2025년 11월에 PCIe 7.0 기준 128GT/s로 도착했습니다.
이 기사는 DRAM 가격이 '급등'하고 있으며 하이퍼스케일러가 충분한 물량을 확보하지 못하고 있다고 밝히며, CXL 모듈은 '일반 DRAM'을 사용한다고 설명합니다. 따라서 CXL이 연결된 모든 서버는 DRAM 용량을 추가하게 됩니다. Micron은 주요 DRAM
이 기사는 DRAM 가격이 '급등'하고 있으며 하이퍼스케일러가 충분한 물량을 확보하지 못하고 있다고 밝히며, CXL 모듈은 '일반 DRAM'을 사용한다고 설명합니다. 따라서 CXL이 연결된 모든 서버는 DRAM 용량을 추가하게 됩니다. Micron은 주요 DRAM 공급업체이며, 서버당 총 DRAM 수요의 구조적 증가로부터 수혜를 입습니다. CXL이 HBM을 대체하는 것이 아니라 새로운 계층을 생성하기 때문입니다.
리스크: PCIe 7.0 통합이 지연되거나 하이퍼스케일러가 CXL보다 HBM3E 용량 확장을 우선시하는 경우 CXL 채택이 예상보다 느려질 수 있습니다.
이 기사는 메모리 풀링을 위한 '스위치'를 포함한 CXL 생태계 계층을 설명하며, Broadcom이 PCIe 스위치 및 리타이머의 지배적 공급업체라고 밝히고 있습니다. PCIe 6.0/7.0 및 CXL 3.1/4.0으로의 전환은 고
이 기사는 메모리 풀링을 위한 '스위치'를 포함한 CXL 생태계 계층을 설명하며, Broadcom이 PCIe 스위치 및 리타이머의 지배적 공급업체라고 밝히고 있습니다. PCIe 6.0/7.0 및 CXL 3.1/4.0으로의 전환은 고급 스위치 실리콘을 필요로 하며, Broadcom의 Tomahawk 및 Jericho 제품군은 데이터센터 메모리 분산화의 직접적인 수혜를 입을 것입니다.
리스크: Marvell 또는 맞춤형 하이퍼스케일러 스위치 ASIC의 경쟁이 Broadcom의 CXL 스위치 시장 점유율을 압박할 수 있습니다.