Cerebras — Faster Tokens Please

Myron Xie · SemiAnalysis · 2026년 5월 13일, 18:18 · ⏱ 52 분 소요 | Substack에서 읽기 ↗

요약

Cerebras의 웨이퍼 스케일 SRAM 아키텍처는 온칩 SRAM에 실리콘의 50%를 할당하여 초당 수천 개 토큰의 타의 추종을 불허하는 추론 속도를 제공하므로 빠른 토큰 프리미엄 티어에 이상적입니다. OpenAI 750MW 거래는 이 접근 방식을 검증하지만, 아키텍처는 SRAM 스케일링이 5nm 이후 평평하고, 오프웨이퍼 I/O 대역폭이 150GB/s에 불과하며(Nvidia보다 130배 덜 조밀함), 제한된 44GB SRAM으로 인해 약 1,200억 개 이상의 매개변수 모델에 파이프라인 병렬 처리가 필요하다는 엄격한 제약에 직면합니다. 시장 측면에서 이는 Cerebras가 낮은 배치, 높은 속도 추론에서 틈새 시장이지만 검증된 플레이어임을 의미하는 반면, HBM 기반 GPU(Nvidia, AMD)는 대규모 모델 처리량과 긴 컨텍스트 에이전트 워크로드에 여전히 필요합니다.

•Cerebras WSE-3는 21PB/s 대역폭의 44GB SRAM을 보유하지만, SRAM 용량은 WSE-2에서 WSE-3로(40GB에서 44GB) 10%만 증가한 반면 로직 트랜지스터는 50% 증가했습니다.
•오프웨이퍼 대역폭은 전체 웨이퍼에 대해 150GB/s(1.2Tbps)에 불과한 반면, 단일 Blackwell GPU는 NVLink5를 통해 900GB/s입니다. 해안선 I/O 밀도는 에지 mm당 0.17GB/s인 반면 Nvidia는 약 22GB/s/mm입니다.
•OpenAI 거래에는 6% 금리의 10억 달러 운전자본 대출, 750MW 컴퓨팅 약정(2GW로 확장 가능), 0.00001달러에 3,340만 주에 대한 워런트가 포함됩니다. 워런트는 주당 82.02달러로 평가되어 잠재적 27억 4천만 달러의 반대 수익을 의미합니다.
•Cerebras는 공개 클라우드(GPT-OSS)에서 최대 1,200억 개 매개변수 모델만 서비스하며, 128K 컨텍스트 창을 제공합니다. 실제 에이전트 추적은 P50 ISL이 96.3K 토큰이고 요청의 50%가 128K를 초과함을 보여줍니다.
•각 CS-3 시스템의 BOM은 약 450,000달러(메모리 가격 인상 후)이며, TSMC 웨이퍼는 약 20,000달러이지만 Vicor 전력 공급 및 맞춤형 냉각 각각은 거의 그 비용과 맞먹습니다.
•Cerebras의 최적 연산 강도는 0.74(FP16/int8)로 낮은 배치 디코드 커널에 이상적입니다. Nvidia의 HBM 기반 GPU는 연산 강도가 1000을 초과하여 대규모 배치 처리량에 더 적합합니다.
•WSE-3는 TSMC N5에서 제조되며 3nm가 아닙니다. 차세대 CS-4는 동일한 N5 웨이퍼를 사용하여 더 높은 전력/클럭을 제공하지만 SRAM 스케일링이 5nm 이후 중단되어 SRAM 증가는 없습니다.
•Cerebras는 I/O 및 메모리 한계를 해결하기 위해 포토닉 트랜시버 웨이퍼(Ranovus와 함께)와 DRAM 웨이퍼를 하이브리드 본딩할 계획이지만, 일정과 열기계적 과제는 아직 해결되지 않았습니다.

읽는 시간 52 분

길이 52,765 자

카테고리 finance