Google’s AI Infrastructure Layer Map

Damnang · Damnang’s Substack · 2026년 4월 28일, 16:40 · ⏱ 14 분 소요  | Substack에서 읽기 ↗
요약
이 기사는 AI 인프라의 중심이 트레이닝에서 추론으로 이동하고 있으며, 이에 따라 칩 설계(Google의 TPU가 8t/8i로 분할)와 토큰 비용 절감을 위한 스택 수준 경쟁이 변화하고 있다고 주장합니다. 시장의 관점에서, 이는 하이퍼스케일러의 차별화가 점점 통합 하드웨어-소프트웨어 스택에 의존하게 되어 추론 최적화 칩 및 메모리 어시스턴트 공급업체에 혜택을 주는 반면, NVIDIA는 하이브리드 클라우드 배포에서 핵심 플레이어로 남아 있음을 의미합니다.
  • •Google은 8세대 TPU를 트레이닝(TPU 8t)과 추론(TPU 8i) 변형으로 분할하여 트레이닝에서 추론으로의 워크로드 전환을 시사했습니다.
  • •TPU 8t 슈퍼팟은 9,600개의 칩으로 121 FP4 엑사플롭스와 2PB 공유 HBM 풀을 제공하며, 신뢰성을 위한 가장 중요한 지표로 97%의 굿업타임을 자랑합니다.
  • •TPU 8i는 Boardfly 토폴로지와 CAE를 사용한 저지연 추론에 초점을 맞추며, 칩당 288GB HBM과 384MB 온칩 SRAM을 갖추고 있습니다.
  • •MediaTek이 추론 TPU 설계에 참여한 것으로 알려져 있으며, 이는 저전력, 비용 최적화 실리콘 파트너로의 이동을 반영합니다.
  • •Marvell은 TPU와 함께 메모리 병목 현상을 줄이기 위한 어시스턴트 칩에 대해 Google과 논의 중입니다.
  • •Google은 또한 NVIDIA Vera Rubin을 기반으로 한 A5X 베어 메탈 인스턴스를 발표하여 TPU가 NVIDIA를 완전히 대체하기보다는 다중 엔진 전략을 채택하고 있음을 나타냅니다.
읽는 시간 14 분
길이 14,547 자
카테고리 finance
아이디어
Damnang Substack 저자, Damnang’s Substack
Google의 A5X 인스턴스는 NVIDIA Vera Rubin 기반으로, Google이 NVIDIA를 대체하는 것이 아니라 자체 클라우드에서 TPU와 NVIDIA GPU를 모두 운영하고 있음을 보여주며, NVIDIA의 추론 최적화 GP
Google의 A5X 인스턴스는 NVIDIA Vera Rubin 기반으로, Google이 NVIDIA를 대체하는 것이 아니라 자체 클라우드에서 TPU와 NVIDIA GPU를 모두 운영하고 있음을 보여주며, NVIDIA의 추론 최적화 GPU에 대한 지속적인 수요를 확인시켜 줍니다. 리스크: Google 자체 TPU 8i가 추론 워크로드의 점유율을 높여 잠재적으로 Google Cloud에서 NVIDIA의 성장을 제한할 수 있습니다.
NVDA
Damnang Substack 저자, Damnang’s Substack
MediaTek은 추론 TPU 설계에 참여한 것으로 알려졌으며, 저전력 설계 및 TSMC 공정 통합 전문 지식을 제공합니다 — 이는 AI 가속기에서 MediaTek의 역할을 확장할 수 있는 새로운 설계 수주입니
MediaTek은 추론 TPU 설계에 참여한 것으로 알려졌으며, 저전력 설계 및 TSMC 공정 통합 전문 지식을 제공합니다 — 이는 AI 가속기에서 MediaTek의 역할을 확장할 수 있는 새로운 설계 수주입니다. 리스크: MediaTek의 참여는 확인되지 않았으며 단일 세대에 국한될 수 있고, 다른 ASIC 파트너와의 경쟁이 수익 영향력을 제한할 수 있습니다.
2454.TW
Damnang Substack 저자, Damnang’s Substack
Marvell은 메모리 병목 현상을 줄이는 어시스턴트 칩에 대해 Google과 논의 중이며, AI 워크로드의 주요 병목 현상을 해결합니다. 이는 새로운 제품 카테고리 및 수익원을 나타낼 수 fo
Marvell은 메모리 병목 현상을 줄이는 어시스턴트 칩에 대해 Google과 논의 중이며, AI 워크로드의 주요 병목 현상을 해결합니다. 이는 Marvell에게 새로운 제품 카테고리 및 수익원을 나타낼 수 있습니다. 리스크: 논의는 초기 단계이며, 공식 확인이나 물량 약속이 없고, Marvell은 다른 맞춤형 실리콘 벤더와의 경쟁에 직면합니다.
MRVL
더 보기 Damnang’s Substack
The CPU Bottleneck Trade: Who Actually Gets Paid in the Agentic AI Era?
4월 26일, 01:28
The Real Bottleneck in the Optical Interconnect Cycle Is InP
4월 22일, 07:35
Damnang's Optical Investment Map v1.0
4월 19일, 23:44
Can AMD Beat NVIDIA?
4월 17일, 09:15
The Cadence Ambition the Market Isn't Pricing Yet
4월 16일, 16:42

This newsletter, published April 28, 2026, features Damnang discussing NVDA, 2454.TW, MRVL. 3 trade ideas extracted by AI with direction and confidence scoring.

Speakers: Damnang  · Tickers: NVDA, 2454.TW, MRVL