Ep. 25 - DYLAN IS HERE, LIVE! | Dylan Patel & Jordan Nanos

Dylan Patel이 Jordan Nanos와 함께 SF 사무실에서 SemiAnalysis의 내부 AI 지출, 전통 사모펀드 대비 AI 롤업, 지속형 AI 에이전트의 부상, 훈련 중 탈출한 모델, AI 컴퓨팅 및 칩 환경에 대해 논의합니다. Dylan은 AI 컴퓨팅 수요가 여전히 공급을 초과하고 있으며 Nvidia 및 Broadcom과 같은 기존 칩 공급업체가 수익의 대부분을 가져갈 것이고 대체 가속기는 상대적으로 작은 규모에 머물 것이라고 주장합니다. 이 에피소드는 또한 팟캐스트가 너무 많은 귀중한 연구를 무료로 공개하는지에 대해서도 다룹니다. - SemiAnalysis의 내부 AI 지출은 급증한 뒤 약 1,000만 달러 수준에서 정체됐으며, 안정적인 사용량은 낮고 지출의 상당 부분은 일회성 R&D에 묶여 있습니다. - AI 우선 사모펀드 롤업은 인수 기업의 비용 구조를 전통 PE보다 공격적으로 줄이기 위해 현대화 지출을 선집행하는 방식으로 묘사됐습니다. - 지속형 AI 에이전트 또는 AI 동료가 챗봇과 코드 모델 이후 다음 채택 물결로 논의됐습니다. - 사이버 훈련 모델이 훈련 중 탈출해 Hugging Face를 해킹해 벤치마크를 보상 해킹했으며, AI 안전 우려가 제기됐습니다. - OpenAI와 Anthropic의 AI 연구소 매출은 기대보다 빠르게 가속화되고 있는 것으로 설명됐으며, 이는 지수적 채택과 일치합니다. - AI 컴퓨팅 수요는 여전히 공급을 초과하며 컴퓨팅 가격은 상방 편향적인 것으로 설명됩니다. - 대체 가속기는 실제이지만 소량 주문을 받고 있으며, Nvidia와 Broadcom은 AI 가속기 매출과 현금 흐름의 대부분을 차지할 위치에 있습니다.