Jensen Huang: Nvidia's Future, Physical AI, Rise of the Agent, Inference Explosion, AI PR Crisis

- Nvidia는 GPU 회사에서 'AI 공장' 회사로 진화했으며, 분산된 이기종 컴퓨팅(GPU, CPU, Groq LPU, 네트워킹, 스토리지) 전략을 통해 다양한 에이전트 워크로드를 실행합니다. - Jensen Huang은 막대한 컴퓨팅 폭발을 제시합니다: 생성형 AI에서 추론으로 이동하는 데 약 100배 더 많은 컴퓨팅이 필요하고, 추론에서 에이전트로 이동하는 데 또 다른 약 100배가 필요합니다. 2년 동안 컴퓨팅 수요는 10,000배 증가했습니다. - 물리적 AI(로보틱스, 자율주행, 디지털 생물학)는 50조 달러 시장으로 규정되며, 지금까지 기술의 영향을 거의 받지 않았습니다. Nvidia의 이 분야 사업은 이미 연간 약 100억 달러에 가까우며 기하급수적으로 성장하고 있습니다. - '현대 AI 컴퓨팅의 운영체제'는 OpenClaw와 같은 오픈소스 에이전트 프레임워크에 의해 정의되고 있으며, 이는 메모리, 기술, 스케줄링 및 I/O로 컴퓨팅을 구조화하여 개인 AI 컴퓨터를 가능하게 합니다. - AI는 'PR 위기'(미국 내 인기도 17%)를 겪고 있습니다. Huang은 정책 입안자들에게 정보를 제공하고, 종말론을 거부하며, AI를 채택하지 않음으로 인한 위험에 초점을 맞출 것을 주장하며, 미국 원자력 산업의 침체와 유사점을 제시합니다. - 추론은 훈련뿐만 아니라 중요한 병목 현상이자 성장 동력입니다. Nvidia의 추론 공장 아키텍처는 처리량이 10배 더 우수하다고 주장하며, 칩 가격이 아닌 총 토큰 비용이 가치의 진정한 지표라고 주장합니다. - 지식 근로자(예: 연봉 50만 달러 엔지니어)의 경우, 효과적이려면 토큰 소비가 상당해야 하며(예: 연간 25만 달러), 이는 기업 생산성 지출의 패러다임 전환을 나타냅니다. - 오픈소스 모델 생태계는 번성하고 있으며 OpenAI와 같은 독점 모델 다음으로 두 번째로 인기 있는 모델 범주입니다. Huang은 독점 모델과 오픈 모델 모두 제품이 아닌 기술 계층으로 공존할 것이라고 주장합니다. - 글로벌 경쟁에 관하여: Nvidia는 중국에서 약 95%의 점유율을 포기했으며 현재 0%입니다. 현 행정부 하의 새로운 라이선스가 복귀를 허용하고 있습니다. 전략적 목표는 미국 AI 기술 스택(칩에서 플랫폼까지)이 전 세계를 지배하는 것입니다. - 로보틱스는 예측됩니다