"우리는 또한 추론을 확장하고 있습니다. 추론 확장에는 거의 벽이 없습니다... 컴퓨트 비용이 있을 것이라고 생각합니다." AI 개발의 다음 물결은 단순한 챗봇을 넘어 공식적인 수학적 검증과 에이전트 추론으로 이동하고 있습니다. 이러한 프로세스는 모델이 단계별로 '생각'해야 하며, 이는 막대하고 지속적인 추론 컴퓨트를 요구합니다. 스타트업은 이러한 컴퓨트 비용에 투입하기 위해 수억 달러를 조달하고 있으며, 이는 Nvidia의 하드웨어 독점에 직접적인 혜택을 줍니다. 사전 학습에서 추론 중심의 추론 모델로의 전환은 GPU 컴퓨트 수요에 사실상 무한한 한계를 만듭니다. 하이퍼스케일러가 맞춤형 실리콘(ASIC)을 성공적으로 개발 및 배포하여 Nvidia GPU에서 추론 작업 부하를 상당히 낮은 비용으로 오프로드합니다.
"우리는 또한 추론을 확장하고 있습니다. 추론 확장에는 거의 벽이 없습니다... 컴퓨트 비용이 있을 것이라고 생각합니다." AI 개발의 다음 물결은 단순한 챗봇을 넘어 공식적인 수학적 검증과 에이전트 추론으로 이동하고 있습니다. 이러한 프로세스는 모델이 단계별로 '생각'해야 하며, 이는 막대하고 지속적인 추론 컴퓨트를 요구합니다. 스타트업은 이러한 컴퓨트 비용에 투입하기 위해 수억 달러를 조달하고 있으며, 이는 Nvidia의 하드웨어 독점에 직접적인 혜택을 줍니다. 사전 학습에서 추론 중심의 추론 모델로의 전환은 GPU 컴퓨트 수요에 사실상 무한한 한계를 만듭니다. 하이퍼스케일러가 맞춤형 실리콘(ASIC)을 성공적으로 개발 및 배포하여 Nvidia GPU에서 추론 작업 부하를 상당히 낮은 비용으로 오프로드합니다.