Perplexity and Nvidia partner for local-first AI platform

케이트 루니(Kate Rooney)는 엔비디아(NVIDIA)와 퍼플렉시티(Perplexity)의 로컬 우선(local-first) AI 파트너십을 분석함. 이는 클라우드가 아닌 데스크톱 기기에서 엔비디아의 DGX Spark를 사용해 AI를 직접 구동하는 방식임. 그녀는 컴퓨팅 및 토큰 비용 절감과 데이터 프라이버시 개선이라는 장점을 설명하면서도, 프런티어 작업은 여전히 클라우드 사용이 필요하다고 지적함. 또한 애플과 마이크로소프트의 로컬 AI 하드웨어 추진 현황과 엔비디아가 퍼플렉시티를 약 300억 달러에 인수하려 한다는 보도를 다룸. 루니는 이어 오픈AI(OpenAI)의 엔비디아 대비 커스텀 칩 성능 벤치마크 주장과 이것이 오픈AI의 IPO 및 엔비디아 경쟁에 미칠 잠재적 영향을 논의함. - 엔비디아와 퍼플렉시티는 DGX Spark 기반의 로컬 우선 AI 플랫폼을 발표. - 이 플랫폼은 컴퓨팅 및 토큰 비용을 절감하고 민감한 데이터를 로컬에 유지하는 것을 목표로 함. - 프런티어 추론 작업은 여전히 사용자 허가 하에 클라우드 사용이 필요. - 로컬 플랫폼은 알리바바의 Qwen 모델로 출시되며 추후 엔비디아의 오픈소스 모델이 추가될 예정. - 애플과 마이크로소프트도 로컬 AI 하드웨어를 추진 중. - 엔비디아는 퍼플렉시티를 약 300억 달러에 인수하려는 것으로 알려졌으나, 회사 측은 공식 입장 없음. - 오픈AI는 자사의 커스텀 칩이 엔비디아 제품보다 성능과 에너지 효율이 뛰어나다고 주장. - 루니는 오픈AI의 칩이 수익원이 될 수 있으며, 잠재적 IPO에 강세 요인이 될 수 있다고 언급.