Ai Industry시리즈 · 빅테크 키노트 노트 2/6

GTC 2025 젠슨 황 키노트 — 토큰 경제와 AI 공장

산호세 현장에서 들은 GTC 2025 키노트를 정리했다. 추론 AI의 등장으로 컴퓨팅 수요가 100배로 뛰었고, 그에 맞춰 2028년까지의 로드맵이 공개됐다.

한 점에서 퍼져 나가는 선들을 그린 추상 도판
AI 생성

NVIDIA 의 GTC(GPU Technology Conference) 2025 가 캘리포니아 산호세에서 열렸다. 이 자리에 직접 참석해 젠슨 황 CEO 의 키노트를 들었다. NVIDIA 가 AI 와 컴퓨팅의 미래를 어떻게 그리고 있는지 정리한다.

토큰 경제와 AI 공장

젠슨 황은 키노트 초반, AI 가 어떻게 컴퓨팅의 패러다임을 바꿨는지 설명했다. 과거의 ‘검색 기반 컴퓨팅’ 에서 ‘생성 기반 컴퓨팅’ 으로 넘어가면서, 컴퓨터는 이제 데이터를 불러오는 것이 아니라 토큰을 생성하는 공장(Factory) 이 되었다.

특히 ‘추론 AI(reasoning AI)’ 와 ‘에이전틱 AI(agentic AI)’ 의 등장으로 컴퓨팅 요구량이 급증했다. 젠슨 황은 “작년 이맘때 세계가 예상했던 것보다 100배 많은 컴퓨팅 파워가 필요하게 되었다” 고 강조했다. 추론 AI 는 단계적으로 문제를 분석하고 푸는 과정에서 훨씬 더 많은 토큰을 만들어 내기 때문이다.

이 변화에 맞춰 NVIDIA 는 ‘AI Factory’ 라는 개념을 제시했다. AI 공장에서는 토큰 생성 속도와 효율성이 핵심이며, 이것이 결국 기업의 수익으로 이어진다.

토큰 수의 차이가 무엇을 뜻하는지 보여 준 사례가 결혼식 좌석 배치 문제였다. 기존 LLM 은 439개 토큰으로 빠르지만 틀린 답을 냈고, 추론 모델은 8,000개 이상의 토큰을 써서 정확한 답을 냈다.

Blackwell 완전 생산과 Dynamo

주요 발표 중 하나는 차세대 GPU 아키텍처 Blackwell 이 완전 생산 단계에 들어갔다는 것이다. Blackwell 시스템은 이전 세대인 Hopper 보다 최대 40배 향상된 추론 성능을 제공한다.

함께 공개된 것이 Dynamo 라는 오픈소스 소프트웨어다. “AI 팩토리의 운영 체제” 로 묘사됐다. 대규모 GPU 시스템에서 추론 실행을 최적화하고 부하를 분산한다. 젠슨 황은 “과거에는 VMware 같은 운영 체제가 CPU 시스템에 배치되었다면, Dynamo 는 GPU 시스템에 배치되었습니다” 라고 비유했다.

2025년 하반기에는 향상된 버전인 ‘Blackwell Ultra’ 가 나온다. FP4 추론 성능이 50% 오르고 HBM3e 메모리가 288GB 로 늘어난다.

2028년까지의 로드맵

NVIDIA 는 이례적으로 2028년까지의 장기 하드웨어 로드맵을 공개했다. 데이터센터 구축 같은 대규모 인프라 투자를 계획하는 고객들을 위한 결정이었다.

  • Vera Rubin 아키텍처 (2026년 하반기) — 새로운 Vera Arm CPU 와 Rubin GPU 가 탑재된 NVL144 시스템
  • Rubin Ultra (2027년 하반기) — 4개의 GPU 다이로 구성된 NVL576 시스템. 랙당 15 엑사플롭스 성능, 랙당 600kW 전력 소비
  • Feynman 아키텍처 (2028년) — 차세대 메모리 기술 도입 예정. 미국 물리학자 리처드 파인만의 이름을 땄다

젠슨 황은 로드맵을 공개한 이유를 이렇게 설명했다. “우리는 AI 팩토리와 AI 인프라를 구축하고 있습니다. 이는 몇 년 간의 계획이 필요한 작업입니다. 이것은 노트북을 사는 것처럼 쉬운 일이 아닙니다.”

실리콘 포토닉스

데이터센터 확장을 위한 네트워킹 기술로 ‘실리콘 포토닉스’ 가 발표됐다. 기존 광학 트랜시버 없이 광섬유를 직접 연결하는 방식이라 전력 소비를 크게 줄이고 확장성을 높인다.

MRM(Micro Ring Modulator) 기술을 기반으로 하며, 데이터센터당 최대 6MW 의 전력을 절약 할 수 있다. 이는 Rubin Ultra 랙 10개를 추가로 설치할 수 있는 전력량이다. TSMC 와 협력한 3D 스택 공정으로 제작됐고, 2025년 후반에 Quantum-X(InfiniBand) 스위치를, 2026년 하반기에 Spectrum-X(이더넷) 스위치를 낼 계획이다.

엔터프라이즈와 개인용 슈퍼컴퓨터

  • DGX Spark — 이전에 ‘Project DIGITS’ 로 알려졌던 소형 AI 컴퓨터
  • DGX Station — 20 페타플롭스 성능과 72개 CPU 코어를 갖춘 데스크톱 슈퍼컴퓨터

스토리지 쪽으로는 전통적인 검색 기반 스토리지에서 의미론적(semantic) 기반 스토리지 로의 전환을 선언했다. Dell, HP Enterprise, IBM, NetApp 등 주요 스토리지 기업들과 협력해 GPU 가속 스토리지 솔루션을 제공할 계획이다. 새로운 오픈소스 모델 NVIDIA Nemo Llama Nemotron Reasoning 도 발표됐다.

로보틱스 — Groot N1과 Newton

NVIDIA Isaac Groot N1 은 인간형 로봇을 위한 오픈소스 기반 모델이다. 환경을 인식하고 추론해 최적의 행동을 계획하는 ‘느린 사고 시스템’ 과, 그 계획을 정확한 로봇 동작으로 바꾸는 ‘빠른 사고 시스템’ 을 결합했다.

Newton 물리 엔진 은 구글 딥마인드 및 디즈니 리서치와 협력해 개발했다. 촉각 피드백과 정밀한 모터 스킬 훈련에 최적화되어 있으며, GPU 가속으로 실시간보다 빠르게 로봇을 훈련시킨다.

젠슨 황은 “물리적 AI 와 로보틱스는 매우 빠르게 발전하고 있으며, 이 분야가 향후 가장 큰 산업이 될 가능성이 있다” 고 강조했다. 2030년까지 전 세계적으로 최소 5천만 명의 노동력 부족이 예상되는 상황에서 로봇의 중요성은 더 커질 것으로 전망된다.

마무리하며

GTC 2025 는 AI 가 빠르게 발전하고 있으며 그 중심에 NVIDIA 가 있음을 보여 주었다. 추론 AI 와 에이전트 AI 의 부상, Blackwell 에서 Feynman 까지 이어지는 장기 로드맵, 실리콘 포토닉스, 그리고 로봇공학까지 — NVIDIA 는 다가오는 AI 혁명을 이끄는 기술을 계속 만들고 있다.

젠슨 황의 말을 빌리자면, “물리적 AI 와 로봇공학은 매우 빠르게 움직이고 있습니다. 모두가 이 분야에 주의를 기울이세요. 이것은 아마도 가장 큰 산업이 될 것입니다.”

영상