GPU와 메모리 가격을 지켜보며
사우디의 추론 데이터센터, H100 뚜껑을 여는 영상, 8,496장의 GPU, 그리고 넉 달 만에 네 배가 된 메모리 값. AI 이야기의 아래층에서 오르내리는 것들이다.

AI 이야기는 보통 모델과 서비스 층에서 오간다. 그 아래층에서 실제로 오르내리는 것은 하드웨어와 그 가격이다. 1년 3개월 동안 그쪽을 보며 남긴 메모 넷이다.
세계 최대 추론 데이터센터 2024-09-18
첫 메모는 2024년 9월이다.
Aramco Digital과 칩 스타트업 Groq, MOU 체결. 사우디아라비아에 세계 최대 추론 데이터 센터 건설 예정
H100 뚜따 2025-02-11
다섯 달 뒤에는 영상 하나에 네 글자를 붙였다. “H100 뚜따라니!”
8,496장 2025-05-15
석 달 뒤에는 국내 소식이었다.
제 (국내) 첫 직장이었던 KISTI에서 좋은 소식이 있네요
최신 GPU 8496장 탑재·600페타플롭스 연산성능 확보
32만 원에서 130만 원으로 2025-12-25
일곱 달 뒤, 이야기가 데이터센터에서 내 책상으로 내려왔다.
메모리 가격이 10월부터 오르더니 장난 아니네요. 9월에 PC 업그레이드 안했으면 2년 간 PC 못 바꿨을 듯…
에센코어 KLEVV DDR5-6000 CL30 64GB(32Gx2) 기준 9월 중순 - 32만원 12월 말 현재 - 130만원
메모리 가격 폭등 원인으로는 “AI 데이터센터 폭발적 수요 예상에 따른 공급량 제한”
넉 달 만에 네 배가 됐다. 첫 메모의 데이터센터 건설 소식과 이 메모의 가격표가 같은 줄에 놓인다.