챗GPT에 질문 하나 던지는 게 뭐 그리 대단하다고, “AI가 전기를 엄청 먹는다”는 뉴스가 끊이질 않죠? 그 막연한 궁금증, AI 데이터센터 전력 소비의 실체를 숫자로 명쾌하게 풀어 드리겠습니다.
AI 데이터센터 전력, 지금 어느 정도일까요?
먼저 규모부터 보겠습니다. 국제에너지기구(IEA)에 따르면 전 세계 데이터센터의 전력 소비는 다음과 같이 움직이고 있습니다.
- 2024년: 약 415TWh (전 세계 전력의 약 1.5%)
- 2025년: 약 485TWh (전년 대비 약 17% 증가)
- 2030년 전망: 약 950TWh (2025년의 약 두 배, 전 세계 전력의 약 3%)
여기서 950TWh가 얼마나 큰 숫자냐면, 일본 한 나라가 1년 동안 쓰는 전력량과 맞먹는 수준입니다. 데이터센터 전체가 하나의 선진국처럼 전기를 먹는 셈이죠.
특히 무서운 건 AI 전용 데이터센터입니다. 일반 데이터센터보다 훨씬 빠르게 늘어, 같은 기간 전력 소비가 약 3배로 뛸 것으로 전망됩니다. 지난 5년간 데이터센터 전력이 매년 12%씩 늘어난 배경에는 바로 이 AI가 있습니다.
그렇다면 왜 이렇게까지 전기를 먹는 걸까요? 이유는 크게 네 가지입니다.
이유 ① GPU 한 대가 백열전구 수십 개를 켜 둔 셈입니다
AI 데이터센터 전력 소비의 첫 번째 범인은 GPU 자체의 전력입니다. AI 연산에 쓰이는 GPU는 일반 CPU보다 5~10배의 전력을 먹습니다.
세대별로 GPU 한 장의 소비 전력을 보면 증가세가 확연합니다.
- 엔비디아 H100: 약 700W
- B200(블랙웰): 약 1,000~1,200W
- GB300(블랙웰 울트라): 약 1,400W
GPU 한 장이 1,200W면, 일반 가정용 헤어드라이어 한 대를 24시간 내내 켜 두는 것과 비슷합니다. 그런데 데이터센터에는 이런 GPU가 한두 개가 아니라 수만, 수십만 장이 돌아갑니다. 전기를 안 먹는 게 오히려 이상한 구조죠.
이유 ② 학습과 추론 — 24시간 멈추지 않는 전기 먹기
AI의 전력 소비는 크게 두 단계에서 발생합니다.
1) 학습(Training) 새로운 AI 모델을 만드는 과정입니다. 수천~수만 장의 GPU가 몇 주에서 몇 달간 쉬지 않고 돌아갑니다. 대형 모델 하나를 학습시키는 데 수십 MW의 전력이 지속적으로 들어갑니다.
2) 추론(Inference) 우리가 실제로 AI에게 질문하고 답을 받는 과정입니다. 언뜻 가벼워 보이지만, 문제는 사용자가 많아질수록, 대화가 길어질수록 전력이 계속 늘어난다는 점입니다.
- 전 세계 수억 명이 동시에 AI를 사용
- 한 번의 응답에도 수많은 연산이 필요
- 24시간 365일 서버가 대기·응답을 반복
즉 학습이 ‘폭발적인 한 방’이라면, 추론은 끊임없이 새는 물처럼 지속되는 전력입니다. AI가 우리 일상에 깊이 들어올수록 이 추론 전력이 전체 소비를 끌어올립니다.
이유 ③ ‘냉각’에도 전기가 듭니다 — PUE 이야기
의외로 많은 분들이 놓치는 부분이 바로 냉각 전력입니다. GPU가 전기를 먹으면 그만큼 엄청난 열이 나오고, 이 열을 식히는 데 또 전기가 들어갑니다.
여기서 등장하는 개념이 PUE(전력사용효율)입니다.
- PUE = 데이터센터 전체 전력 ÷ IT 장비(서버)가 실제 쓴 전력
- PUE 1.5라면, 서버가 100의 전기를 쓸 때 냉각·부대설비에 50을 더 써서 총 150을 소비한다는 뜻
- 잘 설계된 액체 냉각 데이터센터는 PUE 약 1.15까지 낮출 수 있습니다
과거에는 공기(팬)로 열을 식혔지만, 요즘 AI 랙은 발열이 너무 커서 공기 냉각으로는 감당이 안 됩니다. 그래서 칩에 직접 냉각수를 흘리는 직접 액체 냉각(Direct-to-Chip)이 사실상 필수가 됐습니다. 액체 냉각은 공기 대비 냉각 전력을 15~30% 줄이고, 직접 물 사용량도 크게 낮춰 줍니다.
이유 ④ 데이터를 ‘옮기는 데’만 드는 전력
마지막 이유는 조금 낯설 수 있습니다. 바로 데이터를 이동시키는 데 드는 전력입니다.
칩과 칩, 서버와 서버 사이로 데이터를 옮길 때도 전력이 소모됩니다. 거리가 멀고 속도가 빠를수록, 구리 전선에서는 신호 손실과 간섭이 커져 이를 보정하는 데 추가 전력이 들어갑니다.
그래서 업계는 데이터 이동의 에너지 효율(비트당 소비 에너지, pJ/bit)을 낮추는 데 사활을 걸고 있습니다. SK하이닉스가 전선 대신 ‘빛’으로 데이터를 옮기는 광학 인터커넥트를 연구하는 것도 바로 이 전력 문제와 직결됩니다.
랙 하나가 120kW — 전력 밀도의 폭발
AI 데이터센터 전력 소비를 가장 극적으로 보여 주는 건 랙(rack) 하나당 전력 밀도입니다.
- 전통적인 서버 랙: 약 4~8kW
- 2026년 평균 랙: 약 27kW (전년 대비 약 69% 급증)
- 엔비디아 GB200 NVL72 랙: 약 120~132kW (GPU 72장 집적)
전통적인 랙과 비교하면 10~15배에 달하는 전력입니다. 공기 냉각은 보통 30~40kW 선에서 한계를 맞기 때문에, 이런 고밀도 랙은 액체 냉각이 강제됩니다.
| 구분 | 전통 서버 랙 | 2026 평균 랙 | AI 랙(GB200 NVL72) |
|---|---|---|---|
| 랙당 전력 | 약 4~8kW | 약 27kW | 약 120~132kW |
| 냉각 방식 | 공기 냉각 | 공기/혼합 | 직접 액체 냉각(필수) |
| GPU 수 | 없음/소수 | 일부 | GPU 72장 |
문제는 여기서 멈추지 않는다는 겁니다. 엔비디아의 차세대 ‘루빈 울트라’ 랙은 한 랙당 약 600kW를 겨냥한다는 전망까지 나옵니다. 밀도의 폭발은 현재 진행형입니다.
그래서 앞으로 어떻게 될까요?
전력 수요가 이렇게 폭증하면서, 이미 곳곳에서 전력난이 현실화되고 있습니다.
- 미국은 2028년까지 데이터센터가 전체 전력의 6.7~12%를 차지할 것으로 전망(LBNL)
- 아일랜드는 이미 데이터센터가 국가 전력의 20% 이상을 소비
- 빅테크들은 안정적 전력 확보를 위해 원자력·소형모듈원전(SMR) 계약에 뛰어드는 중
대응책도 빠르게 발전하고 있습니다.
- 냉각 혁신: 직접 액체 냉각, 액침 냉각으로 PUE와 물 사용량 절감
- 전력 아키텍처: 800V 고전압 직류(HVDC) 등 고밀도 랙 대응 설계
- 데이터 이동 효율화: 광학 인터커넥트로 비트당 에너지 절감
- 자체 발전·저장: 데이터센터 옆 대규모 배터리(BESS), 자체 전력원 확보
AI의 진짜 연료는 ‘전기’입니다
정리하겠습니다. AI 데이터센터가 전기를 많이 먹는 이유는 하나가 아니라 GPU 전력, 24시간 추론, 냉각, 데이터 이동이 겹겹이 쌓인 결과입니다.
- 전 세계 데이터센터 전력은 2030년 약 950TWh로 일본 한 나라와 맞먹는 규모
- AI 랙 하나가 전통 랙의 10배 이상 전력을 소비
- 앞으로의 승부처는 ‘더 빠른 AI’만큼이나 ‘더 적은 전기로 돌아가는 AI’
챗봇 한 번 쓰는 가벼운 경험 뒤에는, 이렇게 거대한 전력 인프라가 숨어 있습니다. AI 시대의 진짜 병목이 반도체가 아니라 ‘전기’가 되어 가고 있다는 사실, 이제 뉴스가 다르게 보이실 겁니다.
AI 반도체와 인프라의 큰 그림을 더 깊이 파고들고 싶으시다면, 아래 시리즈도 놓치지 마세요.
자주 묻는 질문(FAQ)
Q1. AI에게 질문 한 번 하면 전기가 얼마나 드나요? 정확한 수치는 모델과 질문 길이에 따라 크게 달라져 하나로 못 박기 어렵습니다. 다만 핵심은 개별 질문보다, 전 세계 수억 명이 24시간 동시에 사용하면서 발생하는 ‘누적 전력’이 문제라는 점입니다.
Q2. 학습과 추론 중 어느 쪽이 전기를 더 먹나요? 학습은 짧은 기간 폭발적으로, 추론은 오래 지속적으로 전력을 씁니다. 초기에는 학습 비중이 컸지만, AI가 대중화되면서 추론의 누적 전력이 갈수록 커지고 있습니다.
Q3. PUE가 낮으면 무조건 좋은 건가요? 그렇습니다. PUE가 1에 가까울수록 냉각·부대설비 낭비가 적다는 뜻입니다. 다만 고밀도 AI 랙은 냉각 난도가 높아, 액체 냉각 같은 기술 없이는 낮은 PUE를 유지하기 어렵습니다.
Q4. 원전까지 동원하는 게 과한 것 아닌가요? AI 데이터센터는 24시간 안정적인 대용량 전력이 필요합니다. 날씨에 좌우되는 재생에너지만으로는 이 기저 수요를 맞추기 어려워, 원전·SMR이 유력한 대안으로 떠오르는 상황입니다.