세상에 알려진 AI 전력 소모량은 실제보다 4배에서 20배 부풀려져 있다. 누군가의 음모론이 아니라 마이크로소프트 연구진이 자기들 논문에 직접 쓴 문장이다. 펠리페 오비에도를 비롯한 마이크로소프트 연구팀은 학술지 줄(Joule)에 실린 논문에서, 그동안 널리 알러진 AI 전력 추정치들이 실제 서비스 환경이 아니라 실험실 조건을 가정한 탓에 체계적으로 과대평가 되어있다고 밝혔다. AI가 지구를 태운다는 공포의 상당 부분이 잘못 계산된 숫자 위에 서 있었던 것이다. 그런데 안심하기엔 이르다. 같은 논문 안에 훨씬 불편한 숫자가 나란히 실려 있었다.
AI를 사용 값은 생각보다 싸다
연구팀은 토큰 처리량과 노드 전력, 부대 설비 부하를 바닥부터 쌓아 올리는 방식으로 계산했다. 파라미터 2,000억 개가 넘는 프런티어급 모델을 엔비디아 H100 노드에서 대규모로 서비스할 때, 질문 하나를 처리하는 데 드는 에너지는 대략 0.31Wh 수준이었다. 보통 0.16에서 0.60Wh 사이다. 감이 안 온다면 10W짜리 LED 전구를 2분쯤 켜두는 양이라고 보면 된다. 챗봇에 질문 하나 던지는 것을 두고 죄책감을 느낄 수준은 아니라는 것.
AI가 생각을 시작했다
문제는 요즘 모델이 곧바로 답하지 않는다는 데 있다. 추론 모델은 답을 내놓기 전에 스스로 중간 단계를 길게 써 내려가며 검토하고 되짚는다. 이렇게 답하는 시점에 연산을 더 쏟아붓는 방식을 테스트타임 스케일링(test-time scaling : 학습이 아니라 답할 때 계산을 더 써서 성능을 끌어올리는 기법)이라 부른다. 사람으로 치면 즉답 대신 종이에 풀이 과정을 적어가며 푸는 것과 같다. 그리고 그 풀이 과정 한 글자 한 글자가 전부 전기다.
같은 논문은 평소보다 15배 긴 응답을 만들어내야 할 때, 질문 하나당 에너지 소모량은 약 13배 뛰어 3.91Wh가 된다고 계산했다. 상황에 따라 2.15에서 7.05Wh까지 치솓는다. 여기서부터 규모의 문제가 시작된다. 하루 10억 건의 쿼리를 처리하는 데 드는 전력은 0.7GWh다. 그런데 그중 단 10%만 긴 추론 쿼리로 바뀌어도 하루 전력 수요는 1.7GWh로 뛴다. 전체의 10분의 1만 길어졌을 뿐인데 총량이 두 배 넘게 늘어나는 것이다. AI가 똑똑해지는 방식이 곧 전기를 더 먹는 방식과 정확히 겹쳐 있다는 뜻이다.
물론 이 논문이 비관으로만 끝나지는 않는다. 연구팀은 모델 구조와 서빙 시스템, 하드웨어를 함께 손보면 8배에서 20배까지 에너지를 줄일 여지가 남아 있다고 봤다. 실제로 효율 개입을 적용하면 앞의 1.7GWh는 0.8GWh까지 내려간다. 기술로 상당 부분 상쇄가 가능하다는 얘기다. 다만 여기엔 조건이 붙는다. 효율이 좋아지는 속도보다 사용량이 늘어나는 속도가 느려야 한다는 조건인데, 지금까지 IT 역사에서 그 조건이 지켜진 적은 거의 없다.
전기를 먹는 쪽은 이제 학습이 아니다
여기서 통념이 하나 더 깨진다. 사람들은 AI가 전기를 먹는 순간을 거대한 모델을 훈련시키는 장면으로 상상한다. 하지만 그건 이미 옛날 이야기다. 구글이 2019년부터 2021년까지 직접 측정한 결과 머신러닝 에너지의 약 60%가 추론(inference : 학습을 끝낸 모델이 실제로 답을 만들어내는 과정)에서, 40%가 학습에서 나왔다. 이후 메타와 구글이 공개한 데이터에서는 추론 비중이 60~70%까지 올라갔다. 딜로이트는 2026년 추론이 전체 AI 컴퓨팅의 3분의 2를 차지할 것으로 봤다. 2023년에는 3분의 1, 2025년에는 2분의 1이었다. 학습은 몇 달에 한 번이지만 추론은 전 세계 사용자가 지금 이 순간에도 매초 돌리고 있기 때문이다.
학습은 전력망을 물리적으로 때린다
추론이 문제라면 학습은 더 치명적이다. 학습 부하가 무서운 건 총량보다 파형이다. AI 학습은 수만 장의 GPU가 연산과 통신을 반복하는 구조다. 연산할 때는 모든 GPU가 최대 전력으로 돌아가고, 통신할 때는 한꺼번에 멈춰 선다. 문제는 이 전환이 완벽히 동기화돼 있다는 점이다. 수만 장이 함께 켜지고 함께 쉰다. 부하가 시간에 고르게 분산되는 게 아니라 오히려 증폭되는 것이다.
오라클은 이런 전력의 요동이 수십에서 수백 메가와트(MW) 규모에 달한다고 밝혔다. 블룸버그는 8월 6일 보도에서 AI가 순간적으로 설계 용량의 50%를 초과해 전기를 끌어쓴다고 전했다. 1GW에 맞춰 지은 시설이 한순간 1.5GW를 요구한다는 얘기다. 그 결과 배터리와 발전기, 냉각장비가 예상보다 훨씬 빨리 마모되거나 고장 나고 있다. 더 무서운 건 이 출렁임이 송전망 자체를 무너뜨릴 수 있다는 점이다. 전력을 급격히 빨아들이고 멈추는 주기가 송전망 고유의 리듬과 우연히 겹치면 감당 못 할 충격이 발생한다. 그네를 밀어주는 타이밍이 맞으면 점점 크게 흔들리는 것과 같은 원리다.
그런데 그 전기를 담을 그릇이 없다
수요는 이렇게 튀는데 정작 그릇은 지어지지 않고 있다. 미국에서는 2026년 1월부터 3월까지 3개월 동안 대형 데이터센터 프로젝트 75개, 1,300억 달러어치가 지역 반대로 지연되거나 취소됐다. 뉴욕주는 주 단위로는 처음으로 대규모 데이터센터 인허가를 전면 유예했고, 캘리포니아 몬터레이파크는 아예 영구 금지를 의결했다. 위스콘신에서는 120억 달러짜리 캠퍼스가 통째로 엎어졌고, 비슷한 유예 조치를 검토 중인 주가 열두 곳쯤 된다. 갤럽 조사에서 미국인 다수가 자기 지역 데이터센터에 반대했고, 6월에는 대형 수용가가 전력망 보강 비용을 전액 부담하게 하는 요금납부자 보호법까지 의회에 발의됐다. 이 흐름을 정리한 애틀랜틱카운슬의 지니 살로는 "AI를 둘러싼 싸움은 더 이상 워싱턴, 베이징, 실리콘밸리에서만 벌어지지 않는다"고 썼다. 싸움터가 시청 앞 공청회장으로 내려온 것이다.
우리나라도 다르지 않다. 국내 데이터센터 계약전력 신청량은 2020년 이전 60MW 수준에서 2023년 3,091MW로 3년 만에 50배 넘게 뛰었다. 그런데 2024년 8월부터 2026년 3월까지 전력계통영향평가(새 대형 수용가가 전력망에 얼마나 부담을 주는지 미리 심사하는 제도) 1차 기술검토 신청 736건 중 수도권이 522건이었고, 그 가운데 279건, 53.4%가 공급불가 판정을 받았다. 본심사를 통과한 건 24건 중 10건이고 서울에서 승인된 것은 단 1건이다. 정치권에서는 "데이터센터 전력 공급 불균형이 AI 산업 성장의 발목을 잡고 있다"고 지적했다. 지금 용산구 이촌동에서는 수전용량 10MW도 안 되는 소형 데이터센터를 두고 8월 6일 주민설명회가 열렸는데, 저주파 소음과 전자파, 열 배출을 이유로 반대 여론이 팽팽했다. 금천구 독산동에서는 전자파 민원으로 올해 초 공사가 한 달 반 멈췄다.
결국 우리는 이상한 자리에 서 있다. AI에게 더 깊이 생각하라고 요구할수록 전기 사용량은 기하급수적으로 늘어나는데, 그 전기를 감당할 건물은 누구의 동네에도 들어설 수 없다. AI 시대로 가기 위해 어딘가는 감당해야 하는, 어쩌면 피할 수 없는 비용일 것이다. 그런데 그 비용을 정확히 누가 치르는가. 이촌동 주민들이 비합리적이어서 반대하는 것이 아니다. 편익은 전국이 나눠 갖고 소음과 열과 불안은 그 동네 몇백 세대가 떠안는 구조이기 때문이다. 그렇다면 질문을 자신에게 돌려볼 차례다. 내가 매일 쓰는 AI를 위한 데이터센터가 내 아파트 옆 부지로 결정된다면, 나는 그 희생을 선택할 수 있을까. 남의 동네일 때는 쉽게 나오던 답이 내 앞에 놓이면 그렇게 간단하지 않을 것이다. 깊게 생각해 볼 문제다.
> comments
댓글
댓글 쓰기