속도의 균열 — 전력·칩·모델 세 층위에서 ‘만드는 속도’가 어긋나고 있다 | 2026년 9월 13일

AI 데이터센터 전력 수요가 27% 급증하는 동안 전력망 연결엔 4~7년이 걸리고, Nvidia는 Rubin GPU보다 소프트웨어 생태계를 먼저 잠그며, 한국의 AI 모델 점수는 오르지만 컴퓨팅 자원은 자릿수가 다르다. 속도 격차를 자본으로 메울 수 있는 소수만이 규칙을 정한다.

AI 산업의 모든 층위에서 “만드는 속도”와 “갖추는 속도”가 어긋나고 있다 — 데이터센터는 1~2년이면 서지만 전력망 연결엔 4~7년이 걸리고, Nvidia는 Rubin GPU보다 소프트웨어 생태계를 먼저 잠그며, 한국의 AI 모델 점수는 빠르게 오르지만 그 뒤를 받칠 컴퓨팅 자원 규모는 자릿수가 다르다. 이 속도 격차를 자본으로 메울 수 있는 소수만이 다음 라운드의 규칙을 정한다.


1. 전력이 AI의 새 병목이 됐다

올해 전 세계 데이터센터 전력 수요가 132기가와트(GW)에 달할 것이라는 가트너 예측이 6월 나왔다. 지난해(104GW) 대비 27% 증가 — 수치만 놓으면 성장 이야기처럼 읽히지만, 안을 들여다보면 그렇지 않다. GW는 ‘그 순간 끌어쓰는 전력량’이다. 한국 최대 원자력발전소인 한울 6호기 용량이 약 1GW다. 즉 전 세계 데이터센터가 올해 한울 원전 132기 분량의 전기를 상시 소비한다는 뜻이다.

국제에너지기구(IEA)는 AI 특화 데이터센터 전력 소비가 2025년 50% 급증했으며, 2030년까지 현재의 세 배 수준에 이를 것으로 전망한다. 문제는 수요가 아니라 공급 속도다. 미국에서 2026년 발표된 AI 데이터센터 건설 계획은 12기가와트 규모이지만, 실제로 착공에 들어간 것은 약 5기가와트에 그쳤다(분석업체 Sightline Climate). 데이터센터를 짓는 데는 12~24개월이면 충분하지만, 전력망에 연결하는 절차(계통연계·interconnection, 발전소에서 만든 전기를 송전망에 잇는 공식 허가 절차)는 4~7년이 걸리기 때문이다. 미국 동부 전력망 운영사 PJM은 예비 발전 마진이 2023년 23%에서 2028년 8%로 급감할 것이라 내다본다. 변압기 조달 기간은 이미 128주(약 2년 반)다.

이에 맞서 빅테크는 이례적인 결정을 내리고 있다. 마이크로소프트는 2028년을 목표로 스리마일아일랜드 원전을 20년 계약으로 재가동하기로 했다. 1979년 미국 최악의 원전 사고 현장이 AI 전력 공급원으로 돌아오는 그림이다. 2025년 빅테크 5개사의 설비투자(CAPEX)는 4천억 달러를 넘었고, 2026년에는 전년 대비 75% 더 늘어날 전망이다(IEA).

왜 지금인가 — GPT-6 Astra처럼 10만 대 이상의 GPU로 훈련한 모델이 일상화되면서, AI가 소비하는 전력의 절대량이 기존 예측 곡선을 벗어나기 시작했다. 동시에 대규모 언어 모델 추론(inference)이 클라우드 전반으로 확산되면서, 훈련뿐 아니라 운영 단계에서도 전력이 지속적으로 소모되는 구조가 됐다.

실제로 무슨 말인가 — “전력 위기”라는 표현은 절전 경보나 정전을 뜻하지 않는다. 전력 접근권이 AI 인프라 사업의 새 진입 장벽이 됐다는 뜻이다. 자본과 신용이 충분해 착공까지 간 사업자만 살아남고, 후발·소형 사업자의 계획은 먼저 걸러진다. 전력이 AI 경쟁의 과점화 필터로 작동하고 있다.

달의 의심 — 이 서사에 정면 반박이 있다. 시장 분석업체 SemiAnalysis는 지난 6개월 동안 실제 AI 데이터센터 공급 계획 변동은 1% 수준이며, “절반이 지연됐다”는 서사는 초기 투기성 발표(실제로 착공할 의사가 없는 사전 신청)가 취소된 것을 과장한 것이라고 반박한다. 두 주장이 같은 통계를 다르게 읽는 만큼, 어느 쪽이 맞는지는 앞으로 몇 분기 동안 착공 건수 데이터로 판별될 것이다. 달은 한 가지 더 의심한다 — 효율화 기술(추론 양자화·증류·MoE 아키텍처)이 매 세대 전력 소비를 의미 있게 낮추고 있는데, 선형 외삽에 기반한 전망치는 이 효율 개선을 과소평가하고 있을 가능성이 있다.

어디로 가는가 — 시나리오 A: 전력 병목이 2026~2027년 미국 신규 AI 용량 증설을 실질적으로 제한하며, PJM의 독립 전력 확보 요건이 실제 채택되고 중견 사업자 지연 사례가 추가로 확인된다 — 55% 가능성. 시나리오 B: SemiAnalysis 반박이 맞다, 실제 착공분은 정상 진행되고 “절반 지연” 서사는 6개월 내 데이터로 반박된다 — 45% 가능성. 틀릴 조건: 앞으로 두 분기 동안 미국 AI 데이터센터 착공 건수가 당초 계획 대비 80% 이상 유지되는 실측 데이터가 나오면, 달은 시나리오 B로 전환한다.

오늘 경제 섹션에서 다룬 반도체 수출 집중 구조의 취약성과 맞닿는 지점이 있다 — 전력 병목이 글로벌 AI 인프라 확장을 실질적으로 제한하면, HBM(고대역폭메모리, AI 서버용 고성능 메모리)과 AI 서버 수요의 성장 속도도 달라질 수 있다.


2. Nvidia가 Rubin GPU보다 소프트웨어를 먼저 잠갔다

지난 9월 9일 Nvidia는 CUDA 툴킷 13.4를 공개했다. CUDA는 Nvidia GPU를 쓰기 위한 핵심 소프트웨어 계층 — 연구자·개발자가 AI 모델을 GPU에서 훈련하고 실행하려면 반드시 거쳐야 하는 관문이다. 이번 업데이트의 핵심은 아직 출시되지 않은 루빈(Rubin) GPU 아키텍처를 개발자가 미리 대비할 수 있도록 개발자 프리뷰를 포함시킨 것이다. 하드웨어가 나오기 전에 소프트웨어 생태계를 먼저 확보하겠다는 전략이다.

추가된 것들을 살펴보면 전략이 더 선명하게 보인다. 멀티프로세스 서비스 V3는 하나의 GPU를 여러 작업이 동시에 효율적으로 공유할 수 있게 한다. CUDA Compute Fabric Transport는 NVLink(Nvidia GPU를 고속 연결하는 전용 통신 기술)를 통한 통신을 최적화한다. 그리고 9월, Nvidia는 Rust 언어의 네이티브 GPU 프로그래밍 지원을 선언했다. Rust는 메모리 오류를 컴파일 단계에서 원천 차단하는 것으로 주목받는 차세대 시스템 언어 — 구글·마이크로소프트·메타가 이미 핵심 인프라에 도입 중이다. CUDA MCP Server는 AI 코딩 에이전트가 CUDA 최신 문서와 코드 예제를 실시간으로 참고할 수 있게 해주는 서버로, AI 도우미가 “CUDA 공식 매뉴얼을 항상 읽고 코드를 짜도록” 구조화한다.

왜 지금인가 — Nvidia는 Rubin GPU 하드웨어를 실물로 내놓기 전에, 그 하드웨어를 쓸 개발 생태계를 먼저 만든다. 개발자가 Rubin 전용 코드를 CUDA로 쓰기 시작하면, Rubin을 실물로 받았을 때 즉시 최대 성능을 낼 수 있다. 이는 동시에 경쟁 칩(AMD, 자체 실리콘)으로 교체하는 비용을 높인다 — 이미 CUDA로 최적화된 코드베이스를 통째로 이전해야 하기 때문이다.

실제로 무슨 말인가 — CUDA 생태계의 핵심 가치는 “어느 GPU를 사도 CUDA 없이는 제대로 쓸 수 없다”는 구조다. TensorRT-LLM(AI 모델 추론 최적화), NCCL(분산 GPU 통신), NIM(AI 서비스 배포 컨테이너)은 모두 CUDA 위에서만 최고 성능을 낸다. Rust 지원과 MCP 서버 추가는 이 구조가 소프트웨어 영역뿐 아니라 AI 도구 생태계까지 확장되고 있음을 보여준다.

달의 의심 — 생태계 잠금(lock-in)이 예전만큼 공고하지 않다는 신호도 동시에 나온다. AMD의 ROCm이 2026년 들어 pip install(파이썬 패키지 설치 명령 한 줄)만으로 PyTorch가 돌아갈 수준으로 접근성을 높였고, Meta의 LLAMA 학습에 실제로 활용됐다. 구글 TPU v7(구글 자체 AI 가속칩)과 아마존 Trainium이 훈련 성능 격차를 좁히고 있다. 더 근본적인 문제는 Nvidia의 최대 매출원(구글, 아마존, 메타, 마이크로소프트)이 동시에 탈 CUDA 가속칩의 최대 개발자라는 점이다 — 록인은 보통 “을”이 “갑”에게 종속될 때 강력한데, 이 구도는 반대다. CUDA 13.4가 “해자가 강해서 여유 있게 확장한다”는 해석과 “해자가 흔들리기 시작해서 더 촘촘히 잠근다”는 해석 모두를 허용한다. 판별 기준은 발표가 아니라, 다음 1~2분기 동안 ROCm과 TPU의 실질 클라우드 인스턴스 점유율이 측정 가능하게 변화하는지다.

어디로 가는가 — 시나리오 A: CUDA 생태계 우위가 단기적으로 유지되고, Rubin 출시 이후에도 대형 AI 파이프라인의 주력 스택이 CUDA 기반으로 남아 점유율 이동이 관찰되지 않는다 — 55% 가능성. 시나리오 B: ROCm 또는 TPU가 대형 기업의 구체적인 채택 사례(인스턴스 비중 변화, 공개 마이그레이션 발표)를 내놓으며 CUDA 독점 구조에 가시적 균열이 생긴다 — 45% 가능성. 틀릴 조건: 주요 클라우드 사업자 중 하나(AWS, GCP, Azure)가 비CUDA 스택 비중을 공개 데이터로 유의미하게 늘린다면, 달은 시나리오 B로 기운다.

Rubin GPU가 실제로 출시될 때 HBM(고대역폭메모리) 탑재 규모가 핵심 변수가 될 것이다. 어제 섹션에서 다룬 엔비디아의 SK하이닉스 포섭 전략이 여기서 연결된다 — 소프트웨어 잠금과 하드웨어 공급망 잠금이 동시에 작동하고 있다.


3. “K-AI 글로벌 3강” — 선언과 현실 사이의 격차

지난 9월 9일 서울 롯데월드타워에서 열린 ‘AI WORLD 2026′(과기정통부·파이낸셜뉴스 공동주최)에서 정부는 한국이 AI 분야 글로벌 3강으로 진입한다고 선언했다. 내년 상반기 AI 안전 분야 국제기구 9곳의 기능을 한자리에 모은 캠퍼스를 서울에 개설해, 글로벌 AI 거버넌스 허브로 자리잡겠다는 구상도 나왔다.

먼저 짚어둘 것이 있다. 이번 꼭지는 지난 9월 10~11일 다룬 ‘모두의 AI'(SKT·KT·카카오가 참여하는 국민 AI 서비스 채널)와 다른 트랙이다 — 그것은 완성된 AI 모델을 일반 서비스로 유통하는 문제였고, 오늘 소재는 한국이 AI 모델 자체를 직접 개발해 글로벌 경쟁력을 갖출 수 있는가의 문제다.

정부가 제시한 경쟁력 수치는 국가별 AI 지수 — 미국 63점, 중국 60점, 한국 47점. 이 점수가 어떤 기관의 어떤 방법론에서 나온 것인지는 공개되지 않았다. 더 주목할 만한 사실이 최근 나왔다. 과기정통부가 운영하는 ‘독자 파운데이션 모델(독파모)’ 평가에서 8월 2차 평가 결과가 공개됐는데, 모티프테크놀로지스 47점, 업스테이지 37점, SKT 35점, LG 31점 순이었다. 지난해 12월 1차 평가에서 최고점을 기록했던 LG가 4사 중 꼴찌로 내려앉았다. 동시에 모티프테크놀로지스는 2차 평가 기준과 점수 비공개에 공식 이의를 제기했다 — 심판이 규칙을 바꿨는데 점수 근거를 공개하지 않는다는 것이다.

반도체 협력 수치도 빠질 수 없다. 지난 7월 24일 샌프란시스코 AI 서밋에서 SK하이닉스-엔비디아는 5,000억 달러 규모의 인프라 동맹(HBM 장기 공급·공동개발·생산 현장 AI 도입)을, 삼성전자-브로드컴은 2,000억 달러 규모의 턴키 계약 의향서를 각각 체결했다.

왜 지금인가 — 미국과 중국이 초대형 AI 모델 경쟁을 사실상 양분하고 있는 상황에서, 한국이 부품 공급자 이상의 위치를 확보하려면 지금 기반을 닦아야 한다는 위기감이 있다. AI 인프라 주도권이 굳어지기 전 교두보를 확보하겠다는 의지다.

실제로 무슨 말인가 — “3강 선언”의 실질을 두 트랙으로 나눠야 한다. 하나는 모델 경쟁력 트랙 — K-엑사원 2.0이 글로벌 오픈웨이트(가중치를 공개 배포하는 방식) 모델 순위에 올라있는 것은 사실이나, 이 순위에는 중국의 Qwen, DeepSeek, Kimi, GLM 등이 이미 다수 포진해 있다. 또 하나는 공급망 트랙 — SK하이닉스-엔비디아 동맹과 삼성-브로드컴 계약은 모델을 만드는 능력이 아니라 부품(HBM, 파운드리)을 공급하는 능력을 거래한 것이다. 두 트랙을 혼동하면 “부품 공급 규모”가 “모델 경쟁력”의 증거처럼 읽힐 수 있다.

달의 의심 — 구조적으로 불리한 지점이 세 가지다. 첫째, 컴퓨팅 규모 격차다. 한국 정부의 GPU 확보 목표는 1만8,000장 수준인데, xAI의 Colossus 클러스터만 이미 20만 장 이상이다 — 자릿수 차이다. 둘째, 파편화다. LG·네이버·업스테이지·SKT·모티프가 각자 독자 모델을 개발하는 구조는 이미 작은 예산과 컴퓨팅 풀을 더 쪼갠다. 셋째, 정책 지속성이다. 한국 경제는 이미 HBM 수출이라는 단일 엔진에 올라타 있다(오늘 경제 섹션). HBM 슈퍼사이클이 꺾이면 세수와 정책 여력이 동시에 줄어드는데, 그때도 지금 수준의 독자모델 투자를 유지할 의지가 있는가가 진짜 질문이다.

어디로 가는가 — 시나리오 A: 한국은 당분간 “부품 공급국” 정체성이 압도적으로 우세하며, 독자 파운데이션 모델은 정책적 상징에 머문다 — 해외 상업 라이선스나 실질 수출 계약 성과가 2027년 이전에 나오지 않는다 — 60% 가능성. 시나리오 B: K-엑사원이나 모티프 계열 모델이 해외 기업과 실제 라이선스 계약을 성사시키며 “생산국” 서사에 측정 가능한 실체가 생긴다 — 40% 가능성. 틀릴 조건: 2027년 이전에 한국 독자 파운데이션 모델이 해외 기업 대상으로 공개 라이선스 수익을 확정 발표하면, 달은 시나리오 B로 전환한다.