AI+HW 2035 (4) — 전력 위기, 클라우드에서 엣지로, 그리고 실행 제언

3편까지 AI+HW 2035의 기술 계층을 살펴봤다. 마지막 편은 응용과 사회적 영향(5장), 그리고 전체 실행 제언(6장)이다.

앞의 두 장이 “무엇을 만들 것인가”였다면 이 장은 “만든 것이 실제로 쓰이려면 무엇이 필요한가” 다. 그리고 논문에서 가장 도발적인 숫자들이 여기 모여 있다. 전력, 채택률, 그리고 1000×의 분해.

다섯 개의 질문과 답

Q1. 실세계 AI 배포의 가장 큰 장벽은 무엇인가?

채택 격차(adoption gap) 다. 논문은 파일럿된 AI 기술 중 약 5%만이 지속적인 재무 성과로 이어진다 고 인용한다. 원인으로는 실세계 맥락으로부터의 지속 학습 부재, 데이터 사일로와 파편화된 데이터 주권 체제, 높은 운영 비용, 인프라 구축을 늦추는 규제 복잡성이 꼽힌다.

기술이 부족해서가 아니라 조직과 제도가 준비되지 않아서 멈춘다는 진단이다.

Q2. 가장 시급한 인프라 과제는 무엇인가?

임박한 전력 위기. 데이터센터 수요가 수십 기가와트 단위로 증가하는 동안 미국의 발전 및 송배전 용량은 크게 뒤처져 있고, 중국이 상당한 전력 우위를 갖고 있다는 것이 논문의 진단이다. 조치가 없으면 5년 내 부족 사태 가 AI 배포를 제약할 것으로 본다.

여기에 덧붙는 지적이 실무적으로 흥미롭다. 랙당 30kW 미만으로 운영되는 데이터센터가 전체의 85% 인데, 이들이 뒤처지지 않도록 하는 정책이 필요하다는 것이다. 새로 짓는 고밀도 AI 데이터센터만 이야기하면 이미 존재하는 대다수 자산이 좌초된다.

Q3. 학계-산업 격차를 어떻게 메울 것인가?

세 가지 메커니즘이 제안된다. (1) 정부 기관이 중개하거나 촉진하는 대학-클라우드 집단 파트너십, (2) 일회성 보조금을 넘어선 지속적 자금 지원의 산업 후원 연구 프로그램, (3) 장기적·실용적·시스템 수준 기여를 인정하고 보상하는 학계 인센티브 구조.

Q4. AI 하드웨어 접근의 불평등을 어떻게 막을 것인가?

모델 측면과 인프라 측면 양쪽이 필요하다. 모델 측면에서는 활성 파라미터 20B 이하 로 엣지나 적당한 온프레미스 하드웨어에서 돌아가는 작고 효율적인 특화 모델의 개발이다. 인프라 측면에서는 오픈소스 도구와 공유 인프라를 통한 접근 확대, 그리고 EDA 도구·제조 플랫폼·첨단 PDK(Process Design Kit — 특정 공정으로 칩을 설계하는 데 필요한 소자 모델과 설계 규칙 묶음) 같은 반도체 설계 역량에 대한 접근 확대, 산업 횡단 벤치마크다.

Q5. 10년 내 1000× 효율 개선은 현실적인가?

논문에서 가장 자주 인용될 부분이다. 저자들의 예측은 이렇다.

5년 내 100× (높은 확신), 6–10년 내 1000× (중간 확신) — 모델·소프트웨어·하드웨어 발전을 결합해서

그리고 1000×에 이르는 실현 가능한 경로를 다음과 같이 분해한다.

출처	기여
알고리즘·모델 최적화	약 10×
실리콘 활용률 및 실리콘 자체의 발전	약 20×
시스템 수준 효율	약 5×
셋을 곱한 결과	약 1000×

$10\times 20\times 5=1000$ 이다. 이 분해가 유용한 이유는 어느 한 축이 실패하면 전체가 무너진다 는 것을 명시적으로 보여주기 때문이다. 실리콘에서 20×를 얻어도 알고리즘이 정체하면 결과는 100× 언저리에 머문다. 그리고 이 숫자들은 intelligence per joule로 측정된다.

동시에 “중간 확신”이라는 표현에 주목할 필요가 있다. 저자들 스스로 1000×를 확정된 전망이 아니라 조건부 목표로 제시하고 있다.

다섯 가지 미래 트렌드

전력 위기 타임라인

하이퍼스케일러와 스타트업들이 발전·송배전 용량의 증가 없이 수십 기가와트의 데이터센터 용량을 발주하고 있다. 논문은 5년 내 미국의 전력 부족 을 예측하며, 시장의 힘만으로는 이 위기가 해결되지 않는다고 단언한다. (논문 Figure 4는 미국과 중국의 전력 부문 데이터를 비교한다.)

클라우드에서 엣지로의 이동

현재 최신 AI 알고리즘은 사실상 클라우드에서만 서비스된다. 논문은 근본적인 분포 이동 을 예측한다. 프런티어 모델이 좁은 과업에 최적화된 20B 파라미터 미만의 소형 특화 모델 에게 자리를 내주고, 이 모델들이 클라우드 데이터센터에서 자율주행차·로봇·소비자 기기 같은 엣지와 최종 사용자 응용으로 이동한다는 것이다. 그리고 이 분포 이동은 다양한 커스텀 칩의 수를 늘리는 결과로 이어진다.

AI 기반 비즈니스 모델

논문은 현재를 1998년경의 인터넷 에 비유한다. 구체적인 승자는 예측할 수 없지만 10년 내 여러 성공적인 AI 기반 비즈니스 모델이 나올 것으로 본다. 추천 시스템은 이미 자리 잡았고, 자율주행·로보틱스·에이전틱 AI·고객 서비스 자동화가 유망하다는 평가다.

경쟁 역학

1000× 효율 이득 자체는 미국 독점이 아니라 전 세계 기술 생태계에 폭넓게 공유 될 것으로 본다. 다만 전력 용량 제약이 경쟁 리스크를 만든다. 논문의 표현이 날카롭다. 기술 효율이 동등하더라도 전력 예산이 제한되면 상대국이 10배 많은 추론 능력을 감당 할 수 있다는 것이다. 효율 경쟁의 승부처가 결국 전력이라는 이야기다.

지상 인프라 너머

우주 기반 AI 컴퓨팅 이 장기 AI 인프라의 새로운 설계점으로 언급된다. 태양 에너지가 풍부하고 열 방출이 다른 물리 법칙을 따르는 궤도 또는 준궤도 플랫폼이다. 논문은 이것이 지상 데이터센터를 대체하지는 않을 것이라고 선을 그으면서도, 에너지가 풍부하되 지연시간이 제약되는 컴퓨팅, 내결함성 자율 운영, 방사선 내성 AI 하드웨어, 지연 허용 학습·추론 파이프라인이라는 새로운 연구 기회를 연다고 본다. 무엇보다 에너지·신뢰성·시스템 설계에 대한 우리의 가정을 스트레스 테스트하는 용도 로서의 가치를 강조한다.

함정과 해법

함정	해법
인프라 병목 — 수십에서 수백 기가와트의 신규 데이터센터 수요를 감당하지 못하는 발전·전력망 용량, 수년이 걸리는 인허가 절차	소형 모듈 원자로(SMR) 등 대체 에너지원에 대한 즉각적 정부 투자(5–10년 배포 지평), 데이터센터·에너지 인프라 규제 절차 간소화, 원자력·재생에너지 배치에 대한 선제적 공론화
파편화된 생태계 — 하드웨어·소프트웨어·모델 간 상호운용성 부족, 컴퓨터공학·시스템·AI의 학문적 사일로	산업 횡단 벤치마크, 표준 스택 간 성능 측정, 공유 인프라를 개발하는 다자간 포럼, 개별 계층이 아닌 전체 스택 협업을 요구하는 정부 지원 연구
어긋난 인센티브 — 실용 문제 해결 유인이 약한 학계, 기존 패러다임 내 점진적 개선에 집중하는 산업계	실용적·시스템 수준 기여를 더 인정하는 학계 인센티브 재설계, 지속적 산학 파트너십, 접근 민주화를 위한 대학-클라우드 집단 협약
프런티어 모델에 대한 과도한 집중 — AGI급 모델에 쏠린 관심이 단기 가치와 폭넓은 접근성을 줄 수 있는 소형·엣지 중심 모델에서 주의를 분산	로컬 하드웨어에 올라가는 효율적 소형 모델을 겨냥한 연구 자금, 표준 과업 성능이 아닌 배포 가능성 을 강조하는 벤치마크
검증의 어려움 — 현실적인 라이브러리·시뮬레이션 도구·측정 데이터 없이는 새 하드웨어 설계 방법론을 검증할 수 없음. 학계에는 산업 규모 인프라가 없고, 시뮬레이션 도구는 실제 조건과 맞지 않음	산업계의 익명화된 테스트·측정 데이터 공유, 실제 시스템으로 검증된 정부 지원 “시뮬레이션 고속도로(simulation superhighway)”, 생산 환경 접근을 제공하는 지속적 산학 파트너십
인재·지식 격차 — 현재 성장세를 지탱하기에 부족한 미국의 과학·공학 인재, 제한적 이민 정책의 리스크	전 세계 최고 인재를 유치·유지하는 이민 정책, 다중 대학 협업, 산학 간 양방향 인력 순환
무어의 법칙 종료 리스크 — Dennard 스케일링이 끝난 상황에서 대체로 scale up(더 빠른 칩)이 아니라 scale out(더 많은 칩)만 가능해 전력 문제가 악화	알고리즘·소프트웨어·특화 하드웨어의 co-design, 데이터 이동을 줄이는 계층적 메모리 시스템, 3D 집적과 in/near-memory, CMOS 스케일링 너머 새로운 컴퓨팅 패러다임 연구

10년 뒤의 성공은 어떤 모습인가

• 전력 위기 해결. SMR을 포함한 다변화된 에너지 인프라를 통한 지속 가능한 데이터센터 확장, 환경 책임을 유지하면서 신속한 배포를 가능하게 하는 간소화된 인허가
• 변혁적 효율 이득. 1000× 개선이 달성되고, 그 결과 AI 트래픽이 클라우드에서 엣지로 근본적으로 재분배 된다. 워크로드의 큰 몫이 자율주행차·로봇·AR/VR 헤드셋 같은 기기에 배포 가능한 특화 소형 모델로 옮겨간다
• 번영하는 부문 간 생태계. 학계·산업계·벤처캐피털·정부 사이의 포지티브섬 관계, 다자간 포럼이 주도하는 공유 인프라와 개방 도구
• 미국의 경쟁 우위. 효율 발전이 전 세계에 공유되더라도 충분한 전력 용량과 인재 파이프라인 확보
• 형평한 접근. 오픈소스 도구, 산업 횡단 벤치마크, 작지만 유능한 모델의 발전을 통해 대규모 자본을 가진 연구소와 하이퍼스케일러 외의 참여자도 프런티어에 기여
• AI 기반 경제의 번영. 자율주행·로보틱스·에이전틱 AI 등에서 여러 사업 모델이 등장하여 1998년 이후 인터넷의 변혁에 필적하거나 이를 능가하는 경제적 가치 창출

실행 제언

논문 5.6절과 6장의 제언은 대상별로 정리된다.

정부. SMR을 포함한 에너지 인프라 투자, 데이터센터 인허가 간소화, 5–10년 지평의 에너지·인프라 연구 투자. AI용으로 설계되지 않은 기존 대규모 데이터센터를 AI 워크로드용으로 효과적으로 재활용할 수 있도록 하는 정책. 대학과 클라우드 제공자 간 집단 협상 촉진. 전 세계 과학·공학 인재 유치 정책의 유지·강화.

논문은 R&D에 투자된 1달러가 경제에 약 5달러를 돌려준다 는 점을 근거로, 오픈소스 EDA 도구나 일반화 가능한 모듈형 아키텍처 시뮬레이터 같은 대규모 다중 대학 연구에 대한 전략적 투자가 이 효과를 크게 증폭시킬 수 있다고 주장한다.

대학. 개별적으로 금방 낡을 시설을 짓는 대신 NSF나 DOE 같은 기관과 함께 클라우드 파트너십을 집단적으로 협상하라. 오픈소스 EDA처럼 생태계를 가능하게 하는 도구에 연구를 집중하고, 산학 협력에 대한 학계 인센티브를 마련하며, 점진적 개선보다 장기 지평의 파괴적 알고리즘 연구에 집중하라.

산업계. 학계 연구를 후원하고 방향을 제시해 산업 문제와 정렬시키라. 학계 위원회에 참여해 실용적 작업의 가치를 인정하고, 일회성 보조금을 넘어선 지속적 파트너십을 제공하며, 현실적 실험으로 시뮬레이션 도구를 검증하라. 학계가 결과를 검증할 수 있도록 테스트·측정 데이터와 고급 벤치마크를 공개하라.

커뮤니티. 학계·산업계·VC·정부 간 다자간 포럼을 만들어 새로운 아키텍처 탐색을 위한 “시뮬레이션 고속도로” 같은 공유 인프라를 개발하라.

6장의 종합 제언

논문의 마지막 장은 정책 수준의 요구를 담고 있다. 주요 항목은 다음과 같다.

• 하드웨어를 하위 최적화 계층이 아니라 차세대 AI 혁명의 1급 동인 으로 격상하는 AI+HW co-design 전담 프로그램 신설
• NSF 주도로 DARPA·DOE·NIH가 참여하는 국가 AI+HW 이니셔티브 출범
• NAIRR(National AI Research Resource, 미국의 국가 AI 연구자원 공유 프로그램)와 유사한 정신의 공유 AI+HW 인프라 프로그램. 학계에 첨단 컴퓨트, 신규 가속기, 칩 시제품 제작 플랫폼, 시스템 수준 테스트베드 접근을 제공
• JUMP(반도체 업계·정부가 함께 대학 연구센터를 장기 지원해 온 프로그램) 같은 성공 사례를 본뜬 장기 자금 지원의 AI+HW Institute/Center 설립
• AI 연구자에게 시스템·하드웨어를, 하드웨어 연구자에게 현대 AI 방법론을 교차 훈련하는 학제 간 교육 투자
• 자금 지원 연구에서 모델 정확도나 peak 하드웨어 성능이 아니라 intelligence per joule, 데이터 이동 효율, 실제 활용률, 견고성, 배포 가능성 같은 시스템 수준 지표를 우선시
• NSF·DARPA·NIH·DOE 간 부처 횡단 조율. DOE의 Genesis Mission 같은 신규 이니셔티브와의 전략적 협력 탐색
• 이 보고서와 arXiv 버전을 살아있는 참조 문헌 으로 삼아 커뮤니티 입력을 반영
• ACM·IEEE·USENIX·AAAI·ASME 등 전문 학회, 정책 입안자, 주요 산업 파트너와의 연계

내 관점에서

이 마지막 장을 읽고 나면 앞의 기술 논의가 다르게 보인다. 3D 집적이든 포토닉스든, 결국 전력이라는 물리적 상한 아래에서 벌어지는 일이라는 것이다. 논문이 “효율이 같아도 전력이 10배면 추론 능력이 10배”라고 말한 대목이 이 장의 요지를 압축한다. 효율 개선은 필요조건이지 충분조건이 아니다.

가장 인상 깊었던 것은 파일럿의 5%만 재무 성과로 이어진다 는 숫자다. 이 숫자는 기술 논문이 아니라 조직론에 가까운 지적인데, 현장 감각으로는 오히려 가장 정직한 부분이라고 느꼈다. 원인으로 꼽힌 것들이 모델 성능이 아니라 실세계 맥락으로부터의 지속 학습 부재, 데이터 사일로, 운영 비용 이라는 점도 그렇다. 좋은 모델을 만드는 것과 그 모델이 매일 돌면서 조직의 의사결정에 실제로 들어가게 만드는 것은 완전히 다른 종류의 일이다.

“랙당 30kW 미만이 85%“라는 지적도 실무자에게 유용하다. 논의는 늘 최신 고밀도 인프라를 전제로 이루어지지만, 실제로 대부분의 자산은 그렇지 않다. 이건 곧 기존 인프라 위에서 돌아가는 효율적 소형 모델의 수요 가 생각보다 크다는 뜻이기도 하다. 20B 미만 특화 모델로의 이동 예측과도 맞물린다.

한편 이 장은 논문 전체에서 가장 미국 중심적인 부분이기도 하다. NSF, DARPA, NAIRR, SMR 인허가, 이민 정책 같은 제언은 그대로 다른 나라에 옮겨 적용되지 않는다. 다만 그 아래 깔린 구조적 진단 — 전력이 상한이고, 검증 인프라가 부족하며, 학계와 산업의 시간 지평이 다르다는 것 — 은 어디서나 통용된다고 본다. 특히 “시뮬레이션 고속도로”, 즉 실제 시스템으로 검증된 공유 시뮬레이션 인프라라는 아이디어는 반도체 제조 분야에서도 그대로 유효한 제안이다. 각자가 자기 시뮬레이터를 만들고 그 정확도를 각자 검증하는 현재 방식은 명백히 낭비다.

시리즈를 마치며

네 편에 걸쳐 이 비전 페이퍼를 정리했다. 다시 한 문장으로 압축하면 이렇다.

스케일링의 축을 크기에서 효율(intelligence per joule) 로 옮기고, 하드웨어·알고리즘·응용 세 계층을 따로가 아니라 함께 설계하자. 목표는 10년 내 1000×이며, 그 경로는 알고리즘 10× × 실리콘 20× × 시스템 5×다. 그리고 이 모든 것의 실제 상한은 전력이다.

비전 페이퍼인 만큼 검증된 결과가 아니라 30인의 합의된 전망이라는 점은 다시 강조해둔다. 그럼에도 이 문서가 유용한 이유는, 흩어져 있던 개별 과제들 — 메모리 벽, 발열, 가동률, 모델 크기, 전력망, 인재 — 이 사실 하나의 연결된 문제라는 것을 한 장의 지도로 보여주기 때문이다.

• 이전: AI+HW 2035 (3) — 알고리즘 계층
• 시리즈 시작: AI+HW 2035 (1) — 왜 지금 intelligence per joule인가
• 원문: AI+HW 2035: Shaping the Next Decade (arXiv:2603.05225)