일본 AI 인프라: 아시아 최대 경제 대국의 각성
2025년 12월 11일 업데이트
2025년 12월 업데이트: 일본, 공공·민간 결합 AI 투자 1,350억 달러 투입. 경제산업성(METI) 2030년까지 10조 엔(650억 달러) 투자 확정. 소프트뱅크, DGX B200 기반 세계 최초 DGX SuperPOD 운영(GPU 10,000개 이상, 13.7 EXAFLOPS). 사쿠라 인터넷, HGX B200 포함 10,800개 GPU로 확장. ABCI 3.0, 수천 대의 H200으로 6.2 EXAFLOPS 성능 구현.
일본은 수십 년간 실리콘밸리가 AI 혁명을 주도하는 것을 지켜보기만 했다. 이제 세계 4위 경제 대국이 자국의 주권적 AI 역량 구축을 위해 1,350억 달러 규모의 공공·민간 투자를 쏟아붓고 있다.¹ 이러한 배치 규모로 일본은 2026년까지 세계에서 가장 강력한 AI 슈퍼컴퓨터를 운영하게 되어, 아시아 전역의 기업들이 GPU 컴퓨팅에 접근하는 방식을 근본적으로 바꿀 전망이다.
일본의 접근 방식은 다른 시장의 하이퍼스케일러 중심 모델과 다르다. 정부 보조금이 국내 클라우드 사업자에게 직접 지원되고, 소프트뱅크와 NTT 같은 대기업들이 국내 기업의 요구에 맞춘 전용 AI 시설을 건설하고 있다. 일본의 인프라 구축 과정을 이해하면 미국 중심 클라우드 사업자의 대안을 찾고 경쟁력 있는 비용으로 맞춤형 AI 컴퓨팅에 접근하려는 조직들에게 기회가 보일 것이다.
정부 지원 인프라 가속화
일본 경제산업성(METI)은 2030년까지 10조 엔(650억 달러)을 투자하여 일본을 글로벌 AI 리더로 자리매김시키겠다고 발표했다.² 경제산업성은 AI 컴퓨팅 인프라를 구축하는 6개 국내 기업에 7억 4천만 달러의 직접 보조금을 배정하여 각 기업 투자금의 최대 절반을 지원한다.³
사쿠라 인터넷은 501억 엔(3억 2,400만 달러)으로 가장 큰 단일 배정을 받아 GPU를 2,000개에서 약 10,800개의 NVIDIA GPU로 확장하며, 여기에는 이시카리 데이터센터의 차세대 HGX B200 인프라가 포함된다.⁴ KDDI는 102억 엔(6,600만 달러)을 받아 일본 대도시 지역 전역에 AI 클라우드 서비스를 구축한다.
대표적인 국가 프로젝트인 ABCI 3.0은 일본의 공공 AI 인프라에 대한 의지를 보여준다. 휴렛패커드 엔터프라이즈가 수천 대의 NVIDIA H200 Tensor Core GPU를 사용하여 슈퍼컴퓨터를 구축했으며, 이론상 최대 6.2 엑사플롭스 성능을 제공한다.⁵ 일본 산업기술종합연구소(AIST)가 ABCI 3.0을 전국의 연구자와 기업이 이용할 수 있는 개방형 컴퓨팅 인프라로 운영한다.
경제산업성 보조금에는 조건이 붙는다. 2029년 이후 건설되는 데이터센터는 에너지 효율 기준을 충족하지 못하면 벌금을 내야 한다.⁶ 이시바 시게루 총리 내각은 경제산업성과 총무성에 데이터센터 사업자와 전력회사를 연결하는 "와트-비트 협력" 프레임워크를 만들어 인프라 병목현상이 성장을 제약하기 전에 해결하도록 지시했다.
국내 AI 패권을 향한 소프트뱅크의 베팅
소프트뱅크는 DGX B200 시스템으로 구축된 세계 최초의 NVIDIA DGX SuperPOD를 운영하며, 13.7 엑사플롭스의 AI 컴퓨팅 성능을 제공할 수 있는 10,000개 이상의 GPU를 목표로 한다.⁷ 추가 Blackwell GPU가 공급되면 총 컴퓨팅 용량을 25.7 엑사플롭스로 확장할 계획이다.
소프트뱅크의 인프라 전략은 두 개의 혁신적인 데이터센터 프로젝트에 걸쳐 있다. 홋카이도 도마코마이 시설은 70만 제곱미터 규모에 300MW 이상의 전력 용량을 갖추고 있으며, 오사카의 샤프 사카이 공장 전환 시설은 초기 150MW에서 400MW까지 확장 가능하다.⁸ 두 시설 모두 100% 재생 에너지로 운영되어 AI 인프라에 대한 일본의 증가하는 지속가능성 우려를 해소한다.
이 투자로 소프트뱅크는 하이퍼스케일러 AI 서비스의 주요 국내 대안으로 자리매김한다. 민감한 데이터를 다루거나 저지연 추론이 필요한 일본 기업들은 해외 사업자를 통하지 않고도 최첨단 GPU 인프라에 접근할 수 있다. 소프트뱅크가 일본 통신 인프라와 긴밀히 통합되어 있어 미국 기반 대안으로는 불가능한 엣지 컴퓨팅 시나리오가 가능하다.
NTT의 590억 달러 인프라 공세
NTT 코퍼레이션은 5년간 590억 달러(8조 엔)를 투자하여 AI 중심 기업으로 전환하겠다고 발표했다.⁹ 이 전략에는 NTT Data를 164억 달러에 인수하여 AI 연구 및 배치 역량을 통합 리더십 아래 일원화하는 것이 포함된다.
NTT Data의 건설 파이프라인에는 도쿄전력 파워 그리드와의 합작법인을 통해 도쿄 인근에 50MW 규모의 시로이 데이터센터 캠퍼스가 포함된다.¹⁰ 도치기 인터 인더스트리얼 파크 프로젝트는 32에이커에 걸쳐 약 100MW를 추가하여 도쿄 수도권 내에서 지리적 다양성이 필요한 기업 워크로드를 위한 이중화 용량을 만든다.
NTT의 투자 규모는 다른 시장의 하이퍼스케일러 투자에 필적한다. 일본 전역에 걸친 기존 통신 인프라와 결합하여 NTT는 외국 경쟁사가 제공할 수 없는 네트워크 수준의 최적화가 적용된 AI 서비스를 제공할 수 있다. 이미 NTT 연결망에서 운영 중인 기업들은 네트워크 토폴로지를 재설계하지 않고도 GPU 인프라와 원활하게 통합할 수 있다.
하이퍼스케일러 경쟁 심화
글로벌 하이퍼스케일러들은 일본의 전략적 중요성을 인식하고 정부가 Oracle, Google, Microsoft를 공식 클라우드 사업자로 지정한 후 총 280억 달러의 투자를 약속했다.¹¹
아마존 웹 서비스는 2011년부터 도쿄 리전, 2021년에 추가된 오사카 리전에서의 입지를 바탕으로 데이터센터 용량 확장에 155억 달러를 발표했다.¹² 이 투자는 일본 기업들이 실험 단계에서 생산 배치로 이동함에 따라 생성형 AI 워크로드를 목표로 한다.
구글은 7억 3천만 달러 초기 투자의 일환으로 2023년 인자이에 첫 번째 일본 데이터센터를 열었다.¹³ 이후 Clean Energy Connect 및 Shizen Energy와의 파트너십을 통해 확장 운영에 전력을 공급하기 위해 60MW의 재생 에너지 조달을 발표했다.
마이크로소프트는 Shizen Energy와 일본 최초의 전력구매계약(PPA)을 체결하여 AI 워크로드를 지원하기 위해 아이치현의 25MW 태양광 발전소에서 에너지를 조달한다.¹⁴ 2014년부터 Azure 데이터센터를 통해 10년 이상 일본에서 활동해 온 이력이 기업 관계에서 경쟁 우위를 제공한다.
하이퍼스케일러의 존재는 일본 기업들에게 유익한 건전한 경쟁을 만들어낸다. 조직들은 워크로드 특성에 따라 가격, 성능, 데이터 주권 또는 통합 요구사항을 최적화하면서 소프트뱅크와 NTT 같은 국내 사업자와 글로벌 대안 사이에서 협상할 수 있다.
Sakana AI와 주권 LLM 운동
도쿄 기반 Sakana AI는 2025년 11월 200억 엔(1억 3,500만 달러) 규모의 시리즈 B 펀딩 라운드를 마감하여 26억 5천만 달러 가치 평가를 달성하고 일본에서 가장 가치 있는 AI 유니콘이 되었다.¹⁵ 원래 트랜스포머 논문의 공동 저자인 Llion Jones를 포함한 전 구글 연구원들이 설립한 Sakana는 미국의 프론티어 모델과 직접 경쟁하기보다 일본어와 문화에 최적화된 모델을 구축한다.
Sakana의 "진화적 모델 병합(Evolutionary Model Merge)" 기술은 다양한 오픈소스 모델의 기능을 융합하여 처음부터 학습하지 않고도 특화된 AI 시스템을 개발할 수 있게 한다.¹⁶ 이 접근법으로 일본어 벤치마크에서 많은 700억 파라미터 모델을 능가하는 70억 파라미터 일본어 수학 LLM을 만들어냈다.
다이와 증권 및 MUFG 은행과의 기업 파트너십은 일본어 정밀도가 필요한 금융 애플리케이션에 대한 Sakana의 접근 방식을 검증한다.¹⁷ 회사는 일본에 최적화된 AI 역량이 외국 대안보다 전략적 우위를 제공하는 제조업, 정부, 국방 분야로 확장할 계획이다.
주권 AI 운동은 미국과 중국 기술 제공업체에 대한 의존도에 대한 더 광범위한 우려를 반영한다. 민감한 금융, 의료 또는 정부 데이터를 다루는 일본 기업들은 점점 더 국내 AI 제공업체를 선호하여, 글로벌 규모보다 현지 요구사항에 최적화하는 Sakana와 같은 기업들에게 시장 기회를 만들어주고 있다.
확장을 위협하는 전력망 과제
일본의 데이터센터 확장은 국가 총 전력 수요 증가의 60%를 차지하게 되며, 전력 소비량은 2024년 19TWh에서 2034년까지 57~66TWh로 3배 증가할 것으로 예상된다.¹⁸ 이 수요를 충족하려면 분석가들이 AI 인프라와 에너지 인프라 간의 "세 가지 불일치"라고 부르는 문제를 해결해야 한다.
지리적 불일치가 첫 번째 과제다. 데이터센터의 약 90%가 도쿄-오사카 회랑에 집중되어 있는 반면, 대부분의 대규모 재생 에너지 시설과 원자력 발전소는 홋카이도와 규슈에서 운영된다.¹⁹ 발전 지역에서 수요 중심지로 전력을 이동시키려면 일본이 아직 건설하지 않은 송전 인프라가 필요하다.
일정 불일치가 두 번째 장애물이다. 하이퍼스케일러들은 5년 미만의 배치 일정을 선호하지만, 복합화력발전 프로젝트는 계획부터 운영까지 7~10년이 필요하다.²⁰ 이 격차로 인해 가용 자본과 관계없이 주요 데이터센터 프로젝트가 2029년으로 밀린다.
에너지 믹스 불일치가 문제를 복잡하게 한다. 석탄과 가스가 2034년에도 여전히 용량의 40% 이상을 구성하며, 재생 에너지는 2030년까지 17%에 불과할 것이다.²¹ 재생 에너지 투자에 대한 전력회사의 소극적 태도, 계통 제약, 부적절한 송전 프레임워크 등 구조적 과제가 재생 에너지 통합을 방해해왔다.
제약을 해결하기 위한 혁신적인 솔루션이 등장하고 있다. 혼다, 도쿠야마, 미쓰비시 상사는 재활용 연료전지를 사용하여 일본 최초의 수소 전력 데이터센터를 건설하는 이니셔티브를 시작했다.²² 닛폰유센, NTT 및 파트너들은 해양 기반 AI 인프라의 시범 프로젝트로 요코하마 항구에 해상 부유식 그린 데이터센터를 건설하고 있다.
지역별 GPU 배치 현황
일본의 GPU 인프라는 여러 지역에 분산되어 있으며, 각 지역은 다양한 워크로드 유형에 대해 뚜렷한 장점을 제공한다.
홋카이도(북부 일본): 소프트뱅크의 도마코마이 시설이 300MW 이상의 용량과 풍력 및 지열 기반 재생 에너지로 북부 인프라의 중심 역할을 한다. 서늘한 기후로 냉각 비용이 크게 절감된다. 북미와 연결되는 해저 케이블에 근접하여 미국 시장에 대한 저지연 접근이 가능하다.
도쿄 수도권: NTT Data의 시로이 및 도치기 시설이 도쿄 금융가와 최소 지연이 필요한 기업 워크로드를 처리한다. 사쿠라 인터넷의 확장된 GPU 배치는 수도권 애플리케이션을 위한 AI 추론을 목표로 한다. Highreso는 버스트 용량이 필요한 연구자와 기업에 1,600개 GPU 접근을 제공한다.²³
오사카/간사이 지역: 소프트뱅크의 샤프 사카이 공장 전환 시설이 150~400MW 용량으로 서일본의 제조업 기반을 담당한다. 교토 기반 Rutilea의 AI 클라우드는 일본 학술 연구 커뮤니티와의 문화적 연결을 바탕으로 LLM 개발을 위한 1,000개 이상의 Hopper GPU를 제공한다.²⁴
이시카리 지역: 사쿠라 인터넷의 플래그십 데이터센터가 회사의 HGX B200 인프라를 호스팅하며, 총 약 10,800개 GPU를 목표로 한다.²⁵ 이 위치는 도쿄 시장과의 연결성을 유지하면서 재생 에너지 접근과 서늘한 기후의 이점을 누린다.
일본에 AI 인프라를 배치하는 조직은 복잡한 GPU 설치를 지원하기 위해 APAC 전역에 550명의 현장 엔지니어가 있는 Introl의 지역 커버리지를 활용할 수 있다.
기업 의사결정 프레임워크
일본에서 AI 인프라를 선택하려면 여러 차원에서 트레이드오프를 평가해야 한다:
데이터 주권 요구사항: 규제 데이터를 다루는 기업은 데이터 거주지 요구사항, 계약적 보호 및 감사 역량을 기준으로 국내 사업자(소프트뱅크, NTT, 사쿠라)와 하이퍼스케일러를 비교 평가해야 한다.
언어 모델 최적화: 일본어 처리가 필요한 애플리케이션은 외국 모델을 파인튜닝하는 것보다 Sakana AI와 같은 국내 LLM 제공업체의 혜택을 받을 수 있다. 네이티브 언어 최적화는 종종 문화적으로 특화된 다국어 모델보다 우수한 성능을 보인다.
[번역을 위해 콘텐츠 일부 생략됨]
