AI PC 혁명: 온디바이스 AI가 데이터센터 전략에 미치는 영향
2025년 12월 11일 업데이트
2025년 12월 업데이트: AI PC가 2025년 PC 시장의 31%(7,780만 대)를 차지하며, 2028년에는 94%까지 성장할 전망입니다. 퀄컴 스냅드래곤 X2는 80 TOPS NPU 성능을 제공하며 이전 세대 대비 거의 2배 향상되었습니다. 2025년 10월 Windows 10 지원 종료로 하드웨어 교체 주기가 앞당겨지고 있습니다. Dell의 AI Factory with NVIDIA는 엣지 디바이스와 대규모 학습 환경을 연결합니다. 온디바이스 추론이 엣지와 클라우드 간 워크로드 분배를 변화시키고 있습니다.
AI PC는 2025년 말까지 전 세계 PC 시장의 31%를 차지하며, 출하량은 7,780만 대에 이를 것으로 예상됩니다.¹ IT 의사결정권자 10명 중 8명이 올해 AI PC에 투자할 계획입니다.² AI PC 시장은 2024년 506억 8천만 달러 규모에 도달했으며, 2034년까지 연평균 42.8% 이상의 성장률을 기록할 전망입니다.³ 2028년에는 AI PC가 사용 중인 PC의 94%를 차지하게 됩니다.⁴ 클라우드 의존형 AI에서 온디바이스 처리로의 전환은 엔드포인트를 넘어 기업 인프라 전략 전반을 재편하고 있습니다.
이러한 변화는 근본적인 재계산을 반영합니다. 클라우드 AI 배포는 높은 비용과 보안 위험을 수반하며, 기업들은 이를 점점 더 회피하려 합니다.⁵ 온디바이스 AI 처리는 민감한 데이터를 로컬에 유지하고, 인터랙티브 애플리케이션의 지연 시간을 줄이며, 추론 워크로드에 대한 쿼리당 클라우드 비용을 제거합니다. AI PC는 단순히 클라우드 서비스에 연결하는 생산성 디바이스가 아닌, 분산 AI 아키텍처의 지능형 엣지 노드가 됩니다.
NPU 하드웨어, 엔터프라이즈급 역량 도달
퀄컴의 스냅드래곤 X2는 80조 회 연산(TOPS)의 NPU 성능을 제공하며, 1세대 스냅드래곤 X의 45 TOPS에서 거의 2배로 향상되었습니다.⁶ 이 칩은 최대 128GB RAM을 지원하여 상당한 규모의 언어 모델을 로컬에서 처리할 수 있습니다. 스냅드래곤 X2 탑재 첫 PC는 2026년 상반기에 출시되어 Apple M5와의 경쟁이 본격화됩니다.
2025년 11월 25일 발표된 스냅드래곤 8 Gen 5 모바일 플랫폼은 Hexagon NPU를 강화하여 AI 성능을 46% 향상시켰습니다.⁷ 퀄컴은 3nm 효율성을 달성하면서 Apple의 동급 칩보다 36% 더 나은 성능을 제공한다고 주장합니다. 온디바이스 AI 기능은 클라우드 연결 없이도 상황 인식 상호작용과 개인화된 제안을 제공하는 에이전틱 AI 어시스턴트를 가능하게 합니다.
엣지 AI 하드웨어 시장은 2025년 261억 7천만 달러에 도달하고, 2030년까지 연평균 17.8% 성장하여 593억 7천만 달러 규모로 성장할 전망입니다.⁸ NVIDIA, Intel, 퀄컴, 삼성, Apple이 시장 선점을 위해 경쟁하고 있습니다. 이러한 프로세서들은 클라우드 연산에 의존하지 않고 더 큰 AI 모델을 로컬에서 처리하며, 에너지 효율적인 온디바이스 AI가 성능과 프라이버시 모두에서 핵심 차별화 요소가 되는 광범위한 산업 변화를 나타냅니다.
Dell의 디바이스-데이터센터 통합 아키텍처
CES 2025에서 공개된 Dell의 전략은 PC를 분산 AI 생태계 내의 지능형 엣지 노드로 취급합니다.⁹ 이 회사는 로컬 AI 처리를 위한 통합 NPU를 중심으로 세 가지 제품 라인을 선보였습니다. Dell Pro AI Studio 소프트웨어 플랫폼은 사용자가 AI PC에서 로컬로 AI 모델을 찾고, 학습시키고, 배포할 수 있게 합니다.¹⁰
이 접근 방식은 Dell의 통합 디바이스-데이터센터 AI 아키텍처로의 전환을 반영합니다. AI 기능을 엔드포인트, 엣지 디바이스, 데이터센터 인프라에 내장함으로써 Dell은 규제 및 데이터 주권 문제를 해결하면서 AI 접근성을 민주화합니다.¹¹ 하이브리드 및 온프레미스 솔루션에 대한 강조는 기업이 모든 데이터를 퍼블릭 클라우드에 보낼 수 없다는 점을 인정합니다.
2025년 5월, Dell은 AI Factory with NVIDIA를 공개했습니다. 이는 데이터센터 서버, 워크스테이션, 스토리지, 네트워킹과 NVIDIA의 Blackwell 아키텍처를 결합한 공동 엔지니어링 포트폴리오입니다.¹² 이 파트너십은 Dell을 엔터프라이즈 인프라 제공업체이자 PC 혁신 기업으로서의 입지를 공식화하며, 엣지 디바이스와 대규모 모델 학습 환경을 연결합니다.
시장 예측에 따르면 AI PC는 2028년까지 PC 시장의 64%를 차지할 것입니다.¹³ 2025년 10월 Windows 10 지원 종료는 하드웨어 교체 주기를 강제하여 기업의 AI PC 도입을 가속화합니다.¹⁴ 조직은 어차피 업그레이드해야 하며, AI 기능은 투자에 대한 추가적인 정당성을 제공합니다.
데이터센터 전략에 대한 시사점
AI PC의 확산은 엣지와 클라우드 간 AI 워크로드 분배를 변화시킵니다. 이전에 클라우드 API 호출이 필요했던 추론 워크로드가 NPU 탑재 디바이스에서 로컬로 실행될 수 있습니다. 클라우드 데이터센터는 모델 학습, 엔드포인트 하드웨어가 제공하는 것보다 더 많은 컴퓨팅이 필요한 복잡한 추론, 여러 소스의 데이터 집계가 필요한 애플리케이션에 대한 책임을 유지합니다.
이 변화는 여러 측면에서 인프라 계획에 영향을 미칩니다. 엣지 디바이스가 워크로드를 흡수함에 따라 클라우드 AI 추론 용량 요구사항은 더 느리게 증가합니다. 모델 크기가 커짐에 따라 학습 인프라 요구사항은 계속 증가합니다. 추론과 학습 컴퓨팅 간의 균형이 변화하여 클라우드 데이터센터의 GPU 배포 전략에 영향을 줄 수 있습니다.
AI 처리가 통제된 데이터센터 환경이 아닌 분산된 엔드포인트에서 발생할 때 데이터 거버넌스는 더욱 복잡해집니다. 기업은 일관된 모델 버전을 보장하고, 감사 추적을 유지하며, 처리가 클라우드, 온프레미스, 엔드포인트 디바이스 어디에서 발생하든 민감한 데이터를 보호해야 합니다.¹⁵ 분산 아키텍처는 중앙집중식 클라우드 배포가 피했던 관리 오버헤드를 도입합니다.
Goldman Sachs Research는 글로벌 데이터센터 전력 수요가 2023년 대비 2027년까지 50%, 10년 말까지 최대 165% 증가할 것으로 예측합니다.¹⁶ 그러나 엣지 AI 처리는 일부 수요를 중앙집중식 시설에서 오프로드합니다. 순 효과는 엣지 AI가 클라우드 추론을 대체하는지, 아니면 그렇지 않았으면 실행되지 않았을 추가적인 AI 애플리케이션을 가능하게 하는지에 따라 달라집니다.
기업 배포 고려사항
비즈니스 부문에서 Windows x86은 올해 기업 영역 AI 노트북 시장의 71%를 차지합니다.¹⁷ 기존 기업 IT 인프라, 관리 도구, 지원 역량은 ARM 대안보다 Windows x86을 선호합니다. Arm 기반 AI PC를 도입하는 기업은 기존 애플리케이션 및 관리 시스템과의 호환성을 평가해야 합니다.
기업은 생성형 AI를 활용하는 고급 생산성 도구를 지원하기 위해 AI PC를 도입하며, 이는 워크플로우를 혁신하고 운영 효율성을 향상시킵니다.¹⁸ 사용 사례는 문서 요약 및 코드 생성부터 실시간 번역 및 회의 전사까지 다양합니다. 로컬 처리는 민감한 비즈니스 콘텐츠를 클라우드 서비스에 전송하지 않고도 이러한 기능을 가능하게 합니다.
클라우드 AI 배포의 높은 비용과 보안 위험은 더 많은 기업이 전적으로 클라우드 API에 의존하기보다 PC에서 AI를 배포하도록 동기를 부여합니다.¹⁹ 사용량이 많거나, 데이터 민감도로 인해 클라우드 전송이 금지되거나, 지연 시간 요구사항이 로컬 응답을 요구할 때 온디바이스 처리가 유리합니다. 모델이 로컬 컴퓨팅 용량을 초과하거나 애플리케이션이 프론티어 모델만 제공하는 기능을 필요로 할 때는 클라우드 API가 선호됩니다.
Gartner는 2026년 AI PC 출하량이 총 1억 4,300만 대로 전체 PC 시장의 55%를 차지할 것으로 예측합니다.²⁰ 2029년에는 AI PC가 표준이 됩니다. 조직은 모든 엔드포인트 디바이스에 AI 처리 기능이 포함되어 현재 인프라 전략이 예상하지 못할 수 있는 분산 AI 아키텍처를 가능하게 하는 미래를 계획해야 합니다.
전략적 시사점
AI PC 혁명이 데이터센터 AI 인프라 요구사항을 없애지는 않습니다. 프론티어 모델 학습에는 여전히 하이퍼스케일 컴퓨팅 용량이 필요합니다. 복잡한 추론 워크로드는 엔드포인트 역량을 초과합니다. 다중 사용자 애플리케이션은 중앙집중식 처리가 필요합니다. 엣지 AI 확장은 클라우드 AI 인프라를 대체하기보다 보완합니다.
전략적 질문은 엣지와 클라우드 AI 역량의 균형을 어떻게 맞출 것인가입니다. 클라우드 AI 인프라에 많이 투자하는 조직은 온디바이스 추론이 일부 워크로드를 더 효율적으로 처리할 수 있는지 평가해야 합니다. 엔드포인트 교체를 계획하는 조직은 새 디바이스에 미래 AI 애플리케이션을 가능하게 하는 NPU 기능이 포함되어 있는지 확인해야 합니다.
향후 5년간 교체될 것으로 예상되는 15억 대의 PC는 대규모 인프라 전환을 나타냅니다.²¹ 각 디바이스는 AI 처리 노드가 됩니다. 기업 PC 플릿 전체의 집계 역량은 소규모 데이터센터에 필적합니다. 인프라 전략은 이러한 분산 컴퓨팅 역량과 그로 인한 데이터 거버넌스 과제를 고려해야 합니다.
AI PC 혁명은 중앙집중식 인프라의 필요성을 유지하면서 AI 역량을 엣지로 확장합니다. 엣지에서 클라우드까지 아우르는 일관된 전략을 개발하는 조직은 분산 AI 아키텍처의 이점을 누릴 것입니다. AI PC를 인프라 계획과 분리된 고립된 엔드포인트로 취급하는 조직은 새로운 아키텍처가 가능하게 하는 최적화 기회를 놓칠 것입니다.
핵심 요약
인프라 전략가를 위한 요약: - AI PC가 2025년 31% 시장 점유율(7,780만 대) 확보, 2028년까지 PC의 94% 도달; 기업 플릿 전체의 집계 엣지 컴퓨팅은 소규모 데이터센터에 필적 - 엔드포인트가 워크로드를 흡수함에 따라 클라우드 추론 용량 요구사항 증가 둔화; 모델 크기 증가로 학습 인프라는 지속 성장 - Windows 10 지원 종료(2025년 10월)로 하드웨어 교체 주기 강제; AI 기능이 추가 투자 정당성 제공
하드웨어 기획자를 위한 요약: - 퀄컴 스냅드래곤 X2, 80 TOPS NPU 성능과 128GB RAM 지원 제공; 스냅드래곤 8 Gen 5, 이전 세대 대비 46% 빠른 AI 달성 - 엣지 AI 하드웨어 시장 2025년 261.7억 달러, 2030년까지 593.7억 달러 성장(연평균 17.8%); NVIDIA, Intel, 퀄컴, 삼성, Apple 경쟁 - Windows x86이 기업 AI 노트북 시장의 71% 차지; Arm의 기존 애플리케이션 및 관리 시스템 호환성 평가 필요
데이터 거버넌스 팀을 위한 요약: - 온디바이스 AI는 민감한 데이터를 로컬에 유지하고, 지연 시간을 줄이며, 추론 워크로드의 쿼리당 클라우드 비용 제거 - 분산 처리로 데이터 거버넌스 복잡성 증가; 엣지와 클라우드 전반에서 일관된 모델 버전, 감사 추적, 데이터 보호 보장 필요 - Dell Pro AI Studio가 로컬 모델 배포 지원; 하이브리드/온프레미스 솔루션이 규제 및 데이터 주권 문제 해결
용량 기획자를 위한 요약: - Goldman Sachs, 2027년까지 데이터센터 전력 수요 50% 증가, 10년 말까지 165% 증가 예측; 엣지 AI가 일부 중앙집중식 수요 상쇄 가능 - 5년간 15억 대 PC 교체 예상; 각 디바이스가 분산 아키텍처의 AI 처리 노드로 전환 - 엣지와 클라우드 균형: 디바이스는 로컬 추론 처리, 클라우드는 학습, 복잡한 추론, 다중 소스 데이터 집계 담당
기업 배포를 위한 요약: - IT 의사결정권자 10명 중 8명이 2025년 AI PC 투자 계획; 시장 2024년 506.8억 달러, 2034년까지 연평균 42.8% 성장 - Dell AI Factory with NVIDIA, 엣지 디바이스와 Blackwell 기반 데이터센터 학습 환경 연결 - 사용량이 많거나, 데이터 민감도로 클라우드 전송 금지되거나, 지연 시간이 로컬 응답 요구할 때 로컬 처리 선호
참고 문헌
-
Gartner. "Gartner Says AI PCs Will Represent 31% of Worldwide PC Market by the End of 2025." August 28, 2025. https://www.gartner.com/en/newsroom/press-releases/2025-08-28-gartner-says-artificial-intelligence-pcs-will-represent-31-percent-of-worldwide-pc-market-by-the-end-of-2025
-
IT Pro. "AI PCs will 'become the norm' by 2029 as enterprise and consumer demand surges." 2025. https://www.itpro.com/hardware/ai-pcs-will-become-the-norm-by-2029-as-enterprise-and-consumer-demand-surges
-
GM Insights. "AI PC Market Size, Share & Industry Analysis, 2025-2034." 2025. https://www.gminsights.com/industry-analysis/ai-pc-market
-
IT Pro. "AI PCs will 'become the norm' by 2029."
-
MarketsandMarkets. "AI PC Market Size & Share, Trends, 2025 To 2031." 2025. https://www.marketsandmarkets.com/Market-Reports/ai-pc-market-64905377.html
-
IEEE Spectrum. "Qualcomm's Snapdragon X2 Promises AI Agents in Your PC." 2025. https://spectrum.
[번역 분량 제한으로 내용 일부 생략]
