AMD MI350과 GPU 경쟁 구도

2025년 12월 11일 업데이트

2025년 12월 업데이트: OpenAI가 6GW 규모의 GPU 공급을 확보하기 위해 AMD 지분 최대 10%를 인수합니다. MI350은 288GB HBM3e(Blackwell의 180GB 대비), 8TB/s 대역폭으로 출하됩니다. Microsoft Azure는 MI300X에서 프로덕션 Copilot 워크로드를 운영 중입니다. Oracle은 16,384개의 GPU로 구성된 MI300X 슈퍼클러스터를 배포합니다. AMD의 ROCm 소프트웨어 스택이 엔터프라이즈 수준의 성숙도에 도달하면서 NVIDIA 대안이 신뢰를 얻고 있습니다.

OpenAI는 최대 6기가와트 규모의 GPU 공급을 확보하기 위해 AMD 지분 최대 10%를 인수하는 내용의 파트너십을 발표했습니다.¹ AMD는 2025년 10월 Oracle의 클라우드 인프라용 AI 칩 공급 계약을 체결했습니다.² Microsoft Azure는 현재 AMD Instinct MI300X에서 독점 모델과 오픈소스 모델 모두를 프로덕션 환경에서 운영하고 있습니다.³ NVIDIA가 AI GPU 시장의 80%에서 95%를 유지하고 있지만, AMD는 엔터프라이즈들이 추론 워크로드와 비용 최적화를 위해 점점 더 고려하는 신뢰할 수 있는 대안으로 자리매김했습니다.⁴

MI350 시리즈는 2025년 3분기에 출시되었으며, 사양 면에서 NVIDIA의 Blackwell에 도전합니다: 288기가바이트의 HBM3e 메모리, 8테라바이트/초 대역폭, 경쟁 가속기 대비 2.2배의 AI 성능을 주장합니다.⁵ 엔터프라이즈 인프라 기획자들에게 남은 질문은 AMD의 하드웨어 이점과 개선되는 소프트웨어 스택이 NVIDIA의 확립된 생태계에서 전환할 만큼 정당한가 하는 것입니다.

MI350 사양 및 포지셔닝

AMD Instinct MI350 시리즈는 1,850억 개의 트랜지스터와 288기가바이트의 HBM3e 메모리를 탑재했습니다.⁶ 4세대 AMD CDNA 아키텍처를 기반으로 하는 MI350 시리즈는 AI 추론, 학습 및 HPC 워크로드를 위한 MXFP6 및 MXFP4를 포함한 확장된 데이터 타입 지원을 제공합니다.⁷ 플래그십 MI355X 플랫폼은 이전 세대 MI300X 대비 최대 4배의 이론적 피크 성능을 제공합니다.⁸

메모리 용량은 AMD의 가장 명확한 하드웨어 이점을 제공합니다. MI355X의 288기가바이트 HBM3e는 NVIDIA Hopper H200의 141기가바이트와 Blackwell B200의 180기가바이트를 초과합니다.⁹ 메모리 대역폭은 H200의 4.8테라바이트/초, B200의 7.7테라바이트/초와 비교하여 8테라바이트/초에 달합니다.¹⁰

MI355X의 전력 소비는 1,400와트로, Blackwell Ultra의 요구사항과 일치합니다.¹¹ 유사한 전력 프로파일은 이 성능 등급에서 벤더 간 인프라 요구사항이 크게 다르지 않음을 의미합니다.

AMD는 MI355X를 NVIDIA B200 및 GB200 플랫폼과 비교 테스트하여 Llama2-70B 파인튜닝을 위한 학습 처리량과 Llama 3.1-405B의 추론 처리량을 측정했습니다.¹² 벤치마크는 경쟁력 있는 성능을 보여주지만, 실제 결과는 소프트웨어 최적화에 크게 좌우됩니다.

MI350은 2025년 3분기에 파트너 및 하이퍼스케일 데이터센터에 출하되었습니다.¹³ AMD의 연간 가속기 리프레시 사이클은 2026년 개발이 확정된 MI400 시리즈로 계속됩니다.¹⁴ Helios AI 레퍼런스 디자인은 MI400 GPU, EPYC Venice CPU, Pensando Vulcano NIC를 풀랙 아키텍처로 통합합니다.¹⁵

클라우드 제공업체 도입 가속화

IBM Cloud는 2025년 상반기에 AMD Instinct MI300X GPU를 추가할 예정입니다.¹⁶ 이 협력을 통해 IBM의 watsonx AI 플랫폼과 Red Hat Enterprise Linux AI 추론 내에서 AMD 가속기를 지원할 수 있습니다.¹⁷ 엔터프라이즈 중심의 접근은 프로덕션 AI 워크로드를 위해 NVIDIA 대안을 찾는 고객을 대상으로 합니다.

Microsoft Azure는 커스텀 Copilot 워크로드를 지원하기 위해 스웨덴과 아일랜드 리전에서 MI300X 기반 AI 클러스터를 출시했습니다.¹⁸ Microsoft가 독점 모델에 대해 AMD를 프로덕션에서 운영한다는 것은 소프트웨어 성숙도가 엔터프라이즈 요구사항에 도달했음을 보여줍니다.

Oracle Cloud Infrastructure의 Compute Supercluster 인스턴스는 단일 클러스터에서 최대 16,384개의 MI300X GPU를 지원합니다.¹⁹ 이 규모는 수천억 개의 파라미터를 가진 모델의 학습 및 배포를 가능하게 합니다.²⁰ Oracle의 배포는 AMD의 메모리 용량이 이점을 제공하는 의료 및 유전체 AI 사용 사례에 중점을 둡니다.²¹

Vultr와 Oracle Cloud의 수주는 AMD의 가속기 기술에 대한 모멘텀이 커지고 있음을 보여줍니다.²² Lenovo, Dell, SuperMicro가 MI300 기반 제품을 발표했습니다.²³ 이제 벤더 생태계가 엔터프라이즈 규모에서 AMD를 지원합니다.

Cohere는 AMD Instinct MI300X에서 Command 모델을 배포하여 높은 처리량과 데이터 프라이버시를 갖춘 엔터프라이즈급 LLM 추론을 지원합니다.²⁴ AI 모델 제공업체의 도입은 추론 워크로드에 대한 AMD의 입지를 검증합니다.

소프트웨어 생태계 성숙

소프트웨어 생태계는 역사적으로 AMD 도입을 제한했습니다. CUDA의 확고한 위치가 NVIDIA를 기본 선택으로 만들었습니다. 이 상황은 2025년에 크게 변했습니다.

PyTorch 3.1은 학습 및 추론을 위한 네이티브 ROCm 지원을 제공합니다.²⁵ DeepSpeed 및 Hugging Face Accelerate를 포함한 인기 라이브러리들이 AMD 전용 성능 플래그를 추가했습니다.²⁶ 개발자들은 MI300X 환경을 위해 직접 구축하는 것에 점점 더 익숙해지고 있습니다.²⁷

엔터프라이즈 AI 팀들은 성능을 희생하지 않으면서 비용을 줄이기 위해 추론 워크로드를 AMD로 마이그레이션하고 있습니다.²⁸ 추론이 지속적으로 실행되고 장기 지출의 대부분을 차지하기 때문에 비용 차이는 학습보다 추론에서 더 중요합니다.

NVIDIA의 CUDA는 여전히 더 넓은 개발자 채택과 더 성숙한 도구를 제공합니다.²⁹ 프로덕션 환경에서의 실제 성능은 종종 원시 하드웨어 능력보다 생태계 최적화로 인해 NVIDIA를 선호합니다.³⁰ 조직은 AMD 최적화에 필요한 엔지니어링 투자 대비 비용 절감을 저울질해야 합니다.

AMD의 Untether AI 인수로 AI 하드웨어 및 소프트웨어 엔지니어들이 합류하여 컴파일러, 커널 개발 및 칩 설계 역량이 강화되었습니다.³¹ 이 투자는 CUDA의 해자가 좁아지는 추론 시장에서 AMD의 입지를 강화합니다.³²

시장 역학 및 점유율

NVIDIA는 2025년 AI GPU 시장의 80%에서 95%를 유지하고 있습니다.³³ Wells Fargo의 데이터에 따르면 NVIDIA의 AI 가속기 점유율은 80%에서 90% 사이에 머물고 있습니다.³⁴ NVIDIA는 데이터센터 GPU 분야에서 90% 이상의 점유율을 보유하고 있으며, 대부분의 기초 AI 코드가 CUDA를 기반으로 구축되어 있습니다.³⁵

AMD의 2025년 3분기 데이터센터 매출은 43억 달러에 달했습니다.³⁶ NVIDIA의 2025년 7월 말까지 단일 분기 데이터센터 매출은 411억 달러에 달했습니다.³⁷ 매출 격차는 시장 리더 간의 규모 차이를 보여줍니다.

JPR 데이터에 따르면 NVIDIA가 이산 GPU 시장의 94%를 지배하고 AMD는 약 6%를 차지합니다.³⁸ AMD의 점유율은 여전히 먼 2위에 머물러 있지만, 시장이 급속히 확장되어 두 벤더 모두 성장하고 있습니다.

AMD의 데이터센터 AI GPU 시장 점유율은 2023년 1분기 이후 꾸준히 증가했습니다.³⁹ 2025년 1분기에 NVIDIA의 대규모 Blackwell 램프가 시작되었고, AMD의 대응이 2025년 3분기에야 도착하면서 AMD의 점유율이 일시적으로 하락했습니다.⁴⁰ 경쟁 사이클은 각 벤더가 새로운 세대를 출시함에 따라 계속될 것입니다.

AMD의 전략적 기회

AMD는 NVIDIA의 CUDA 해자가 더 좁은 추론 시장에서 틈새를 개척했습니다.⁴¹ 추론은 결국 학습보다 더 커질 것이며, 이는 AMD가 시장의 장기 성장 궤적에 맞춰 포지셔닝하고 있음을 의미합니다.⁴²

AMD의 접근 방식은 모든 세그먼트에서 NVIDIA와 맞서려 하기보다 전략적으로 선택된 기회에 집중합니다.⁴³ 이 전략은 NVIDIA의 이점이 가장 강한 곳에서의 직접 경쟁을 피하면서 급속히 확장하는 시장에서 AMD의 몫을 키웁니다.⁴⁴

OpenAI 파트너십은 주요 검증을 나타냅니다. 최대 6기가와트의 AMD GPU에 대한 OpenAI의 잠재적 2,000억 달러 투자는 AMD의 로드맵에 대한 신뢰를 보여줍니다.⁴⁵ 이 거래는 AMD에게 엔터프라이즈 인식에 영향을 미치는 대표 고객을 제공합니다.

AMD의 공격적인 가격 전략은 NVIDIA를 하회하지만, 가격만으로는 AMD가 시장 점유율 확보에서 NVIDIA와 맞먹는 성과를 내지 못했습니다.⁴⁶ 경쟁력 있는 하드웨어, 개선되는 소프트웨어, 유리한 가격의 조합이 비용에 민감한 엔터프라이즈에 기회를 만들어 냅니다.

엔터프라이즈 배포 고려사항

AMD를 평가하는 조직은 워크로드 믹스를 고려해야 합니다. 학습 워크로드, 특히 광범위한 CUDA 의존성을 가진 워크로드는 여전히 NVIDIA를 선호합니다. 추론 워크로드는 더 낮은 전환 비용으로 AMD 도입에 더 많은 기회를 제공합니다.

메모리 용량 이점은 대형 모델에 중요합니다. MI350의 288기가바이트는 여러 NVIDIA GPU가 필요한 모델의 단일 GPU 처리를 가능하게 합니다. 메모리 이점은 가장 큰 모델을 운영하는 조직의 인프라 복잡성을 줄여줍니다.

소프트웨어 투자 요구사항을 과소평가해서는 안 됩니다. ROCm이 크게 개선되었지만, CUDA에 익숙한 팀은 AMD 최적화에 시간과 리소스가 필요합니다. 학습 곡선은 새로운 배포의 프로덕션 도달 시간에 영향을 미칩니다.

멀티 벤더 전략은 리스크 완화를 제공합니다. NVIDIA와 AMD를 모두 검증하는 조직은 더 나은 가격을 협상하고, 공급 제약을 피하며, 각 워크로드 유형에 최적의 하드웨어를 선택할 수 있습니다. 두 플랫폼을 모두 지원하는 투자는 대규모 배포에서 효과가 있습니다.

클라우드 기반 AMD 액세스는 도입 장벽을 낮춥니다. IBM, Microsoft, Oracle 및 기타 제공업체들이 하드웨어 조달 없이 테스트할 수 있는 AMD 인스턴스를 제공합니다. 조직은 인프라 구매를 결정하기 전에 자체 워크로드에서 AMD 성능을 검증할 수 있습니다.

빠른 결정 프레임워크

AMD vs NVIDIA 선택:

사양 비교:

핵심 요점

인프라 아키텍트를 위해: - AMD MI350은 288GB HBM3e 제공—B200의 180GB보다 60% 더 많음 - ROCm 소프트웨어 스택이 2025년에 크게 성숙—PyTorch 3.1이 네이티브 지원 제공 - 추론 워크로드가 NVIDIA에서 전환 비용이 가장 낮음 - 클라우드 제공업체(IBM, Azure, Oracle)가 하드웨어 조달 없이 테스트 가능

조달 팀을 위해: - OpenAI의 AMD 10% 지분 인수는 장기 공급 신뢰를 시그널함 - AMD 가격은 NVIDIA보다 낮지만 동등한 시장 점유율 확보로 이어지지는 않음 - 멀티 벤더 전략이 더 나은 협상 레버리지와 공급 회복력을 가능하게 함 - 메모리 용량 이점으로 더 큰 모델의 단일 GPU 처리 가능

전략 기획을 위해: - NVIDIA가 80-95% 시장 점유율 유지—AMD는 대체가 아닌 신뢰할 수 있는 대안 - 추론 시장이 결국 학습을 초과할 것—AMD의 타겟 세그먼트 - AMD 최적화를 위한 소프트웨어 투자 필요—TCO 분석에 반영 필요 - MI400 시리즈 2026년 확정—로드맵 가시성이 기획 개선

AMD는 가까운 미래에 NVIDIA에 대해 먼 2위에 머물 것입니다.⁴⁷ 그러나 크고 성장하는 AI 시장은 소수 점유율이라도 상당한 매출을 의미하며 AMD를 실행 가능한 엔터프라이즈 옵션으로 확립합니다. AMD 전문성을 개발하는 조직은 시장이 진화함에 따라 비용 최적화와 공급 다각화를 위한 포지셔닝을 갖추게 됩니다.

참고 문헌

1. Tech Research Online. "NVIDIA vs AMD (2025): GPUs, AI & Market Share." 2025. https://techresearchonline.com/blog/nvidia-vs-amd-the-gpu-battle-for-ai-dominance/

2. 36Kr. "AMD's Aggressive Pricing Stabs Intel but Fails to Outperform NVIDIA." 2025. https://eu.36kr.com/en/p/3541331537719433

3. AMD Newsroom. "AMD Unveils Vision for an Open AI Ecosystem." June 2025. https://www.amd.com/en/newsroom/press-releases/2025-6-12-amd-unveils-vision-for-an-open-ai-ecosystem-detai.html

4. Tech Research Online. "NVIDIA vs AMD (2025)."

5. AMD. "AMD Instinct MI350 Series GPUs." 2025. https://www.amd.com/en/products/accelerators/instinct/mi350.html

6. Kontronn. "AMD Instinct MI350 Officially Announced: 185 Billion Transistors and 288GB HBM

[원문에서 내용 잘림]