AMD MI350과 GPU 경쟁 환경
2025년 12월 11일 업데이트
2025년 12월 업데이트: OpenAI가 6GW GPU 공급 확보를 위해 AMD에 최대 10% 지분 투자. MI350이 288GB HBM3e(Blackwell의 180GB 대비), 8TB/s 대역폭으로 출하. Microsoft Azure가 MI300X에서 프로덕션 Copilot 워크로드 운영. Oracle이 16,384-GPU MI300X 슈퍼클러스터 배치. NVIDIA 대안이 신뢰성을 얻으면서 AMD의 ROCm 소프트웨어 스택이 엔터프라이즈 성숙도에 도달.
OpenAI는 최대 6기가와트의 GPU 공급을 확보하기 위해 AMD에 최대 10% 지분을 투자하는 파트너십을 발표했습니다.¹ AMD는 2025년 10월 클라우드 인프라를 위해 Oracle에 AI 칩을 공급하는 계약을 체결했습니다.² Microsoft Azure는 현재 AMD Instinct MI300X에서 독점 모델과 오픈소스 모델을 모두 프로덕션에서 운영하고 있습니다.³ NVIDIA가 AI GPU 시장의 80%에서 95%를 유지하고 있지만, AMD는 기업들이 추론 워크로드와 비용 최적화를 위해 점점 더 고려하고 있는 신뢰할 수 있는 대안으로 자리잡았습니다.⁴
MI350 시리즈는 2025년 3분기에 NVIDIA의 Blackwell에 도전하는 스펙으로 출시되었습니다: 288기가바이트의 HBM3e 메모리, 초당 8테라바이트 대역폭, 그리고 경쟁 가속기 대비 2.2배 AI 성능을 주장합니다.⁵ 엔터프라이즈 인프라 기획자들에게는 AMD의 하드웨어 장점과 개선되고 있는 소프트웨어 스택이 NVIDIA의 기존 생태계에서의 전환을 정당화하는지가 핵심 질문입니다.
MI350 사양 및 포지셔닝
AMD Instinct MI350 시리즈는 1,850억 개의 트랜지스터와 288기가바이트의 HBM3e 메모리를 특징으로 합니다.⁶ 4세대 AMD CDNA 아키텍처를 기반으로 구축된 MI350 시리즈는 AI 추론, 훈련, HPC 워크로드를 위한 MXFP6 및 MXFP4를 포함한 확장된 데이터타입 지원을 제공합니다.⁷ 플래그십 MI355X 플랫폼은 이전 세대 MI300X 대비 최대 4배의 피크 이론적 성능을 제공합니다.⁸
메모리 용량은 AMD의 가장 명확한 하드웨어 장점을 제공합니다. MI355X의 288기가바이트 HBM3e는 141기가바이트의 NVIDIA Hopper H200과 180기가바이트의 Blackwell B200을 초과합니다.⁹ 메모리 대역폭은 H200의 초당 4.8테라바이트와 B200의 초당 7.7테라바이트에 비해 초당 8테라바이트에 달합니다.¹⁰
전력 소비는 MI355X의 경우 1,400와트에 달하며, 이는 Blackwell Ultra의 요구사항과 일치합니다.¹¹ 유사한 전력 프로필은 이 성능 계층에서 공급업체 간 인프라 요구사항이 크게 다르지 않다는 것을 의미합니다.
AMD는 MI355X를 NVIDIA B200 및 GB200 플랫폼과 테스트하여 Llama2-70B 파인튜닝을 위한 훈련 처리량과 Llama 3.1-405B에서의 추론 처리량을 측정했습니다.¹² 벤치마크는 경쟁력 있는 성능을 보여주지만, 실제 결과는 소프트웨어 최적화에 크게 의존합니다.
MI350은 2025년 3분기에 파트너와 하이퍼스케일 데이터센터에 출하되었습니다.¹³ AMD의 연간 가속기 업데이트 주기는 2026년 개발이 확인된 MI400 시리즈와 함께 계속됩니다.¹⁴ Helios AI 참조 설계는 MI400 GPU, EPYC Venice CPU, Pensando Vulcano NIC를 풀랙 아키텍처에 통합합니다.¹⁵
클라우드 제공업체 채택 가속화
IBM Cloud는 2025년 상반기에 AMD Instinct MI300X GPU를 추가할 예정입니다.¹⁶ 이 협력을 통해 IBM의 watsonx AI 플랫폼과 Red Hat Enterprise Linux AI 추론 내에서 AMD 가속기 지원이 가능해집니다.¹⁷ 엔터프라이즈 집중은 프로덕션 AI 워크로드를 위한 NVIDIA 대안을 찾는 고객들을 대상으로 합니다.
Microsoft Azure는 사용자 정의 Copilot 워크로드를 지원하기 위해 스웨덴과 아일랜드 지역에서 MI300X 기반 AI 클러스터를 출시했습니다.¹⁸ Microsoft가 독점 모델을 위해 AMD를 프로덕션에서 실행하는 것은 소프트웨어 성숙도가 엔터프라이즈 요구사항에 도달했음을 보여줍니다.
Oracle Cloud Infrastructure의 Compute Supercluster 인스턴스는 단일 클러스터에서 최대 16,384개의 MI300X GPU를 지원합니다.¹⁹ 이 규모는 수천억 개의 매개변수를 가진 모델의 훈련과 배치를 가능하게 합니다.²⁰ Oracle의 배치는 AMD의 메모리 용량이 장점을 제공하는 헬스케어 및 유전체학 AI 사용 사례에 집중합니다.²¹
Vultr와 Oracle Cloud 승리는 AMD의 가속기 기술의 증가하는 모멘텀을 보여줍니다.²² Lenovo, Dell, SuperMicro가 MI300 기반 제품을 발표했습니다.²³ 벤더 생태계는 이제 엔터프라이즈 규모에서 AMD를 지원합니다.
Cohere는 AMD Instinct MI300X에서 Command 모델을 배치하여 높은 처리량과 데이터 프라이버시로 엔터프라이즈급 LLM 추론을 구동합니다.²⁴ AI 모델 제공업체의 채택은 추론 워크로드에서 AMD의 위치를 검증합니다.
소프트웨어 생태계 성숙
소프트웨어 생태계는 역사적으로 AMD 채택을 제한했습니다. CUDA의 정착은 NVIDIA를 기본 선택으로 만들었습니다. 2025년에 상황이 크게 바뀌었습니다.
PyTorch 3.1은 훈련과 추론을 위한 네이티브 ROCm 지원을 제공합니다.²⁵ DeepSpeed와 Hugging Face Accelerate를 포함한 인기 라이브러리가 AMD 전용 성능 플래그를 추가했습니다.²⁶ 개발자들은 MI300X 환경을 위해 직접 구축하는 것에 점점 더 익숙해지고 있습니다.²⁷
엔터프라이즈 AI 팀들은 성능을 희생하지 않고 비용을 줄이기 위해 추론 워크로드를 AMD로 이전하고 있습니다.²⁸ 추론이 지속적으로 실행되고 장기적 지출을 지배하기 때문에 비용 차이는 훈련보다 추론에서 더 중요합니다.
NVIDIA의 CUDA는 여전히 더 넓은 개발자 채택과 더 성숙한 도구를 제공합니다.²⁹ 프로덕션 환경에서의 실제 성능은 종종 원시 하드웨어 성능보다는 생태계 최적화로 인해 NVIDIA를 선호합니다.³⁰ 조직들은 비용 절약과 AMD 최적화에 필요한 엔지니어링 투자를 비교 검토해야 합니다.
AMD의 Untether AI로부터 AI 하드웨어 및 소프트웨어 엔지니어 인수는 컴파일러, 커널 개발, 칩 설계 능력을 향상시킵니다.³¹ 이 투자는 CUDA의 해자가 좁아지는 추론 시장에서 AMD의 위치를 강화합니다.³²
시장 역학과 점유율
NVIDIA는 2025년 AI GPU 시장의 80%에서 95%를 유지하고 있습니다.³³ Wells Fargo의 데이터는 AI 가속기에서 NVIDIA의 점유율이 80%에서 90% 사이를 유지하고 있음을 보여줍니다.³⁴ NVIDIA는 데이터센터 GPU 공간에서 90% 이상의 점유율을 보유하고 있으며, 대부분의 기초 AI 코드가 CUDA로 구축되어 있습니다.³⁵
AMD의 2025년 3분기 데이터센터 수익은 43억 달러에 달했습니다.³⁶ NVIDIA의 2025년 7월 말까지의 단일 분기 데이터센터 수익은 411억 달러에 달했습니다.³⁷ 수익 격차는 시장 리더 간의 규모 차이를 보여줍니다.
JPR 데이터는 NVIDIA가 독립형 GPU 시장의 94%를 통제하고 AMD가 약 6%를 통제한다고 보여줍니다.³⁸ AMD의 점유율은 여전히 먼 2위이지만, 시장이 충분히 빠르게 확장되어 두 공급업체 모두 성장하고 있습니다.
데이터센터 AI GPU에서 AMD의 시장 점유율은 2023년 1분기 이후 꾸준히 증가했습니다.³⁹ 2025년 1분기에 NVIDIA의 대규모 Blackwell 램프가 시작되었고, AMD의 답변이 2025년 3분기에야 도착하면서 AMD의 점유율이 일시적으로 하락했습니다.⁴⁰ 각 공급업체가 새로운 세대를 출시함에 따라 경쟁 주기는 계속될 것입니다.
AMD의 전략적 기회
AMD는 NVIDIA의 CUDA 해자가 더 좁은 추론 시장에서 틈새 시장을 개척했습니다.⁴¹ 추론은 결국 훈련보다 커질 것이며, AMD를 시장의 장기적 성장 궤도에 위치시킵니다.⁴²
AMD의 접근법은 모든 세그먼트에서 NVIDIA와 맞추려고 시도하기보다는 전략적으로 선택된 기회에 집중합니다.⁴³ 이 전략은 NVIDIA의 장점이 가장 강한 곳에서의 직접적인 경쟁을 피하면서 빠르게 확장하는 시장에서 AMD의 몫을 늘립니다.⁴⁴
OpenAI 파트너십은 주요 검증을 나타냅니다. 최대 6기가와트의 AMD GPU를 위한 OpenAI의 잠재적 2,000억 달러 약속은 AMD의 로드맵에 대한 신뢰를 신호합니다.⁴⁵ 이 거래는 AMD에게 엔터프라이즈 인식에 영향을 미치는 주요 고객을 제공합니다.
AMD의 공격적인 가격 전략은 NVIDIA를 하회하지만, 가격만으로는 AMD가 시장 점유율 증가에서 NVIDIA의 성과를 따라잡을 수 없었습니다.⁴⁶ 경쟁력 있는 하드웨어, 개선되는 소프트웨어, 유리한 가격의 조합이 비용에 민감한 기업과의 기회를 만듭니다.
엔터프라이즈 배치 고려사항
AMD를 평가하는 조직은 워크로드 믹스를 고려해야 합니다. 특히 광범위한 CUDA 의존성을 가진 훈련 워크로드는 여전히 NVIDIA를 선호합니다. 추론 워크로드는 더 낮은 전환 비용으로 AMD 채택을 위한 더 많은 기회를 제공합니다.
메모리 용량 장점은 대형 모델에 중요합니다. MI350의 288기가바이트는 여러 NVIDIA GPU가 필요한 모델의 단일 GPU 처리를 가능하게 합니다. 메모리 장점은 가장 큰 모델을 실행하는 조직의 인프라 복잡성을 줄입니다.
소프트웨어 투자 요구사항을 과소평가해서는 안 됩니다. ROCm이 크게 개선되었지만, CUDA에 익숙한 팀은 AMD 최적화를 위해 시간과 자원이 필요할 것입니다. 학습 곡선은 새로운 배치의 프로덕션 출시 시간에 영향을 미칩니다.
다중 공급업체 전략은 위험 완화를 제공합니다. NVIDIA와 AMD 모두를 자격화하는 조직은 더 나은 가격 협상, 공급 제약 회피, 각 워크로드 유형에 최적의 하드웨어 선택이 가능합니다. 두 플랫폼 지원에 대한 투자는 대규모 배치에서 보상을 받습니다.
클라우드 기반 AMD 액세스는 채택 장벽을 줄입니다. IBM, Microsoft, Oracle 및 기타 제공업체는 하드웨어 조달 없이 테스트를 가능하게 하는 AMD 인스턴스를 제공합니다. 조직은 인프라 구매를 약속하기 전에 워크로드에서 AMD 성능을 검증할 수 있습니다.
빠른 의사결정 프레임워크
AMD vs NVIDIA 선택:
| 워크로드가 다음과 같다면... | 고려사항 | 근거 |
|---|---|---|
| CUDA 의존성이 있는 훈련 | NVIDIA | 생태계 성숙도, 도구 |
| 대규모 추론 | AMD MI350 | 비용 절약, 메모리 장점 |
| 메모리 바운드 대형 모델 | AMD MI350/355X | 288GB vs 180GB (B200) |
| 다중 공급업체 위험 완화 | 둘 다 | 공급 다각화 |
| 클라우드 기반 평가 | AMD (IBM, Azure, Oracle) | 조달 없이 테스트 |
사양 비교:
| 사양 | AMD MI355X | NVIDIA B200 | NVIDIA H200 |
|---|---|---|---|
| HBM 메모리 | 288 GB | 180 GB | 141 GB |
| 메모리 대역폭 | 8 TB/s | 7.7 TB/s | 4.8 TB/s |
| TDP | 1,400W | 1,000W | 700W |
| 아키텍처 | CDNA 4 | Blackwell | Hopper |
| 시장 점유율 | ~6% | ~80-95% | ~80-95% |
핵심 요점
인프라 아키텍트를 위해: - AMD MI350은 288GB HBM3e를 제공 - B200의 180GB보다 60% 더 많음 - ROCm 소프트웨어 스택이 2025년에 크게 성숙 - PyTorch 3.1이 네이티브 지원 제공 - 추론 워크로드가 NVIDIA로부터 가장 낮은 전환 비용 제공 - 클라우드 제공업체(IBM, Azure, Oracle)가 하드웨어 조달 없이 테스트 가능
조달 팀을 위해: - OpenAI의 10% AMD 지분이 장기적 공급 신뢰도 신호 - AMD 가격이 NVIDIA를 하회하지만 동등한 시장 점유율 증가로 전환되지 않음 - 다중 공급업체 전략이 더 나은 협상 레버리지와 공급 복원력 가능 - 메모리 용량 장점이 더 큰 모델의 단일 GPU 처리 가능
전략 기획을 위해: - NVIDIA가 80-95% 시장 점유율 유지 - AMD는 신뢰할 수 있는 대안이지 대체재가 아님 - 추론 시장이 결국 훈련을 초과할 것 - AMD의 대상 세그먼트 - AMD 최적화를 위한 소프트웨어 투자 필요 - TCO 분석에 반영 - MI400 시리즈가 2026년 확인 - 로드맵 가시성이 기획 개선
AMD는 예측 가능한 미래에 NVIDIA에 대해 먼 2위를 유지할 것입니다.⁴⁷ 그러나 크고 성장하는 AI 시장은 소수 점유율도 상당한 수익을 나타내며 AMD를 실행 가능한 엔터프라이즈 옵션으로 설정한다는 것을 의미합니다. AMD 전문성을 개발하는 조직은 시장이 발전함에 따라 비용 최적화와 공급 다각화를 위해 자신을 위치시킵니다.
참고문헌
-
Tech Research Online. "NVIDIA vs AMD (2025): GPUs, AI & Market Share." 2025. https://techresearchonline.com/blog/nvidia-vs-amd-the-gpu-battle-for-ai-dominance/
-
36Kr. "AMD's Aggressive Pricing Stabs Intel but Fails to Outperform NVIDIA." 2025. https://eu.36kr.com/en/p/3541331537719433
-
AMD Newsroom. "AMD Unveils Vision for an Open AI Ecosystem." June 2025. https://www.amd.com/en/newsroom/press-releases/2025-6-12-amd-unveils-vision-for-an-open-ai-ecosystem-detai.html
-
Tech Research Online. "NVIDIA vs AMD (2025)."
-
AMD. "AMD Instinct MI350 Series GPUs." 2025. https://www.amd.com/en/products/accelerators/instinct/mi350.html
-
Kontronn. "AMD Instinct MI350 Officially Announced: 185 Billion Transistors and 288GB HBM
