TL;DR
DeepSeek의 V4 모델이 2026년 2월 중순 출시되며, 총 1조 개의 매개변수, 100만 토큰 컨텍스트 창, 그리고 AI 경제학을 재정의할 수 있는 세 가지 아키텍처 혁신—Manifold-Constrained Hyper-Connections (mHC), Engram 조건부 메모리, Sparse Attention—을 갖추고 있습니다. 내부 벤치마크에서는 서구 경쟁사보다 10-40배 낮은 추론 비용으로 80% 이상의 SWE-bench 성능을 주장합니다. 이 모델은 듀얼 RTX 4090에서 실행되며, Apache 2.0 라이선스로 가중치를 오픈소스화했으며, 원래 DeepSeek 충격 이후 서구 AI 지배력에 대한 중국의 가장 신뢰할 만한 도전을 나타냅니다.
560만 달러.
이것이 DeepSeek이 V3 훈련에 지출한 것으로 알려진 비용으로—대부분의 벤치마크에서 GPT-4o와 Claude 3.5 Sonnet과 맞먹는 모델입니다. OpenAI는 GPT-4 훈련에 1억 달러 이상을 지출한 것으로 알려져 있습니다. 이 격차는 AI 경제학을 재편하는 근본적인 질문을 드러냅니다: 최첨단 성능에는 수십억 달러의 컴퓨팅이 필요한가, 아니면 아키텍처 혁신이 더 저렴한 길을 제공하는가?
DeepSeek의 답은 2월 중순 V4와 함께 도착하는데, 이는 훈련 효율성에서 분석가들이 "놀라운 돌파구"라고 부르는 것을 제공할 수 있는 세 가지 아키텍처 혁신을 통합한 1조 매개변수 모델입니다. 이 모델은 단순한 코드 조각 생성이 아닌 자율 코딩을 목표로 하며, 백만 토큰 컨텍스트 창에서 인간 수준의 추론으로 전체 소프트웨어 저장소를 관리합니다.
GPU 인프라를 배포하는 데이터 센터 운영자들에게는 벤치마크 점수를 넘어선 의미가 있습니다. DeepSeek의 효율성 우선 접근법이 성공적으로 확장된다면, AI 배포의 경제학—그리고 이를 지원하는 데 필요한 하드웨어—은 상당한 변화에 직면합니다.
세 가지 아키텍처 혁신
DeepSeek V4는 2025년 말과 2026년 초 연구 논문에서 발표된 세 가지 획기적인 기술을 결합합니다: Manifold-Constrained Hyper-Connections, Engram 조건부 메모리, 그리고 DeepSeek Sparse Attention.
Manifold-Constrained Hyper-Connections (mHC)
DeepSeek의 2025년 12월 31일 논문은 대형 언어 모델 확장의 근본적인 문제를 해결하는 프레임워크인 mHC를 소개했습니다. 전통적인 hyper-connection은 잔차 스트림 폭을 확장하고 연결 패턴을 개선할 수 있지만, 동시에 잔차 네트워크를 훈련 가능하게 만드는 항등 매핑 원칙을 훼손하여 대규모 훈련 실행을 중단시키는 수치적 불안정성을 초래합니다.
mHC 해결책은 Sinkhorn-Knopp 알고리즘을 사용하여 연결 행렬을 수학적 매니폴드에 투영하고, 제약이 없는 방법의 3000배와 비교하여 신호 증폭을 1.6배로 제어합니다.
| 벤치마크 | 기준선 | HC (제약 없음) | mHC | 개선 |
|---|---|---|---|---|
| BBH | 43.8 | 48.9 | 51.0 | +7.2점 |
| DROP | 62.1 | 65.4 | 67.8 | +5.7점 |
| GSM8K | 71.2 | 74.8 | 77.3 | +6.1점 |
| MMLU | 68.4 | 71.2 | 73.6 | +5.2점 |
실용적인 결과: 4배 더 넓은 잔차 스트림은 훈련 시간 오버헤드를 6.7%만 추가합니다. 창립자 Liang Wenfeng이 공동 저자로 참여한 mHC는 GPU 메모리 제약을 우회하여 "적극적인 매개변수 확장"을 가능하게 하며, 그렇지 않으면 용량을 제한했을 하드웨어에서 더 큰 모델을 훈련할 수 있게 합니다.
IBM의 수석 연구 과학자 Kaoutar El Maghraoui는 DeepSeek의 mHC 아키텍처가 모델 사전훈련을 혁신할 수 있다고 강조했습니다: "단순히 더 크게 만드는 것이 아니라 AI를 더 지능적으로 확장하는 것입니다."
Engram 조건부 메모리
2026년 1월 13일 발표된 Engram은 정적 패턴 저장을 동적 추론에서 분리하여 일정 시간 지식 검색을 달성하는 조건부 메모리 모듈을 도입합니다. 이 기술은 고전적인 N-gram 임베딩을 현대화하여 신경 백본과 함께 O(1) 조회를 수행합니다.
Engram은 DeepSeek이 "조용한 LLM 낭비"라고 부르는 문제를 해결합니다—활성 추론이 필요하지 않은 정적 조회로 손실되는 GPU 사이클. 시스템은 다중 헤드 해싱을 사용하여 압축된 컨텍스트를 결정론적 함수를 통해 임베딩 테이블에 매핑하여, 조밀한 테이블의 메모리 폭발을 피하면서 충돌을 완화합니다.
Context-Aware Gating은 "조건부" 측면을 제공합니다. 검색된 임베딩은 잔차 스트림에 맹목적으로 추가되지 않으며, 현재 숨겨진 상태에 의해 게이팅됩니다. 검색된 메모리가 전역 컨텍스트와 충돌하면, 게이트가 노이즈를 억제합니다.
DeepSeek의 핵심 발견: 최적 분할은 계산 75-80%, 메모리 20-25%입니다. 순수 MoE (100% 계산)는 차선책임이 증명되었습니다.
| 지표 | Engram 없음 | Engram 있음 | 변화 |
|---|---|---|---|
| 복잡한 추론 | 70% | 74% | +4점 |
| 지식 검색 | 57% | 61% | +4점 |
| Needle-in-Haystack | 84.2% | 97.0% | +12.8점 |
| 훈련 시간 영향 | 기준선 | +6.7% | 최소한 |
연구자들은 1000억 매개변수 임베딩 테이블을 시스템 DRAM으로 오프로딩하여 3% 미만의 처리량 손실을 시연했습니다. 추론 인프라의 경우, 이는 하드웨어 계산을 변화시키며—높은 대역폭 시스템 메모리가 원시 GPU FLOPS만큼 가치 있게 됩니다.
DeepSeek Sparse Attention (DSA)
세 번째 혁신인 DeepSeek Sparse Attention은 표준 Transformer 대비 계산 오버헤드를 50% 줄이면서 백만 토큰 컨텍스트 창을 가능하게 합니다.
시스템은 컨텍스트 창에서 특정 발췌문을 우선순위화하는 "라이트닝 인덱서"를 사용한 다음, 해당 발췌문에서 모델의 제한된 어텐션 창에 로드할 특정 토큰을 선택하는 "세밀한 토큰 선택 시스템"을 사용합니다. 이를 통해 비교적 작은 서버 부하로 긴 컨텍스트 부분에서 작업할 수 있습니다.
전통적인 트랜스포머 어텐션은 시퀀스 길이에 따라 제곱으로 확장됩니다—컨텍스트 길이를 두 배로 늘리면 계산이 네 배가 됩니다. DeepSeek의 스파스 어텐션은 이를 대략 선형 확장으로 줄여, 백만 토큰 컨텍스트에 대해 "이론적으로 가능"과 "경제적으로 실행 가능" 사이의 차이를 만듭니다.
V4 모델 사양
DeepSeek V4는 총 1조 매개변수를 활용하면서 주어진 토큰에 대해 약 320억 개를 활성화하는 스파스 아키텍처의 기술적 경이를 나타냅니다.
| 사양 | DeepSeek V4 | GPT-5.2 | Claude Opus 4.5 |
|---|---|---|---|
| 총 매개변수 | 1조 | ~2조 (추정) | 비공개 |
| 활성 매개변수 | 320억 | 전체 모델 | 비공개 |
| 컨텍스트 창 | 100만 토큰 | 25.6만 토큰 | 20만 토큰 |
| 아키텍처 | MoE + mHC + Engram | Dense Transformer | Dense Transformer |
| 훈련 비용 | ~1000만 달러 (추정) | ~5억 달러 (추정) | 비공개 |
| API 입력 비용 | $0.27/100만 토큰 | $15/100만 토큰 | $15/100만 토큰 |
이 "Top-16" 라우팅된 MoE 전략을 통해 V4는 일반적으로 1조 매개변수 모델과 관련된 치명적인 지연시간이나 하드웨어 요구 사항 없이 타이탄급 시스템의 전문 지식을 유지할 수 있습니다. 실용적인 영향: 100만 토큰을 초과하는 컨텍스트에서 효율적인 검색.
코딩 작업의 경우, 이는 V4가 중간 규모의 전체 코드베이스를 수집하고, 수십 개 파일 간의 가져오기-내보내기 관계를 이해하며, 자율적인 리팩터링을 수행할 수 있음을 의미합니다. 초기 테스터들은 모델이 컴포넌트 간의 관계를 이해하고, 의존성을 추적하며, 대규모 리팩터링 작업에서 일관성을 유지하는 진정한 다중 파일 추론을 보고합니다.
SWE-Bench: 결정적인 벤치마크
SWE-bench Verified는 실제 GitHub 이슈를 해결하는 모델의 능력을 측정하며, 실제 저장소 컨텍스트에서 코드 이해, 디버깅 및 구현을 요구합니다. Claude Opus 4.5가 현재 80.9%로 선두를 달리고 있습니다.
DeepSeek의 내부 테스트에서는 V4가 SWE-bench Verified에서 80%를 초과하여 Claude 3.5 Sonnet과 GPT-4o를 능가하며, 특히 매우 긴 코드 프롬프트에서 우수한 성능을 보인다고 합니다. 이러한 주장은 독립적인 테스트로 검증되지 않았습니다.
| 모델 | SWE-bench Verified | 컨텍스트 창 | API 비용 (입력) |
|---|---|---|---|
| Claude Opus 4.5 | 80.9% | 20만 토큰 | $15/100만 토큰 |
| GPT-5.2 | 78.2% | 25.6만 토큰 | $15/100만 토큰 |
| DeepSeek V4 (주장) | 80%+ | 100만 토큰 | $0.27/100만 토큰 |
| DeepSeek V3.2 | 72.4% | 25.6만 토큰 | $0.14/100만 토큰 |
V4가 주장된 성능을 주장된 비용으로 제공한다면, 가치 제안은 명확해집니다: 10-40배 낮은 추론 비용으로 비슷한 코딩 능력.
소비자 하드웨어 배포
인프라 트렌드와는 다르게, DeepSeek V4는 소비자 하드웨어에서 실행됩니다:
- 소비자 계층: 듀얼 RTX 4090 또는 단일 RTX 5090
- 전문가 계층: 단일 워크스테이션급 GPU (RTX 6000 Ada)
- 엔터프라이즈 계층: 표준 데이터 센터 구성
MLA 압축을 통해 단일 RTX 4090 (24GB GDDR6X)에서 추론이 가능합니다. 공유 KV 캐시로 4개의 요청을 배치 처리하여, 요청당 유효 메모리 풋프린트가 5GB 미만으로 떨어지며, 배치 크기 4로 약 초당 550 토큰 처리량을 달성합니다.
| 하드웨어 구성 | 모델 용량 | 토큰/초 | 필요 메모리 |
|---|---|---|---|
| 단일 RTX 4090 (24GB) | V4 32B 디스틸드 | 30-35 | 24GB VRAM + 64GB RAM |
| 듀얼 RTX 4090 (48GB) | V4 70B 디스틸드 | 25-30 | 48GB VRAM + 128GB RAM |
| RTX 5090 (32GB) | V4 70B 양자화 | 40-50 | 32GB VRAM + 64GB RAM |
| 4x RTX 4090 (96GB) | V4 전체 가중치 | 15-20 | 96GB VRAM + 256GB RAM |
비교를 위해, GPT-4급 모델을 로컬에서 실행하려면 일반적으로 5만 달러 이상의 특수 인프라가 필요했습니다. V4의 효율성 혁신은 잠재적으로 1조 매개변수 능력에 대한 액세스를 민주화합니다.
예상되는 32GB GDDR7을 탑재한 RTX 5090은 격차를 더욱 좁힙니다. 전체 모델에 대해서는 여전히 오프로딩이 필요하지만, 더 빠른 메모리 대역폭과 Blackwell 아키텍처는 단일 소비자 카드에서 거의 실시간 추론을 가능하게 할 것입니다.
오픈 소스 전략
DeepSeek은 Apache 2.0 라이선스로 V4 가중치를 오픈소스화하여 최첨단 능력을 공개적으로 출시하는 전략을 계속하고 있습니다. 이는 GPT-5, Claude Opus, Gemini가 비공개 소스로 남아있는 서구 경쟁사들과 뚜렷한 대조를 이룹니다.
| 모델 | 가중치 제공 | 라이선스 | 자체 호스팅 |
|---|---|---|---|
| DeepSeek V4 | 예 | Apache 2.0 | 완전 지원 |
| GPT-5.2 | 아니오 | 독점 | API만 |
| Claude Opus 4.5 | 아니오 | 독점 | API만 |
| Gemini Ultra | 아니오 | 독점 | API만 |
| Llama 4 | 예 | 사용자 라이선스 | 제한된 상업적 사용 |
오픈 가중치는 배포 경제학을 변화시킵니다:
- 온프레미스 배포: 에어갭 환경, 데이터 주권 준수
- 양자화: 소비자 하드웨어에서 정밀도가 낮은 버전 실행
- 미세 조정: 특정 기업 요구에 맞는 사용자 정의 모델
- 비용 최적화: 대용량 애플리케이션에 대한 토큰당 요금 회피
엄격한 데이터 거버넌스를 가진 조직은 V4를 완전히 자체 인프라 내에서 실행할 수 있습니다. 금융, 의료, 방위 산업의 경우, 이는 독점 코드를 외부 API로 보내는 것에 대한 우려를 제거합니다.
API 가격 파괴
DeepSeek의 가격은 이미 경쟁사들을 크게 앞지르고 있습니다. 현재 V3 가격: 입력 토큰 100만 개당 $0.27 대 GPT-4.5와 Claude Opus의 약 $15/100만.
| 제공업체 | 모델 | 입력 (100만당) | 출력 (100만당) | 컨텍스트 |
|---|---|---|---|---|
| DeepSeek | V4 | $0.27 | $1.10 | 100만 토큰 |
| DeepSeek | V3.2 | $0.14 | $0.55 | 25.6만 토큰 |
| OpenAI | GPT-5.2 | $15.00 | $60.00 | 25.6만 토큰 |
| Anthropic | Opus 4.5 | $15.00 | $75.00 | 20만 토큰 |
| Gemini Pro | $3.50 | $10.50 | 12.8만 토큰 |
실용적인 예: 10만 토큰 컨텍스트는 GPT-4에서 $5.50 대 DeepSeek V3.2-Exp에서 $0.90입니다. V4의 입력 토큰 100만 개당 $0.27인 백만 토큰 컨텍스트는 이전에 불가능했던 사용 사례를 경제적으로 실행 가능하게 만듭니다.
한 비용 분석에서는 추출을 위한 DeepSeek과 감사를 위한 Claude를 사용하는 하이브리드 접근법이 순수 GPT-5 대비 API 지출을 72% 줄이면서 사실 정확도를 12% 향상시켰다고 보여줍니다.
훈련 인프라 현실 확인
효율성 주장에도 불구하고, DeepSeek의 훈련 인프라는 여전히 상당합니다. 회사는 R1을 5만 개의 Hopper 시리즈 GPU—3만 개의 HGX H20 유닛, 1만 개의 H800, 1만 개의 H100—에서 훈련했다고 알려져 있으며, 이는 투자자 High-Flyer Capital Management를 통해 공급되었습니다.
중국 당국은 DeepSeek에 R2 훈련을 위해 Huawei Ascend 하드웨어를 사용하도록 촉구했습니다. 이 움직임은 불안정한 성능, 느린 칩 간 연결성, Huawei의 CANN 소프트웨어 툴킷의 한계에 부딪혔습니다. Huawei가 현장에 엔지니어를 배치했음에도 불구하고, DeepSeek은 성공적인 훈련 실행을 완료할 수 없었습니다.
결과: DeepSeek은 R2 훈련을 위해 NVIDIA 가속기로 되돌아가면서 Huawei 하드웨어를 추론에만 사용했습니다. 이는 중국 국내 칩의 현재 한계와 DeepSeek의 실용적 접근법을 모두 드러냅니다—그들은 정치적 압력에 관계없이 작동하는 것을 사용할 것입니다.
Huawei CEO Ren Zhengfei는 "미국이 Huawei의 성취를 과장했다"고 인정했으며, 그들의 최고 칩은 여전히 한 세대 뒤처져 있다고 했습니다. 그러나 업계 관찰자들은 일부 대형 언어 모델이 2026년 말까지 중국 칩에서 훈련될 것으로 예상하며, 2027년에 이 추세가 더욱 뚜렷해질 것으로 보고 있습니다.
지정학적 함의
DeepSeek의 급속한 부상은 글로벌 AI 경쟁의 주요 변화를 시사합니다. 회사의 R1 출시는 2025년 1월 27일 1조 달러의 기술주 매도를 촉발했으며, 이 중 NVIDIA에서만 6000억 달러였습니다.
Trump 대통령은 이를 미국 기업들에 대한 "경고"라고 불렀습니다. OpenAI와 Anthropic에 대대적으로 투자한 Alphabet, Microsoft, Amazon과 같은 클라우드 제공업체들은 이제 가격 위기에 직면하고 있습니다.
지역별 채택 패턴이 뚜렷하게 갈라졌습니다:
| 지역 | 채택 수준 | 주요 동인 |
|---|---|---|
| 중국 | 89% 시장점유율 | 비용, 성능, 현지 개발 |
| 글로벌 사우스 | 높음/증가 | 오픈 소스, 낮은 컴퓨팅 요구사항 |
| 서구 기업 | 낮음/보통 | 비용 절감, 온프레미스 배포 |
| 서구 정부 | 금지 | 보안 우려, 데이터 주권 |
2025년 8월 이후, 중국 AI 모델의 누적 오픈소스 다운로드가 서구 경쟁사를 넘어섰으며, 이는 글로벌 AI 사용 패턴의 중대한 변화를 나타냅니다. 중국에서 DeepSeek은 AI 사용자 중 거의 89%의 시장점유율을 보유하고 있다고 합니다.
서구 정부 채택은 최소 수준입니다. 호주와 동맹국들은 데이터 보안 우려로 호주 기업의 최대 70%가 액세스를 적극적으로 차단하면서 공식 기기에서 DeepSeek을 금지했습니다.
경쟁 대응
서구 경쟁사들은 DeepSeek 압력에 대응하여 가격과 제품을 조정했습니다:
- Google: 2024년과 2025년 전반에 걸쳐 Gemini API 비용 절감
- OpenAI: 요금을 낮추고 효율성 경쟁을 위해 2026년 1월 o3-mini를 출시
- Anthropic: 가격은 유지하되 규제 산업을 위한 검증 가능한 안전 스택을 강조
숨겨진 비용 고려사항이 있습니다: 검증 오버헤드. 저렴한 모델 사용은 종종 출력을 검증하기 위해 비싼 모델에 토큰을 소비하는 것을 요구합니다. 감사에 따르면 "저렴한 모델 + 고급 감사자" 설정은 중간 복잡도 작업에 대해 GPT-5만 사용하는 것보다 15% 더 비쌀 수 있습니다.
규제 산업의 기업들에게는 Claude의 검증 가능한 안전 스택이 프리미엄 가격을 정당화하는 감사 추적을 제공합니다. EU AI 법의 집행으로 컴플라이언스 문서화가 원시 성능만큼 가치 있게 되었습니다.
인프라 함의
DeepSeek의 효율성 혁신이 현재의 GPU 수요를 무효화하지는 않습니다. 하이퍼스케일러 CapEx는 지속적으로 증가하여 2026년에 6000억 달러 이상 예상됩니다. 그러나 지출의 구성—무엇이 구축되고 어떻게 사용되는지—은 변화할 수 있습니다.
Engram의 컨텍스트 처리 접근법은 원시 컴퓨팅보다 메모리 계층을 강조합니다. 미래의 훈련 인프라는 최대 FLOPS보다 고대역폭 메모리와 효율적인 캐싱을 우선시할 수 있습니다.
데이터 센터 운영자들에게는 몇 가지 트렌드가 나타납니다:
- 메모리 대역폭이 중요해짐: Engram의 DRAM 오프로딩 기술이 워크로드를 GPU 메모리에서 시스템 RAM으로 이동
- 추론 인프라 다양화: 소비자급 배포로 엣지 및 온프레미스 설치 가능
- 훈련은 여전히 중앙 집중화: 효율성 개선에도 불구하고 최첨단 모델 훈련은 여전히 대규모 GPU 클러스터 필요
- 하이브리드 아키텍처 인기 상승: DeepSeek 추출 + 서구 모델 검증으로 컴플라이언스 유지하면서 비용 절감
주요 시사점
AI 인프라 팀을 위해:
- DeepSeek V4의 소비자 하드웨어 배포(듀얼 RTX 4090)가 온프레미스 AI 경제학을 변화
- Engram의 메모리 아키텍처가 하드웨어 우선순위를 고대역폭 DRAM 쪽으로 이동
- 오픈 가중치로 API 의존성 없이 미세 조정 및 배포 가능
기업 의사결정자를 위해:
- 10-40배 비용 절감으로 이전에 경제적으로 불가능했던 AI 애플리케이션 실행 가능
- 보안 우려로 중국 모델 사용에 대한 명확한 정책 필요
- 하이브리드 배포(DeepSeek 추출 + 서구 검증)로 비용-성능 균형 제공
데이터 센터 운영자를 위해:
- 백만 토큰 컨텍스트가 워크로드 프로필과 메모리 요구사항 변화
- 소비자 GPU 배포로 더 작고 분산된 추론 인프라에 대한 수요 창출
- 효율성 개선이 수요를 제거하지 않음—경제적으로 가능한 것을 확장
Introl 소개
Introl은 AI 데이터 센터를 위한 전문 GPU 인프라 배포를 제공합니다. 257개 글로벌 위치에 550명의 HPC 전문 현장 엔지니어를 보유한 Introl은 하이퍼스케일 훈련 클러스터부터 엣지 추론 인프라까지 모든 것을 지원하며 10만 개 이상의 GPU를 배포했습니다. 조직이 DeepSeek, 독점 모델 또는 하이브리드 아키텍처를 배포하든 관계없이, Introl의 전문성은 신뢰할 수 있고 고성능의 AI 인프라를 보장합니다.
