AMD MI350 GPU-concurrentie: uitdaging van NVIDIA in zakelijke AI-infrastructuur
AMD MI350 levert 288GB HBM3e, 8TB/s bandbreedte. OpenAI neemt 10% belang voor 6GW aan GPU's. Hoe AMD het 80-95% AI-marktaandeel van NVIDIA in ondernemingen uitdaagt.
Blog
Inzichten over GPU-infrastructuur, AI en datacenters.
Datacenters Toekomstbestendig Maken: Voorbereiden op 2MW+ AI-Racks en Kwantumintegratie
GB200 NVL72 met 120kW/rack wordt nu geleverd—het 2,4MW-cijfer was ambitieus voor toekomstige configuraties. Vera Rubin NVL144 richt zich op 600kW per rack tegen 2026. Vloeistofkoeling (direct-to-chip ...
RAG-infrastructuur: Productie Retrieval-Augmented Generation Systemen Bouwen
RAG-adoptie versnelt als enterprise LLM use case #1. GraphRAG en agentic RAG-architecturen winnen terrein voor complexe redeneringen. Vector database markt consolideert rond Pinecone, Weaviate,...
Performance Monitoring Stack voor AI: Prometheus, Grafana en Aangepaste GPU-Metrics
NVIDIA DCGM-exporter is nu standaard voor Prometheus GPU-metrics. Grafana voegt AI-specifieke dashboard-templates toe. OpenTelemetry GPU-metrics specificatie wordt volwassener. VictoriaMetrics en Mimi...
Container Registry voor AI: Beheer van 10TB+ Model Images en Dependencies
LLM containergroottes overschrijden nu routinematig 100GB met 70B+ modellen. Harbor, GHCR en ECR voegen AI-specifieke functies toe. GGUF- en safetensors-formaten verminderen redundante opslag. OCI-art...
SMR Kernenergie voor AI-Datacenters: Haalbaarheid en Implementatietijdlijn
Microsoft's deal van $1,6 miljard om Three Mile Island te heropenen voor AI luidt de nucleaire renaissance in. SMR's beloven 462MW tegen $0,04/kWh tegen 2029. Volledige gids.
Levenscyclusbeheer van GPU-assets: Van Inkoop tot Ontmanteling
H100-prijzen gestabiliseerd op $25-40K (gedaald van $40K+ piek). H200 beschikbaar voor $30-40K met superieur geheugen. Blackwell GPU's (GB200) worden geleverd maar zijn beperkt door allocatie. GPU-afs...
Multi-modale AI-infrastructuur: Implementatiegids voor Vision-Language Modellen
Open-source VLM's (Qwen2.5-VL-72B, InternVL3-78B) presteren nu binnen 5-10% van propriëtaire OpenAI/Google-modellen. Google Gemini is vanaf de basis opgebouwd als multimodaal (tekst, code, audio, afbe...
DPU's en SmartNIC's: de derde pijler van datacentercomputing
DPU SmartNIC-markt bereikt $1,11 miljard in 2024, verwacht $4,44 miljard in 2034 (15% CAGR). 50% van de cloudproviders gebruikt nu DPU's; 35% van AI-training wordt naar DPU's uitbesteed. BlueField-3 l...
TensorRT-LLM Optimalisatie: NVIDIA's Inference Stack Beheersen
TensorRT-LLM behaalt 10.000+ output tokens/sec op H100 met FP8, sub-100ms TTFT. Productie-implementaties rapporteren 4x doorvoer vs native PyTorch. Kernel fusion combineert LayerNorm, matmuls,...
EU AI Act Compliance-infrastructuur: Systemen Bouwen die Voldoen aan Europese AI-regelgeving
GPAI-verplichtingen worden gehandhaafd sinds 2 augustus 2025. AI Office is operationeel en geeft richtlijnen uit. Praktijkcode gepubliceerd in juli 2025 biedt compliancepaden. Vereisten voor AI-system...