xAIのメンフィス・コロッサス：10万GPU スーパーコンピュータの解剖
xAIは10万GPUのコロッサスクラスターを122日で構築し、さらに92日で20万GPUに倍増。250MWの電力、Spectrum-X Ethernet採用。世界最大のAIスーパーコンピュータの内部に迫る。
ブログ
GPU インフラストラクチャ、AI、データセンターに関する知見。
AmazonのTrainium3がAIチップ戦争に挑戦状を叩きつける
Trainium3がTSMC 3nmプロセスで出荷開始。チップあたりFP8で2.52 PFLOPS、144GB HBM3e搭載。フルUltraServer（144チップ）で362 PFLOPSを実現。Anthropic、Decart、Amazon Bedrockが本番ワークロードを稼働中。顧客はGPU代替と比較して50%のコスト削減を報告...
CoreWeave徹底解説：元暗号マイニング企業はいかにしてAIに不可欠なクラウドとなったか
OpenAIはAWSではなくCoreWeaveを選び、224億ドルのインフラ契約を締結した。元暗号マイニング企業がいかにしてフロンティアAI開発を支えるGPUクラウドへと変貌を遂げたのかを解説する。
AI向け800Gネットワーキング：次世代GPUファブリックの計画
2025年、AIクラスタのスイッチ出荷において800Gが主流に。NVIDIAのネットワーキング収益は73億ドルへと倍増。400Gから800G、そしてその先への移行計画。
動画生成AIインフラストラクチャ：Soraスケールモデルの構築
単一の10秒動画生成が、数千のChatGPTクエリに相当するGPUリソースを消費—実際の計算コストは$0.50〜$2.00。Open-Sora 2.0がMeta Movie...の6,144 GPUに対し$200Kでワールドクラスの性能を実証。
ゼロダウンタイム・データセンター移行：GPUクラスター完全プレイブック
液冷GPUの移行により複雑性が増加—冷却液の排出、マニホールドの切断、新サイトでのリークテストが必要。チェックポイントベースのトレーニング復旧は、弾力的トレーニングフレームワーク（DeepSpeed、FSDP）により改善中...
AIワークロードのカーボンアカウンティング：GPU排出量の測定と報告
NVIDIAがH100のPCF（製品カーボンフットプリント）を8カードベースボードあたり1,312 kg CO2e（1カードあたり164 kg）と公表。コーネル大学の研究では、2030年までにAIによる年間CO2排出量が2,400万〜4,400万メトリックトンに達すると予測。Amazonの排出量は2024年に6,825万メトリックトンに増加し、2021年以来初の上昇を記録。AIサーバーは2028年...
CXL 4.0インフラ計画ガイド：AIスケールのためのメモリプーリング
バンドルポート、マルチラックメモリプーリング、KVキャッシュオフロード、ベンダーエコシステム、2026-2027年計画タイムラインを網羅した完全なCXL 4.0導入ガイド。
モデルバージョニング基盤：大規模ML成果物の管理
MLflow 3.0が生成AIとAIエージェント向けにレジストリを拡張—モデルをコードバージョン、プロンプト、評価実行、デプロイメントメタデータと連携。モデルバージョニングは今や重みだけでなく...
連合学習インフラストラクチャ：プライバシーを保護するエンタープライズAI
連合学習市場は2025年に1億ドルに達し、2035年には16億ドル（年平均成長率27%）に拡大すると予測されています。大企業がクロスサイロ連携で市場シェアの63.7%を獲得。研究の実用展開に至ったのはわずか5.2%。KAISTは、合成表現を用いて病院や銀行が個人データを共有せずにAIを学習させる手法を実証しました...
GPUクラスター向けInfiniBand vs Ethernet：800Gネットワークアーキテクチャ選定ガイド
InfiniBandは15%優れた性能を発揮するが、コストはEthernetの2.3倍。Meta、OpenAI、Googleが5,000万ドル規模のネットワークアーキテクチャをどのように選定したかを解説。
GPUクラスタ監視：リアルタイムパフォーマンス分析と予知保全
NVIDIA DCGM 3.3以降でBlackwell GPUサポートと強化されたMIG監視機能を追加。AIOpsプラットフォーム（Datadog、Dynatrace、New Relic）がネイティブGPUメトリクスを統合。Run:ai、Determined AIがML基盤のスケジューリングによるGPU利用最適化を提供...