Thông tin chuyên sâu về hạ tầng GPU, AI và trung tâm dữ liệu.
NIM mang lại thông lượng cao hơn 2,6 lần so với triển khai H100 tiêu chuẩn (1.201 so với 613 token/giây trên Llama 3.1 8B). Cloudera báo cáo tăng hiệu suất 36 lần. NIM 1.4 (tháng 12/2024) đạt tốc độ n...
B300 mang đến 15 PFLOPS FP4, 288GB HBM3e (stack 12 tầng), băng thông 8TB/s, TDP 1.400W. Rack GB300 NVL72 đạt 1,1 EXAFLOPS—quy mô exascale trong một node duy nhất. DGX B200 mang lại hiệu suất huấn luyệ...
Microsoft ra mắt các phiên bản đám mây trang bị CXL đầu tiên vào tháng 11/2025. Đặc tả CXL 4.0 tăng gấp đôi băng thông lên 128GT/s. Thị trường CXL dự kiến đạt 15 tỷ USD vào năm 2028 (hơn 12 tỷ USD DRA...
DeepSeek R1 được huấn luyện với 5,6 triệu USD trên 2.000 GPU H800 so với 80-100 triệu USD trên 16.000 H100 cho các mô hình phương Tây tương đương. Các mô hình mã nguồn mở Trung Quốc tăng từ 1,2% lên g...
TPU v6e mang lại hiệu suất giá tốt hơn 4 lần so với H100 cho các khối lượng công việc cụ thể. Anthropic ký thỏa thuận TPU lớn nhất trong lịch sử Google—hàng trăm nghìn chip Trillium mở rộng lên 1 triệ...
GPUDirect Storage 2.0 được tích hợp cùng CUDA 12.3+, mang lại cải thiện thông lượng 15% và hỗ trợ nguyên bản cho GPU H100/H200. Ổ NVMe PCIe Gen5 hiện đạt 14GB/s mỗi ổ, cho phép đạt 400GB/s+...
AI PC đạt 31% thị phần PC (77,8 triệu thiết bị) vào năm 2025, dự kiến đạt 94% vào năm 2028. Qualcomm Snapdragon X2 mang lại hiệu năng NPU 80 TOPS, gần gấp đôi thế hệ trước. Windows 10...
Suy luận FP8 hiện đã trở thành tiêu chuẩn sản xuất trên H100/H200, với INT4 (AWQ, GPTQ, GGUF) cho phép chạy các mô hình 70B trên GPU tiêu dùng. Giải mã suy đoán mang lại thông lượng tăng 2-3 lần cho v...
CEO Microsoft: "Tôi không muốn bị mắc kẹt với 4-5 năm khấu hao trên một thế hệ." Các hyperscaler đã kéo dài thời gian sử dụng hữu ích của máy chủ từ 3-4 năm lên 6 năm—tiết kiệm tổng cộng khoảng 18 tỷ ...
Đức cam kết 5,5 tỷ euro để đạt 10% sản lượng kinh tế từ AI vào năm 2030. Google công bố khoản đầu tư 5,5 tỷ euro vào trung tâm dữ liệu tại Đức. Deutsche Telekom/NVIDIA ra mắt Industrial AI Cloud với 1...
Kỷ nguyên GPU 1200W đã đến. Hệ thống GB200 (1200W mỗi Superchip) được giao hàng xuyên suốt năm 2025, với GB300 Blackwell Ultra (1400W) hiện đang trong giai đoạn sản xuất. Nền tảng Vera Rubin của NVIDI...
Hãy cho chúng tôi biết về dự án của bạn và chúng tôi sẽ phản hồi trong vòng 72 giờ.
Cảm ơn bạn đã gửi yêu cầu. Đội ngũ của chúng tôi sẽ xem xét và phản hồi trong vòng 72 giờ.