NVIDIA's FP4 Inference มอบประสิทธิภาพที่เพิ่มขึ้น 50 เท่า
การประมวลผล FP4 ให้ประสิทธิภาพด้านพลังงานที่ดีขึ้น 25-50 เท่า พร้อมกับลดการใช้หน่วยความจำได้ 3.5 เท่า DeepSeek-R1 ทำความเร็วได้ 250+ tokens/วินาที ยุค $0.02/token มาถึงแล้ว
None