المدونة

تحليل التكلفة لكل رمز: تحسين بنية GPU التحتية لاستدلال نماذج اللغة الكبيرة

تنفق OpenAI مبلغ 0.00012 دولار لكل رمز بينما يدفع الآخرون 0.001 دولار. تعرّف على اختيار GPU والتكميم واستراتيجيات النشر التي تخفض تكاليف استدلال نماذج اللغة الكبيرة بنسبة 90%.

محولات إيثرنت للذكاء الاصطناعي: منصات 51.2 تيرابت في الثانية التي تربط مجموعات GPU

أول إدانة في قضية تهريب رقائق الذكاء الاصطناعي: تفكيك شبكة NVIDIA بقيمة 160 مليون دولار

وزارة العدل الأمريكية تفكك شبكة تهريب رقائق NVIDIA بقيمة 160 مليون دولار إلى الصين. أول إدانة في قضية تحويل الذكاء الاصطناعي. معالجات H100/H200 أُعيد تصنيفها باسم 'SANDKYAN'. عملية حارس البوابة مستمرة...

البنية التحتية للتدريب مقابل الاستدلال: تحسين أنماط أحمال العمل المختلفة للذكاء الاصطناعي

استراتيجية السحابة الهجينة للذكاء الاصطناعي: اقتصاديات وحدات معالجة الرسومات المحلية مقابل السحابية وإطار اتخاذ القرار

تصل تكاليف وحدات معالجة الرسومات السحابية إلى 35 ألف دولار شهرياً لـ 8 وحدات H100. البنية التحتية المحلية تسترد تكلفتها خلال 7-12 شهراً. تعرّف على الاقتصاديات التي تقود قرارات البنية التحتية الهجينة ل...