تحسين خدمة النماذج: التكميم والتقليم والتقطير للاستدلال
تم التحديث في 8 ديسمبر 2025
تحديث ديسمبر 2025: أصبح استدلال FP8 معيارًا إنتاجيًا على H100/H200، مع تمكين INT4 (AWQ، GPTQ، GGUF) لنماذج 70B على وحدات معالجة الرسومات الاستهلاكية. يحقق فك التشفير التخميني إنتاجية أعلى بمقدار 2-3 أضعاف للتوليد الانحداري التلقائي. يحقق vLLM وTensorRT-LLM كفاءة استدلال أعلى بـ 5 أضعاف من خلال التجميع المستمر. يُمكّن نظام Llama.cpp البيئي الاستدلال على وحدة المعالجة المركزية للنماذج الأصغر. تغير نماذج مزيج الخبراء (Mixtral، DBRX) اقتصاديات التقطير—يحقق 8x7B جودة قريبة من 70B بجزء من الحوسبة.
يكلف طلب استدلال GPT-3 واحد 0.06 دولار بالدقة الكاملة لكنه ينخفض إلى 0.015 دولار بعد التحسين، وهو انخفاض بنسبة 75% يحول اقتصاديات الذكاء الاصطناعي على نطاق واسع. تقنيات تحسين خدمة النماذج بما في ذلك التكميم والتقليم والتقطير تقلل متطلبات البنية التحتية بنسبة تصل إلى 90% مع الحفاظ على دقة مقبولة. تحدد هذه التقنيات ما إذا كانت تطبيقات الذكاء الاصطناعي تحقق الربحية أو تستنزف الموارد من خلال تكاليف حوسبة غير مستدامة. يفحص هذا الدليل استراتيجيات التنفيذ العملية التي تنشرها فرق الإنتاج لخدمة مليارات طلبات الاستدلال اليومية اقتصاديًا.
أساسيات التكميم والتنفيذ
يقلل التكميم الدقة العددية من 32-bit للأعداد العشرية إلى 8-bit للأعداد الصحيحة، مما يقلص حجم النموذج بنسبة 75% ويسرع الاستدلال بمقدار 2-4 أضعاف. تربط العملية قيم الأعداد العشرية المستمرة بتمثيلات أعداد صحيحة منفصلة، مقايضة فقدان دقة ضئيل مقابل مكاسب أداء كبيرة. تؤتمت الأطر الحديثة سير عمل التكميم، لكن فهم الآليات الأساسية يمكّن من التكوين الأمثل لحالات استخدام محددة.
يحول التكميم بعد التدريب (PTQ) النماذج المدربة دون إعادة تدريب، مكتملاً في دقائق بدلاً من أيام. تجمع العملية إحصائيات التنشيط باستخدام بيانات معايرة تمثيلية، محددة عوامل القياس المثلى لتكميم الأوزان والتنشيطات. يحقق TensorRT من NVIDIA تكميم INT8 مع تدهور دقة أقل من 1% لـ ResNet-50، مع تقليل زمن الاستجابة بنسبة 71%. يتطلب Edge TPU من Google تكميم INT8، مما يجعل PTQ ضروريًا لسيناريوهات النشر على الحافة.
يحاكي التدريب الواعي بالتكميم (QAT) التكميم أثناء التدريب، مما يسمح للشبكات بالتكيف مع الدقة المنخفضة. تُدرج عقد التكميم الوهمية أثناء التمريرات الأمامية لنمذجة تأثيرات التكميم مع الحفاظ على تدرجات الأعداد العشرية للانتشار العكسي. يستعيد هذا النهج الدقة المفقودة أثناء PTQ، محققًا أداءً قريبًا من الأعداد العشرية مع استدلال الأعداد الصحيحة. يحافظ تنفيذ QAT من Meta لنماذج التوصية على 99.5% من دقة FP32 مع تمكين تحسين الإنتاجية بـ 3.5 أضعاف على خوادم استدلال الإنتاج.
يكمّم التكميم الديناميكي الأوزان بشكل ثابت لكنه يحسب مقاييس التنشيط ديناميكيًا لكل دفعة، موازنًا الأداء والدقة. يقلل التكميم الديناميكي في PyTorch حجم نموذج BERT بنسبة 75% مع تحسين السرعة بمقدار الضعف وفقدان دقة ضئيل. تتفوق هذه التقنية للنماذج ذات توزيعات الإدخال المتغيرة حيث تثبت المعايرة الثابتة عدم كفايتها. تنفذ مكتبة Optimum من Hugging Face التكميم الديناميكي لنماذج المحولات، محققة تقليل زمن الاستجابة بنسبة 40% لمهام الإجابة على الأسئلة.
تطبق استراتيجيات الدقة المختلطة مستويات تكميم مختلفة على الطبقات بناءً على تحليل الحساسية. تحافظ الطبقات الحرجة على دقة FP16 بينما تستخدم الطبقات المتسامحة INT8 أو حتى INT4. ينفذ Neural Engine من Apple تكميمًا لكل قناة بأوزان 4-bit وتنشيطات 8-bit، محققًا تقليل الحجم بنسبة 85% للنماذج على الجهاز. تحدد أدوات تحليل الحساسية الطبقات التي يسبب فيها التكميم العدواني تدهور الدقة، موجهة تخصيص الدقة للمقايضات المثلى بين الأداء والدقة.
استراتيجيات التقليم لضغط النماذج
يزيل التقليم المهيكل قنوات أو مرشحات أو رؤوس انتباه كاملة، مُنشئًا نماذج أصغر كثيفة متوافقة مع الأجهزة القياسية. يحدد النهج الهياكل الأقل أهمية من خلال معايير الحجم أو التدرج أو الرتبة الثانية، مزيلاً إياها مع الحفاظ على اتصال النموذج. يحقق ASP (الندرة التلقائية) من NVIDIA ندرة مهيكلة 2:4، حيث يكون اثنان من كل أربعة أوزان صفرًا، مما يمكّن إنتاجية مضاعفة على وحدات معالجة الرسومات A100 بدون نواة متخصصة.
يلغي تقليم الحجم الأوزان تحت قيم العتبة، مُنشئًا مصفوفات متناثرة تتطلب محركات تنفيذ متخصصة. يزيد التقليم التكراري الندرة تدريجيًا أثناء التدريب، مما يسمح للشبكات بالتكيف مع إزالة الاتصالات. يُظهر بحث Google ندرة 90% لـ BERT مع فقدان دقة ضئيل، مقللاً حجم النموذج من 420MB إلى 42MB. ومع ذلك، يتطلب ضرب المصفوفات المتناثرة مكتبات متخصصة مثل cuSPARSE، مما يحد من مرونة النشر.
تُرشد فرضية تذكرة اليانصيب التقليم من خلال تحديد الشبكات الفرعية المتناثرة التي تتدرب إلى الدقة الكاملة من التهيئة العشوائية. تحافظ هذه "التذاكر الرابحة" على أداء النموذج الأصلي عند 10-20% من الحجم الأصلي. يكشف بحث MIT أن التذاكر الرابحة تنتقل عبر مجموعات البيانات، مما يمكّن البنى المقلّمة مسبقًا لمجالات محددة. يتطلب النهج تكرارات تدريب متعددة لكنه ينتج شبكات متناثرة متفوقة مقارنة بالتقليم بعد التدريب.
يستهدف تقليم القنوات الشبكات العصبية التلافيفية، مزيلاً مرشحات كاملة بناءً على درجات الأهمية. يقرّب توسع تايلور تأثير الدقة لإزالة القناة، موجهًا قرارات التقليم. يحافظ MobileNetV3 المقلّم بنسبة 30% على دقة ImageNet مع تقليل زمن الاستجابة بنسبة 25% على الأجهزة المحمولة. تنفذ أدوات التقليم الآلية مثل Neural Network Intelligence (NNI) تقليم القنوات مع البحث عن البنية، إيجاد التكوينات المثلى بدون تدخل يدوي.
يستهدف تقليم رؤوس الانتباه بنيات المحولات تحديدًا، مزيلاً رؤوس الانتباه الذاتي الزائدة. يكشف التحليل أن العديد من الرؤوس تتعلم أنماطًا متشابهة، مما يمكّن إزالتها بدون فقدان الوظائف. يقلّم DynaBeRT من Microsoft 75% من رؤوس الانتباه في BERT-base مع الحفاظ على 97% من الدقة الأصلية. تتحد التقنية مع إسقاط الطبقات، مُنشئة نماذج تكيفية تضبط التعقيد بناءً على صعوبة الإدخال.
تقنيات تقطير المعرفة
ينقل تقطير المعرفة المعرفة من نماذج المعلم الكبيرة إلى نماذج الطالب المدمجة، محققًا تقليل الحجم بمقدار 10-100 ضعف. يتعلم الطلاب محاكاة سلوك المعلم بدلاً من مطابقة تسميات الحقيقة الأساسية فقط، ملتقطين حدود القرار الدقيقة. يشغّل تقطير OpenAI لـ GPT-3 إلى نماذج أصغر الطبقة المجانية لـ ChatGPT، مقللاً تكاليف الخدمة بنسبة 85% مع الحفاظ على جودة المحادثة.
يُلين قياس درجة الحرارة في التقطير توزيعات الاحتمالات، كاشفًا المعرفة الخفية في تنبؤات المعلم. تكشف درجات الحرارة الأعلى العلاقات بين الفئات التي تحجبها التسميات أحادية القيمة. يحقق DistilBERT من Google 97% من أداء BERT بمعلمات أقل بـ 40% واستدلال أسرع بـ 60%. تعكس بنية الطالب عادةً هيكل المعلم بمقياس مخفض، على الرغم من أن التقطير غير المتجانس يمكّن نقل المعرفة عبر البنى.
يطابق تقطير الميزات التمثيلات الوسيطة بما يتجاوز التنبؤات النهائية، ناقلاً الميزات المتعلمة مباشرة. يتعلم الطلاب إعادة إنتاج تنشيطات المعلم في طبقات متعددة، ملتقطين المعرفة الهرمية. يقطّر DeiT (محولات الصور الفعالة في البيانات) من Facebook محولات الرؤية من CNNs، محققًا دقة ImageNet بتكرارات تدريب أقل بـ 5 أضعاف. يثبت التقطير متعدد الطبقات فعاليته بشكل خاص للشبكات العميقة حيث توفر المخرجات النهائية إشارة تعلم غير كافية.
يدرّب التقطير عبر الإنترنت الطالب والمعلم في وقت واحد، مما يلغي مراحل تدريب المعلم المنفصلة. يُنشئ التعلم التعاوني بين طلاب متعددين معلمين مجموعات ضمنية بدون نماذج كبيرة صريحة. يقلل التقطير عبر الإنترنت من Baidu للتعرف على الكلام وقت التدريب بنسبة 40% مع تحسين دقة الطالب بـ 2%. يناسب النهج السيناريوهات التي لا توجد فيها نماذج معلم أو متطلبات التعلم المستمر تمنع المعلمين الثابتين.
ينقل التقطير التدريجي المعرفة تدريجيًا من خلال نماذج وسيطة، جسرًا للفجوات الكبيرة بين المعلم والطالب. تُنشئ سلاسل التقطير المتسلسلة نقاط انطلاق من معلمين بـ 175B معلمة إلى طلاب بـ 1B معلمة. يستخدم تدريب الذكاء الاصطناعي الدستوري من Anthropic التقطير التدريجي للحفاظ على خصائص المحاذاة مع تقليل حجم النموذج 50 ضعفًا. تركز كل خطوة تقطير على قدرات محددة، محافظة على السلوكيات الحرجة مع تبسيط الأخرى.
التحسينات الخاصة بالأجهزة
يجمع تحسين TensorRT لوحدات معالجة الرسومات NVIDIA بين دمج الطبقات والضبط التلقائي للنواة ومعايرة الدقة. يدمج المترجم العمليات المتسلسلة في نواة واحدة، مقللاً حركة الذاكرة وعبء إطلاق النواة. تندمج تسلسلات التلافيف-ReLU-التجميع في عمليات متجانسة، محسنة الإنتاجية بـ 30%. يختار التحسين الموجه بالملف التعريفي النواة المثلى لأشكال إدخال محددة، محققًا تسريعًا بـ 5 أضعاف لاستدلال BERT على وحدات معالجة الرسومات T4.
يستهدف Intel OpenVINO معالجات x86 مع التوجيه والتحسين للذاكرة المؤقتة للاستدلال بدون وحدات معالجة الرسومات. تنفذ مجموعة الأدوات تكميم INT8 مع تعليمات VNNI على معالجات Ice Lake، محققة تحسين الإنتاجية بـ 4 أضعاف. يزيل تحسين الرسم البياني العمليات الزائدة ويطوي الثوابت، مقللاً الحساب بـ 20%. تنشر Amazon OpenVINO لاستدلال وحدة المعالجة المركزية محققة 0.002 دولار لكل ألف استدلال، أرخص بـ 90% من خدمة وحدة معالجة الرسومات للنماذج الصغيرة.
يُحسّن Apple Core ML لـ Neural Engine وMetal Performance Shaders عبر أجهزة iOS. ينفذ الإطار مسارات 16-bit للأعداد العشرية و8-bit للأعداد الصحيحة المحسّنة لـ Apple Silicon. يكيّف التجميع على الجهاز النماذج لقدرات أجهزة محددة، مختارًا استراتيجيات الدقة والتنفيذ المثلى. يحقق iPhone 15 Pro 35 TOPS مما يمكّن استدلال Stable Diffusion في الوقت الفعلي من خلال تحسين Core ML.
يتطلب تجميع Edge TPU قيود بنيوية محددة ونهج تكميم. يجب أن تستخدم النماذج TensorFlow Lite مع تكميم INT8 والعمليات المدعومة. يقسم المترجم النماذج بين Edge TPU ووحدة المعالجة المركزية بناءً على توافق العمليات. يحقق Edge TPU من Google 4 TOPS عند استهلاك طاقة 2W، مما يمكّن تحليل الفيديو في الوقت الفعلي على الأجهزة المدمجة. يشغّل Coral Dev Board نموذج MobileNet عند 400 FPS مستهلكًا 2.5W فقط من إجمالي طاقة النظام.
يستفيد تحسين AMD ROCm من مكتبات MIOpen ودمج الرسم البياني لمسرعات سلسلة MI. ينفذ الإطار نواة FlashAttention مقللاً متطلبات عرض نطاق الذاكرة بـ 50% لنماذج المحولات. تمكّن مكتبة النواة القابلة للتركيب أنماط دمج مخصصة خاصة ببنى AMD. يحقق نشر Stability AI على MI250X 80% من أداء NVIDIA A100 بتكلفة 60% من خلال تحسين ROCm.
تكامل خط أنابيب التحسين
تجمع خطوط أنابيب التحسين الشاملة تقنيات متعددة للحصول على أقصى ضغط وتسريع. ينسق إطار DeepSpeed Compression من Microsoft التقليم والتكميم والتقطير في سير عمل موحدة. يحقق النظام ضغط نموذج 10 أضعاف مع تقليل زمن الاستجابة 3 أضعاف لنماذج GPT. يحدد البحث التلقائي للمعلمات الفائقة تكوينات الضغط المثلى الموازنة لأهداف متعددة.
تقيّم أطر اختبار A/B تأثير التحسين على مقاييس الأعمال بما يتجاوز الدقة. يتتبع Netflix مقاييس التفاعل عند نشر نماذج التوصية المحسّنة، مضمنًا أن الضغط لا يقلل رضا المستخدم. تختبر استراتيجيات الطرح التدريجي النماذج المحسّنة على شرائح مستخدمين صغيرة قبل النشر الكامل. تقارن لوحات معلومات المقاييس النماذج المحسّنة والأساسية عبر أبعاد زمن الاستجابة والتكلفة والجودة. تُرجع منصة Michelangelo من Uber تلقائيًا التحسينات التي تُدهور مؤشرات الأداء الرئيسية للأعمال بما يتجاوز العتبات.
يكيّف التحسين المستمر النماذج للمتطلبات المتغيرة وقدرات الأجهزة. تدمج خطوط أنابيب إعادة التدريب الآلية تقنيات التحسين الجديدة عند ظهورها. يطبق ONNX Runtime من Facebook تلقائيًا تحسينات جديدة
[تم اقتطاع المحتوى للترجمة]
