بنية الضبط الدقيق: LoRA وQLoRA وPEFT على نطاق واسع

تم التحديث في 11 ديسمبر 2025

تحديث ديسمبر 2025: الضبط الدقيق الكامل لنموذج 7B يتطلب 100-120GB من ذاكرة VRAM (حوالي 50 ألف دولار لوحدات H100). QLoRA يتيح نفس الضبط الدقيق على RTX 4090 بسعر 1,500 دولار. طرق PEFT تقلل استهلاك الذاكرة 10-20 مرة مع الحفاظ على 90-95% من الجودة. محولات LoRA لا تضيف أي تأخير في الاستدلال من خلال دمجها مع الأوزان الأساسية. QLoRA يجمع بين التكميم 4-bit وLoRA لتحقيق أقصى كفاءة في استخدام الذاكرة.

الضبط الدقيق الكامل لنموذج بـ 7 مليارات معامل يتطلب 100-120GB من ذاكرة VRAM—أي ما يقارب 50,000 دولار من وحدات H100 لعملية تدريب واحدة.¹ نفس النموذج يمكن ضبطه دقيقاً على RTX 4090 بسعر 1,500 دولار باستخدام QLoRA، ويكتمل في ساعات بدلاً من أيام وبجزء صغير من التكلفة. طرق الضبط الدقيق الفعالة للمعاملات (PEFT) حولت الذكاء الاصطناعي المؤسسي من قدرة حصرية لمقدمي الخدمات السحابية الكبرى إلى بنية تحتية متاحة تناسب محطة عمل واحدة.

تواجه المؤسسات الآن تحدياً مختلفاً: الاختيار من بين عشرات طرق PEFT، وتكوين البنية التحتية لعمليات الضبط الدقيق على نطاق الإنتاج، وبناء خطوط أنابيب تحول النماذج المخصصة إلى خدمات منشورة. فهم متطلبات البنية التحتية والمقايضات في التكلفة والأنماط التشغيلية لكل نهج يمكّن المؤسسات من بناء قدرات ضبط دقيق تتناسب مع احتياجاتها المحددة.

مشهد PEFT

يعمل الضبط الدقيق الفعال للمعاملات من خلال تجميد معظم معاملات النموذج المدرب مسبقاً أثناء تدريب مكونات إضافية صغيرة. هذا النهج يقلل متطلبات الذاكرة بمقدار 10-20 مرة مقارنة بالضبط الدقيق الكامل مع الحفاظ على 90-95% من الجودة.²

LoRA (التكيف منخفض الرتبة)

يضيف LoRA مصفوفات منخفضة الرتبة قابلة للتدريب إلى جانب أوزان النموذج المجمدة. أثناء الاستدلال، تندمج مصفوفات المحول مع الأوزان الأساسية، دون إضافة أي تأخير مقارنة بالنموذج الأصلي.

آلية العمل: لمصفوفة أوزان مدربة مسبقاً W، يضيف LoRA المصفوفة BA حيث B وA مصفوفتان صغيرتان برتبة r (عادة 8-64). بدلاً من تحديث ملايين المعاملات في W، يتم تحديث الآلاف فقط في A وB.

توفير الذاكرة: نموذج 7B يتطلب 14GB للأوزان يحتاج تقريباً 28GB إجمالياً للضبط الدقيق بـ LoRA (الأوزان + التدرجات + حالات المحسن للمحولات فقط)، مقابل أكثر من 100GB للضبط الدقيق الكامل.³

الجودة: يستعيد LoRA نسبة 90-95% من جودة الضبط الدقيق الكامل في معظم المهام. تضيق الفجوة مع قيم الرتبة الأعلى على حساب المزيد من المعاملات القابلة للتدريب.

QLoRA (LoRA المُكمَّم)

يجمع QLoRA بين LoRA والتكميم القوي للنموذج الأساسي، مما يتيح ضبط نماذج لا يمكن احتواؤها في الذاكرة بخلاف ذلك:⁴

التكميم 4-bit: تُضغط أوزان النموذج الأساسي إلى تنسيق NormalFloat 4-bit (NF4)، مما يقلل الذاكرة بنسبة 75% مقارنة بـ 16-bit.

التكميم المزدوج: ثوابت التكميم نفسها تُكمَّم، مما يوفر ذاكرة إضافية.

المحسنات المُصفحة: حالات المحسن تُصفَّح إلى ذاكرة CPU أثناء ذروات استهلاك الذاكرة، مما يمنع أخطاء نفاد الذاكرة.

التأثير على الذاكرة: يتيح QLoRA ضبط نماذج 70B دقيقاً على أجهزة تعاني مع نماذج 7B باستخدام الضبط الدقيق الكامل. وحدة A100 80GB واحدة تتعامل مع نماذج تتطلب عادة 4-8 وحدات GPU.

مقايضة الجودة: يحقق QLoRA نسبة 80-90% من جودة الضبط الدقيق الكامل. ضوضاء التكميم الإضافية تؤثر على بعض المهام أكثر من غيرها؛ التقييم على المهام المستهدفة يحدد القبول.

طرق PEFT الأخرى

المحولات: وحدات عصبية صغيرة تُدرج بين طبقات المحولات. معاملات أكثر من LoRA لكن أحياناً أداء أفضل في مهام محددة.

الضبط بالبادئة: تُلحق "رموز افتراضية" قابلة للتدريب بالمدخلات. يعمل جيداً لمهام التوليد لكنه أقل مرونة من LoRA.

IA3 (المحول المُدمج عبر تثبيط وتضخيم التنشيطات الداخلية): تكيف ضربي مع معاملات أقل من LoRA. خيار ناشئ للبيئات شديدة القيود.

متطلبات GPU حسب حجم النموذج

نماذج 7B (Llama 3.1-8B، Mistral 7B)

الضبط الدقيق الكامل: - الحد الأدنى: 2x A100 40GB أو 1x A100 80GB - الموصى به: 1x H100 80GB - متطلبات الذاكرة: 100-120GB إجمالي

الضبط الدقيق بـ LoRA: - الحد الأدنى: RTX 4090 24GB - الموصى به: L40S 48GB أو A100 40GB - متطلبات الذاكرة: 24-32GB

الضبط الدقيق بـ QLoRA: - الحد الأدنى: RTX 3090 24GB أو RTX 4080 16GB - الموصى به: RTX 4090 24GB - متطلبات الذاكرة: 12-20GB⁵

نماذج 13B-35B (متغيرات Llama 3.1-70B، Code Llama 34B)

الضبط الدقيق بـ LoRA: - الحد الأدنى: A100 80GB - الموصى به: H100 80GB - خيار متعدد GPU: 2x RTX 4090 مع التوازي النموذجي

الضبط الدقيق بـ QLoRA: - الحد الأدنى: RTX 4090 24GB (ضيق، أحجام دفعات صغيرة) - الموصى به: A100 40GB أو L40S 48GB - متطلبات الذاكرة: 20-40GB

نماذج 70B+ (Llama 3.1-70B، DeepSeek 67B)

الضبط الدقيق بـ LoRA: - الحد الأدنى: 2x A100 80GB أو 2x H100 80GB - الموصى به: 4x H100 80GB - البديل: 2x RTX PRO 6000 Blackwell (96GB لكل منهما)⁶

الضبط الدقيق بـ QLoRA: - الحد الأدنى: A100 80GB (مقيد جداً) - الموصى به: 2x A100 80GB أو 1x H200 141GB - متطلبات الذاكرة: 60-100GB

نماذج 140B+

الضبط الدقيق بـ QLoRA: - الحد الأدنى: 2x H100 80GB مع NVLink - الموصى به: 4x H100 80GB أو 4x RTX PRO 6000 Blackwell - البديل: مجموعة 5x H200 141GB⁷

هندسة البنية التحتية

التطوير على GPU واحدة

معظم المؤسسات تبدأ استكشاف الضبط الدقيق على وحدات GPU فردية:

from transformers import AutoModelForCausalLM, BitsAndBytesConfig
from peft import LoraConfig, get_peft_model

# تكوين QLoRA
bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_compute_dtype=torch.bfloat16,
    bnb_4bit_use_double_quant=True,
)

# تحميل النموذج الأساسي المُكمَّم
model = AutoModelForCausalLM.from_pretrained(
    "meta-llama/Llama-3.1-8B",
    quantization_config=bnb_config,
    device_map="auto",
)

# تكوين محول LoRA
lora_config = LoraConfig(
    r=16,                    # الرتبة
    lora_alpha=32,           # عامل التحجيم
    target_modules=["q_proj", "k_proj", "v_proj", "o_proj"],
    lora_dropout=0.05,
    bias="none",
    task_type="CAUSAL_LM",
)

model = get_peft_model(model, lora_config)

التطوير على GPU واحدة مناسب لـ: - التجارب الأولية والبحث عن المعاملات الفائقة - مجموعات البيانات الصغيرة (< 100 ألف مثال) - المشاريع محدودة الميزانية - دورات التكرار السريع

التوسع متعدد GPU

الضبط الدقيق الإنتاجي يتطلب عادة وحدات GPU متعددة لأوقات تدريب معقولة:

التوازي في البيانات: استنساخ النموذج عبر وحدات GPU، كل منها تعالج دفعات بيانات مختلفة. يعمل عندما يناسب النموذج ذاكرة GPU واحدة.

# DeepSpeed ZeRO المرحلة 2 للتوازي الفعال في البيانات
accelerate launch --config_file ds_config.yaml train.py

التوازي النموذجي: تقسيم طبقات النموذج عبر وحدات GPU. مطلوب عندما يتجاوز النموذج ذاكرة GPU واحدة.

FSDP (التوازي المجزأ الكامل للبيانات): تدريب موزع أصلي في PyTorch يجزئ النموذج والتدرجات وحالات المحسن عبر وحدات GPU. يوازن بين كفاءة الذاكرة والحمل الاتصالي.

from accelerate import Accelerator

accelerator = Accelerator(
    mixed_precision="bf16",
    gradient_accumulation_steps=4,
)

السحابة مقابل البنية المحلية

مزايا السحابة: - لا استثمار رأسمالي - توسع فوري لأحمال العمل المتقطعة - الوصول لأحدث الأجهزة - بنية تحتية مُدارة (الشبكات، التخزين)

تكاليف السحابة (2025): - H100 80GB: 2.50-4.00 دولار/ساعة - A100 80GB: 1.50-2.50 دولار/ساعة - RTX 4090: 0.40-0.80 دولار/ساعة

مزايا البنية المحلية: - تكلفة أقل عند الاستخدام العالي (>60% شهرياً) - السيادة على البيانات والتحكم الأمني - لا تكاليف خروج سحابية لمجموعات البيانات الكبيرة - سعة يمكن التنبؤ بها

تحليل نقطة التعادل: الضبط الدقيق السحابي عادة يكلف أقل حتى تشغل المؤسسات >40 ساعة/أسبوع باستمرار. بعد هذا الحد، البنية التحتية المملوكة توفر اقتصاديات أفضل.

خطوط أنابيب الضبط الدقيق الإنتاجية

إعداد البيانات

جودة بيانات التدريب أهم من الكمية للضبط الدقيق:

تنظيم مجموعة البيانات: - تصفية الأمثلة عالية الجودة ذات الصلة بالمهمة المستهدفة - إزالة التكرارات والتكرارات القريبة - موازنة توزيعات الفئات إن أمكن - التحقق من اتساق تنسيق البيانات

خط أنابيب المعالجة المسبقة:

from datasets import load_dataset

dataset = load_dataset("json", data_files="training_data.jsonl")

def preprocess(example):
    # التنسيق للضبط الدقيق بالتعليمات
    return {
        "text": f"### Instruction:\n{example['instruction']}\n\n"
                f"### Response:\n{example['output']}"
    }

dataset = dataset.map(preprocess)

تحديد حجم مجموعة البيانات: - الحد الأدنى القابل للتطبيق: 1,000-5,000 مثال عالي الجودة - خط الأساس الإنتاجي: 10,000-50,000 مثال - التقاط خبرة المجال: 50,000-500,000 مثال

تنسيق التدريب

أنظمة الإنتاج تتطلب تنسيقاً يتجاوز التنفيذ اليدوي للسكربتات:

Axolotl: ضبط دقيق مبسط بتكوين YAML. ممتاز للتجريب السريع وسير العمل الموحد.⁸

# axolotl_config.yaml
base_model: meta-llama/Llama-3.1-8B
model_type: LlamaForCausalLM
load_in_4bit: true
adapter: qlora
lora_r: 16
lora_alpha: 32
datasets:
  - path: ./training_data.jsonl
    type: sharegpt
sequence_len: 4096
micro_batch_size: 2
gradient_accumulation_steps: 4

LLaMA-Factory: مجموعة أدوات شاملة تدعم عائلات نماذج متعددة وطرق تدريب. مجتمع قوي وتوثيق جيد.

Hugging Face PEFT + Transformers: أقصى تحكم ومرونة للمتطلبات المخصصة. جاهز للإنتاج للمؤسسات ذات القدرات الهندسية في التعلم الآلي.

تتبع التجارب

تتبع التجارب بشكل منهجي لتمكين إعادة الإنتاج والتحسين:

Weights & Biases:

import wandb

wandb.init(project="llm-fine-tuning", config={
    "model": "Llama-3.1-8B",
    "method": "qlora",
    "rank": 16,
    "learning_rate": 2e-4,
})

MLflow: بديل مفتوح المصدر مع قدرات سجل النماذج.

تتبع: - المعاملات الفائقة (الرتبة، ألفا، معدل التعلم، حجم الدفعة) - مقاييس التدريب (منحنيات الخسارة، معايير التدرج) - مقاييس التقييم على مجموعات الاختبار المحجوزة - استخدام الموارد (ذاكرة GPU، وقت التدريب)

إدارة المحولات

LoRA ينتج ملفات نقاط تفتيش صغيرة (~10-100MB) تتراكم مع النماذج الأساسية:

تخزين المحولات: - التحكم بإصدارات المحولات في Git أو مخازن القطع الأثرية - ربطها بتكوين التدريب ونتائج التقييم - تمكين التبديل السريع بين النماذج المتخصصة

خدمة المحولات:

from peft import PeftModel

# تحميل النموذج الأساسي مرة واحدة
base_model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-3.1-8B")

# تبديل المحولات ديناميكياً
model = PeftModel.from_pretrained(base_model, "adapters/customer-support-v2")
# لاحقاً...
model.load_adapter("adapters/code-generation-v1")

دمج المحولات: للاستدلال الإنتاجي، دمج أوزان المحول في النموذج الأساسي للتخلص من حمل المحول:

merged_model = model.merge_and_unload()
merged_model.save_pretrained("./merged_model")

استراتيجيات تحسين التكلفة

تحديد الحجم المناسب للأجهزة

مطابقة GPU للمتطلبات الفعلية:

تحسين حجم الدفعة

أحجام الدفعات الأكبر تحسن كفاءة التدريب لكن تتطلب ذاكرة أكثر:

# تراكم التدرج يحاكي دفعات أكبر
training_args = TrainingArguments(
    per_device_train_batch_size=2,      # يناسب الذاكرة
    gradient_accumulation_steps=8,       # الدفعة الفعالة: 16
    ...
)

التدريب بالدقة المختلطة

تدريب BF16 يقلل الذاكرة 50% مقارنة بـ FP32 مع تأثير ضئيل على الجودة:

training_args = TrainingArguments(
    bf16=True,          # استخدام BF16 على Ampere+
    tf32=True,          # تمكين TF32 لعمليات الضرب المصفوفي
    ...
)

النُسخ الموضعية/القابلة للإيقاف

النُسخ السحابية الموضعية تقدم خصومات 60-80% لأحمال العمل القابلة للمقاطعة. تنفيذ نقاط التفتيش للتسامح مع الأخطاء:

training_args = TrainingArguments(
    save_strategy="steps",
    save_steps=100,
    save_total_limit=3,
    resume_from_checkpoint=True,
    ...
)

النشر المؤسسي

[المحتوى مختصر للترجمة]