الخلاصة في نقاط
- الضبط الدقيق يخصص نموذجًا عامًا لمهمة أو أسلوب أو مجال معين.
- جرّب أولًا الأوامر الجيدة ثم RAG، وانتقل إلى الضبط الدقيق عند الحاجة فقط.
- تقنيات مثل LoRA تجعله أرخص بتدريب جزء صغير من المعاملات.
الضبط الدقيق (Fine-tuning) هو أخذ نموذج دُرّب مسبقًا على بيانات عامة ضخمة، ثم تدريبه تدريبًا إضافيًا على بيانات أصغر ومتخصصة ليتقن مهمة أو أسلوبًا أو مجالًا بعينه، كتصنيف شكاوى العملاء في قطاع الاتصالات أو الكتابة بنبرة علامة تجارية محددة.
متى تحتاج إلى الضبط الدقيق؟
| الحاجة | الحل الأنسب أولًا |
|---|---|
| تحسين جودة الإجابات العامة | برومبت أفضل وأمثلة داخل الأمر |
| إجابات من مستندات المؤسسة الحديثة | RAG |
| أسلوب ثابت أو تنسيق دقيق يتكرر آلاف المرات | الضبط الدقيق |
| مهمة متخصصة جدًا بمصطلحات خاصة | الضبط الدقيق، وأحيانًا مع RAG |
| تقليل التكلفة بنموذج أصغر يؤدي مهمة محددة | الضبط الدقيق لنموذج صغير |
أنواع الضبط الدقيق
- الضبط الكامل: تحديث كل معاملات النموذج، وهو مكلف.
- الضبط الفعّال للمعاملات (PEFT): مثل تقنية LoRA التي قدمها باحثو Microsoft عام 2021، وتدرّب عددًا صغيرًا من المعاملات الإضافية فتقلل التكلفة كثيرًا.
- الضبط بالتعليمات: التدريب على أزواج من التعليمات والإجابات ليتبع النموذج الأوامر، وهو جزء أساسي من بناء المساعدات مثل ChatGPT.
أسئلة شائعة
ما الفرق بين الضبط الدقيق والتدريب المسبق؟
التدريب المسبق يبني النموذج من الصفر على بيانات عامة هائلة، والضبط الدقيق يعدّله لاحقًا ببيانات أقل وأكثر تخصصًا.
هل الضبط الدقيق يضيف معلومات جديدة إلى النموذج؟
يمكنه ذلك جزئيًا، لكنه ليس الطريقة المثلى لإضافة الحقائق المتغيرة؛ فتقنية RAG أنسب لذلك.
كم مثالًا أحتاج للضبط الدقيق؟
يعتمد على المهمة والنموذج؛ فبعض المهام تتحسن بمئات الأمثلة عالية الجودة، والجودة أهم من الكمية.
المراجع
- Hu, E. et al. (2021). LoRA: Low-Rank Adaptation of Large Language Models. arxiv.org/abs/2106.09685.
- IBM. What is fine-tuning? ibm.com.