ما هو الضبط الدقيق (Fine-tuning) للنماذج اللغوية؟ ومتى تحتاجه

الضبط الدقيق هو تدريب نموذج جاهز تدريبًا إضافيًا على بيانات متخصصة ليتقن مهمة أو أسلوبًا معينًا. متى تحتاجه، وكيف يختلف عن RAG وكتابة الأوامر.

الخلاصة في نقاط

  • الضبط الدقيق يخصص نموذجًا عامًا لمهمة أو أسلوب أو مجال معين.
  • جرّب أولًا الأوامر الجيدة ثم RAG، وانتقل إلى الضبط الدقيق عند الحاجة فقط.
  • تقنيات مثل LoRA تجعله أرخص بتدريب جزء صغير من المعاملات.

الضبط الدقيق (Fine-tuning) هو أخذ نموذج دُرّب مسبقًا على بيانات عامة ضخمة، ثم تدريبه تدريبًا إضافيًا على بيانات أصغر ومتخصصة ليتقن مهمة أو أسلوبًا أو مجالًا بعينه، كتصنيف شكاوى العملاء في قطاع الاتصالات أو الكتابة بنبرة علامة تجارية محددة.

متى تحتاج إلى الضبط الدقيق؟

الحاجةالحل الأنسب أولًا
تحسين جودة الإجابات العامةبرومبت أفضل وأمثلة داخل الأمر
إجابات من مستندات المؤسسة الحديثةRAG
أسلوب ثابت أو تنسيق دقيق يتكرر آلاف المراتالضبط الدقيق
مهمة متخصصة جدًا بمصطلحات خاصةالضبط الدقيق، وأحيانًا مع RAG
تقليل التكلفة بنموذج أصغر يؤدي مهمة محددةالضبط الدقيق لنموذج صغير

أنواع الضبط الدقيق

  • الضبط الكامل: تحديث كل معاملات النموذج، وهو مكلف.
  • الضبط الفعّال للمعاملات (PEFT): مثل تقنية LoRA التي قدمها باحثو Microsoft عام 2021، وتدرّب عددًا صغيرًا من المعاملات الإضافية فتقلل التكلفة كثيرًا.
  • الضبط بالتعليمات: التدريب على أزواج من التعليمات والإجابات ليتبع النموذج الأوامر، وهو جزء أساسي من بناء المساعدات مثل ChatGPT.

أسئلة شائعة

ما الفرق بين الضبط الدقيق والتدريب المسبق؟

التدريب المسبق يبني النموذج من الصفر على بيانات عامة هائلة، والضبط الدقيق يعدّله لاحقًا ببيانات أقل وأكثر تخصصًا.

هل الضبط الدقيق يضيف معلومات جديدة إلى النموذج؟

يمكنه ذلك جزئيًا، لكنه ليس الطريقة المثلى لإضافة الحقائق المتغيرة؛ فتقنية RAG أنسب لذلك.

كم مثالًا أحتاج للضبط الدقيق؟

يعتمد على المهمة والنموذج؛ فبعض المهام تتحسن بمئات الأمثلة عالية الجودة، والجودة أهم من الكمية.

المراجع

  1. Hu, E. et al. (2021). LoRA: Low-Rank Adaptation of Large Language Models. arxiv.org/abs/2106.09685.
  2. IBM. What is fine-tuning? ibm.com.

إدارة بالعربي

هل تبحث عن تعريف مصطلح إداري؟ تصفح قاموسنا المختصر.