الخلاصة في نقاط
- نافذة السياق هي «الذاكرة العاملة» للنموذج في المحادثة الواحدة.
- تُقاس بالتوكنات، وتراوح في النماذج الحديثة من عشرات الآلاف إلى أكثر من مليون توكن.
- النافذة الأكبر لا تعني فهمًا أفضل دائمًا؛ فقد يضعف التركيز على المعلومات في وسط النصوص الطويلة.
نافذة السياق (Context Window) هي المقدار الأقصى من النص، مقاسًا بـالتوكنات، الذي يستطيع النموذج اللغوي قراءته ومعالجته دفعة واحدة. وتشمل كل شيء: التعليمات، والمحادثة السابقة، والملفات المرفقة، والإجابة التي يكتبها. وما يخرج عن النافذة لا «يراه» النموذج.
لماذا تهم نافذة السياق؟
- تحدد حجم المستندات التي يمكن تحليلها دفعة واحدة: عقد، أو تقرير سنوي، أو كتاب.
- في المحادثات الطويلة جدًا قد تُقتطع الرسائل الأولى أو تُلخّص، فينسى النموذج تعليمات قديمة.
- كلما امتلأت النافذة زادت تكلفة الطلب وزمنه.
هل النافذة الأكبر أفضل دائمًا؟
ليس بالضرورة. وجدت دراسة «Lost in the Middle» لباحثين من ستانفورد عام 2023 أن أداء النماذج يكون أفضل في استخدام المعلومات الموجودة في بداية السياق ونهايته منه في وسطه. ولذلك:
- ضع التعليمات المهمة في البداية أو كررها في النهاية.
- أرسل الأجزاء ذات الصلة فقط بدل المستند كله، أو استخدم تقنية RAG.
- ابدأ محادثة جديدة عند تغيير الموضوع.
أسئلة شائعة
ما الفرق بين نافذة السياق وذاكرة ChatGPT؟
نافذة السياق تخص المحادثة الحالية، أما ميزات «الذاكرة» في بعض التطبيقات فتحفظ معلومات عنك بين المحادثات وتضيفها إلى السياق عند الحاجة.
ماذا يحدث إذا تجاوزت نافذة السياق؟
يرفض النموذج الطلب، أو يقتطع التطبيق أجزاء قديمة من المحادثة أو يلخصها.
كم صفحة تتسع لها نافذة سياق من 128 ألف توكن؟
تقريبًا مئات الصفحات من النص الإنجليزي، ويختلف العدد للعربية حسب طريقة التقطيع في النموذج.
المراجع
- IBM. What is a context window? ibm.com.
- Liu, N. F. et al. (2023). Lost in the Middle: How Language Models Use Long Contexts. arxiv.org/abs/2307.03172.