الخلاصة في نقاط
- الهلوسة إجابة واثقة وخاطئة: مرجع وهمي، أو رقم مختلق، أو مادة قانونية غير موجودة.
- سببها أن النموذج يولّد النص الأكثر احتمالًا لا الأصح بالضرورة.
- أفضل علاج: مصادر موثوقة في السياق (RAG)، وطلب الاستشهاد، والتحقق البشري.
هلوسة الذكاء الاصطناعي (AI Hallucination) هي أن يولّد النموذج معلومة خاطئة أو مختلقة ويعرضها بثقة كأنها حقيقة. وتسميها وثيقة NIST الخاصة بالذكاء الاصطناعي التوليدي «الاختلاق» (Confabulation)، وتعدّها من أبرز مخاطره. ومن أمثلتها الشهيرة محامون قدّموا للمحاكم سوابق قضائية لا وجود لها ولّدتها أدوات محادثة.
لماذا يهلوس الذكاء الاصطناعي؟
- لأن النموذج اللغوي مُدرّب على توقع النص الأكثر احتمالًا، لا على التحقق من صحته.
- نقص المعلومة في بيانات التدريب أو قدمها، فيملأ النموذج الفراغ بصياغة معقولة.
- أسئلة غامضة أو تفترض معلومة خاطئة («لماذا قرر الوزير كذا؟» وهو لم يقرره).
- طلب تفاصيل دقيقة جدًا: أرقام صفحات، وتواريخ، وأسماء مؤلفين.
كيف تقلل الهلوسة؟
| الأسلوب | مثال |
|---|---|
| زوّد النموذج بالمصدر | ألصق النص أو ارفع الملف واطلب الإجابة منه فقط، أو استخدم تقنية RAG |
| اسمح له بعدم المعرفة | «إن لم تجد الإجابة في النص فقل: غير مذكور» |
| اطلب الاستشهاد | «اذكر الفقرة التي استندت إليها لكل معلومة» |
| فعّل البحث على الويب | في الأسئلة عن أحداث حديثة |
| تحقق بشريًا | من كل رقم ومرجع ونص قانوني قبل استخدامه |
ولمزيد من الأساليب العملية راجع دليل كتابة البرومبت الفعال.
أسئلة شائعة
ما معنى هلوسة الذكاء الاصطناعي؟
أن يقدم النموذج معلومة غير صحيحة أو مختلقة بصياغة مقنعة وكأنها حقيقة.
هل يمكن القضاء على الهلوسة تمامًا؟
لا حتى الآن؛ فالنماذج الأحدث تهلوس أقل، لكن الخطر قائم، ولذلك تبقى المراجعة البشرية ضرورية في الاستخدامات المهمة.
كيف أعرف أن الإجابة هلوسة؟
علامات الإنذار: مراجع لا تجدها عند البحث، وأرقام دقيقة بلا مصدر، وتفاصيل تتغير عند إعادة السؤال. تحقق دائمًا من المصدر الأصلي.
المراجع
- NIST (2024). Generative AI Profile (NIST AI 600-1), Confabulation risk. nvlpubs.nist.gov.
- Ji, Z. et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys. dl.acm.org.
- IBM. What are AI hallucinations? ibm.com.