لماذا يجيب بثقة وهو مخطئ؟

تطلب مرجعًا في تخصصك، فيعطيك كتابًا بعنوان ومؤلف وسنة نشر، ثم لا تجده في أي مكتبة.
تسأل عن قانون في بلدك، فيذكر لك رقم مادة لا وجود لها.
تطلب رابط مقال، فيفتح الرابط على صفحة «غير موجودة».
تسأله عن إحصائية، فيعطيك رقمًا دقيقًا لا تعرف من أين جاء.
تسأله «هل أنت متأكد؟»، فيؤكد لك الخطأ نفسه بثقة أكبر.

هذا ما يُسمى الهلوسة (Hallucination): أن يقدّم لك النموذج معلومة غير صحيحة بنبرة واثقة. وهي ليست عطلًا نادرًا، بل نتيجة طبيعية لطريقة عمله. وهذا موضوع هذا الدرس.

لماذا يخترع النموذج إجابة بدل أن يقول «لا أعرف»؟

تذكّر ما تعلمته في درس «ما النموذج اللغوي؟»: النموذج يتوقع القطعة التالية الأكثر احتمالًا، ثم التي بعدها، حتى تكتمل الإجابة. هو لا يفتح كتابًا ولا قاعدة بيانات ليتحقق مما يكتب.

تخيّل طالبًا في اختبار، وأمامه سؤال لم يدرسه. لكنه قرأ كثيرًا، ويعرف كيف تبدو الإجابة الجيدة. فبدل أن يترك الورقة فارغة، يكتب إجابة مرتبة تبدو صحيحة:

والنموذج يشبه هذا الطالب في أمور ثلاثة:

• يعرف شكل الإجابة: رأى ملايين الكتب والمراجع، فيعرف كيف يبدو عنوان كتاب، واسم مؤلف، وسنة نشر.
• «الأكثر احتمالًا» ليس دائمًا «الصحيح»: عنوان مخترع قد يكون محتملًا في اللغة تمامًا مثل عنوان حقيقي، فيبدو مقنعًا.
• لا يشعر بأنه لا يعرف: لا يوجد داخله مؤشر واضح يقول له «توقف، هذه معلومة لا تعرفها». فيكتب الصحيح والخاطئ بالنبرة نفسها.

ويرى بعض الباحثين سببًا آخر: طرق التدريب والتقييم كثيرًا ما تكافئ الإجابة الكاملة أكثر من «لا أعرف»، كما يكسب الطالب درجة إن خمّن، ولا يكسب شيئًا إن ترك السؤال. والشركات تعمل على تقليل ذلك، فالنماذج الحديثة تقول «لا أعرف» أكثر من قبل، لكن المشكلة ما زالت موجودة.

والفرق المهم عن الطالب: النموذج لا يقصد أن يخدعك. هو يكمل الكلام كما تعلّم، لا أكثر.

متى تزيد الهلوسة؟

ليست كل الأسئلة معرّضة للخطأ بالدرجة نفسها. انتبه أكثر في هذه الحالات:

• المعلومات النادرة: أشخاص أو أماكن أو أحداث لم يُكتب عنها كثير.
• الأرقام والتواريخ: إحصائيات، وسنوات، وأرقام صفحات أو مواد في الأنظمة.
• المصادر والروابط: أسماء كتب، ومقالات، وروابط مواقع. وأخطر ما فيها أن تكون أجزاؤها حقيقية وتركيبها مخترعًا: مؤلف موجود، وعنوان موجود، لكن أحدهما لا يخص الآخر.
• الأحداث الحديثة: ما حدث بعد أن انتهى تدريب النموذج.
• التفاصيل الدقيقة: اسم أمر في لغة برمجة، أو إعداد في برنامج، أو شرط في نظام.
• المحادثات الطويلة جدًا: قد يخلط بين ما قيل في أولها وما قيل في آخرها، وسأعود إلى هذا في درس «لماذا ينسى ما قلته؟».

والقاعدة البسيطة: كلما قلّ ما كُتب عن الموضوع، زاد احتمال أن «يملأ» النموذج الفراغ من عنده.

لماذا لا يكفي أن تسأله «هل أنت متأكد؟»

قد تظن أن الحل سهل: اسأله إن كان متأكدًا. لكن جوابه عن هذا السؤال كلام أيضًا، يتوقعه بالطريقة نفسها:

• قد يؤكد الخطأ: فيقول «نعم، أنا متأكد» عن كتاب غير موجود.
• قد يتراجع عن الصواب: فيعتذر ويغيّر إجابة كانت صحيحة، لمجرد أنك شككت فيها.
• قد يستبدل خطأً بخطأ: فيعتذر، ثم يعطيك كتابًا مخترعًا آخر.

وانتبه أيضًا إلى الفرضية التي في سؤالك نفسه. إن سألته عن كتاب كأنه موجود، فقد يجاريك ويبني على كلامك بدل أن يصحّحه، كما رأيت في المثال السابق.

فسؤاله عن نفسه ليس تحققًا. التحقق الحقيقي يكون من خارجه: مصدر، أو تجربة، أو شخص مختص. وميله إلى أن يجاريك فيما تقول موضوع الدرس التالي.

كيف تكشف الهلوسة وتقلّلها؟

لن تمنع الهلوسة تمامًا، لكنك تستطيع أن تقلّلها، وأن تكشفها قبل أن تضرّك. والفكرة الأهم: أن يعمل النموذج على نص أمامه، بدل أن يجيب من ذاكرته.

• أعطه النص: الصق المقال أو المستند، واطلب أن يجيب منه فقط، وأن يقول «غير مذكور» إن لم يجد الإجابة فيه. ولا تنسَ ما يجب لصقه وما لا يجب، وهذا موضوع درس «ماذا تشارك وماذا لا تشارك؟».
• استعمل البحث في الويب بحذر: رأيت في درس «برامج الذكاء الاصطناعي» أن بعض البرامج تبحث في الويب وتعرض روابط. هذا يقلّل الهلوسة، لكنه لا يلغيها، فافتح الرابط بنفسك وتأكد أنه يقول فعلًا ما نُسب إليه.
• تحقق من الأسماء والأرقام والروابط: ابحث عن كل كتاب أو مادة أو إحصائية قبل أن تستخدمها.
• شغّل الكود قبل أن تثق به: إذا أعطاك استعلام SQL أو أمرًا برمجيًا، جرّبه على بيانات تجريبية أولًا.
• اطلب منه أن يحدد ما هو غير متأكد منه: مثل: «أجب، ثم اذكر النقاط التي تحتاج إلى تحقق». هذا لا يضمن شيئًا، لكنه يدلّك من أين تبدأ.

قرأت كتاب «[العنوان]» لـ[اسم المؤلف]، الصادر عن [دار النشر] عام [السنة]. وفيه يقول: «[العبارة]».
اشرح لي فكرة الكتاب، وكيف ترتبط هذه العبارة ببقية فصوله.

كيف تطبّق هذا؟

• عامل كل اسم، ورقم، ورابط، ومرجع على أنه «يحتاج إلى تحقق».
• إذا كان لديك النص، فأعطه النص، ولا تسأله من ذاكرته.
• لا تعدّ «نعم، أنا متأكد» تحققًا؛ تحقق من مصدر خارجه.
• استخدمه لترتيب أفكارك وصياغتها وشرح ما لا تفهمه، لا مصدرًا وحيدًا للحقائق.
• في الصحة والأنظمة والمال، ارجع دائمًا إلى مصدر رسمي أو إلى مختص.

اختبر نفسك

1. أعطاك النموذج اسم كتاب ومؤلفه وسنة نشره بأسلوب واثق، ولم تجد الكتاب في أي مكان. ما التفسير الأقرب؟
أ) النموذج يتعمّد خداعك.
ب) الكتاب موجود لكن البحث ضعيف.
ج) النموذج كتب عنوانًا محتملًا في اللغة، دون أن يتحقق من وجوده.
د) النموذج لا يفهم العربية.

2. زميلك يريد أن يعرف أهم ما في عقد طويل لديه، والعقد ليس سريًا. ما أفضل نصيحة له؟
أ) أن يسأله عن العقود عمومًا.
ب) أن يلصق نص العقد ويطلب الإجابة منه فقط، ثم يراجع النقاط المهمة بنفسه.
ج) أن يسأله «هل أنت متأكد؟» بعد كل إجابة.
د) أن يختار البرنامج الأشهر، فهو لا يخطئ.

3. سألته عن إحصائية، ثم سألته «هل أنت متأكد؟» فاعتذر وأعطاك رقمًا آخر. ماذا تفعل؟
أ) تأخذ الرقم الثاني، لأنه صحّح نفسه.
ب) تأخذ الرقم الأول، لأنه الأصل.
ج) تبحث عن الإحصائية في مصدرها الرسمي.
د) تسأله مرة ثالثة وتأخذ الرقم الأكثر تكرارًا.