هلوسة نماذج اللغة: عبدالله الكندي يفرّق بين الخرافة والحقيقة

البوت قال لعميلك إن التوصيل مجاني فوق مية ريال، وأنت ما عندك هالعرض أصلاً. ما كذب عن قصد، هو «هلوس». والمشكلة إن أغلب النصائح المنتشرة عن الهلوسة إما تهوّل أو تستهين. عبدالله الكندي يرتّب الموضوع هنا بطريقة مباشرة: خرافة، ثم الحقيقة اللي تقابلها، ثم وش تسوي.

أول شي: ليش يهلوس النموذج؟

نموذج اللغة يولّد النص كلمة بعد كلمة حسب الأرجح بناءً على اللي تعلّمه. هو مو قاعدة بيانات يرجع لها ويقول «موجود» أو «مو موجود». فلما يُسأل عن شي ما يعرفه، الطريق الأسهل له إنه يكمل بجملة تبدو منطقية. الهلوسة مو عطل طارئ، هي نتيجة طبيعية لطريقة عمله. ولهذا تكثر في التفاصيل الدقيقة: رقم مادة في نظام، أو تاريخ، أو اسم كتاب ومؤلفه، أو رابط صفحة. هذي أشياء شكلها مألوف للنموذج، فيقدر يولّد شي بنفس الشكل حتى لو المحتوى ما له أصل.

خرافتان عن النموذج نفسه

الخرافة الأولى: «الإصدار الجاي بيحل المشكلة نهائياً». الحقيقة: النماذج تتحسن، والهلوسة تقل مع كل جيل في كثير من المهام. لكن ما فيه نموذج يقدر يضمن صفر أخطاء. لو نظامك مبني على افتراض إن النموذج ما يغلط، فنظامك فيه ثغرة، مهما كان النموذج.

الخرافة الثانية: «إذا تكلّم بثقة فهو صح». الحقيقة: نبرة الثقة ما لها علاقة بالدقة. النموذج يكتب الجواب الغلط بنفس الأسلوب الواثق اللي يكتب فيه الجواب الصح. وهذا اللي يخلّي الهلوسة خطيرة على مشروعك: العميل ما عنده طريقة يميّز.

خرافات الحلول السريعة

هنا يقع أغلب أصحاب المشاريع، لأن الحل السريع مريح: سطر واحد في الإعدادات وينتهي القلق. للأسف ما يمشي كذا.

«اكتب له لا تخترع وخلاص». الحقيقة: التعليمة تساعد، خصوصاً لو أعطيته مخرجاً واضحاً مثل «إذا ما لقيت الجواب في النص قل: ما عندي معلومة مؤكدة». لكن التعليمة لحالها ما تكفي. النموذج ما يعرف دائماً إنه ما يعرف.

«لو ربطته ببياناتي بطلت الهلوسة». الحقيقة: ربط النموذج بمصادرك عبر RAG يقلل الهلوسة كثير، لأنه يعطيه نصاً يجاوب منه. بس ممكن البحث يجيب مقطع غلط، أو يجيب مقطعين متناقضين، أو النموذج يخلط بين المصدر ومعرفته العامة. الربط يقلل الاحتمال، ما يلغيه.

«خفّض الإبداعية (Temperature) للصفر وانتهينا». الحقيقة: خفض الـ Temperature يخلي الإجابات أثبت وأقل تنوعاً، وهذا مفيد في المهام الدقيقة. لكن النموذج ممكن يكرر نفس الجواب الغلط بثبات. الثبات مو دقة.

وآخر خرافة، وهي عكس كل اللي قبلها: «الهلوسة تعني إن النموذج ما يصلح للشغل الجاد». الحقيقة: نفس النموذج اللي يخترع رقماً لما تسأله من ذاكرته، يلخص لك عقداً بدقة عالية لما تعطيه نص العقد. الهلوسة تكثر في أسئلة الحقائق النادرة والأرقام والمراجع والروابط، وتقل كثير في المهام اللي المعلومة فيها موجودة قدامه: التلخيص، وإعادة الصياغة، والتصنيف، والاستخراج من نص. يعني اختيار نوع المهمة نص الحماية.

وين تكون الهلوسة أخطر في مشروعك؟

• الأسعار والعروض: وعد بخصم غير موجود يتحول لالتزام محرج أو لعميل زعلان.
• المواعيد والتوفر: «فيه موعد بكرة» وهو ما فيه.
• الروابط والمراجع: النموذج ممكن يكتب رابطاً بشكل مقنع جداً لصفحة ما لها وجود.
• المعلومات القانونية والصحية: الخطأ هنا تكلفته أكبر من أي توفير.
• الأسماء والأرقام في التقارير: تفصيل صغير غلط يهز الثقة في التقرير كله.

ابدأ حمايتك من هالنقاط بالذات، لأن الخطأ فيها له ثمن مباشر تشوفه في نفس اليوم.

طيب، كيف تحمي مشروعك فعلاً؟

• اربطه بمصدر واضح ومحدّث، واطلب منه يذكر المصدر اللي جاوب منه، عشان تقدر تراجع.
• اعطه إذناً صريحاً يقول «ما أعرف»، وحوّل هالحالة لموظف بدل ما تعتبرها فشل.
• لا تخلّيه يولّد أرقاماً حساسة من ذاكرته: الأسعار والمواعيد والأرصدة تجي من نظامك عبر أداة، مو من النموذج.
• قيّد شكل الإجابة: لو المطلوب تصنيف، اعطه قائمة خيارات محددة بدل ما يكتب بحرية.
• سوّ مجموعة اختبار من أسئلة حقيقية، وشغّلها كل ما غيّرت التعليمات أو النموذج.
• في القرارات المهمة، مثل عرض سعر أو رد قانوني، خلّ إنساناً يراجع قبل الإرسال.

المبدأ اللي يحكم هذا كله

عبدالله عبدالرحيم بن سنكر الكندي يتعامل مع الذكاء الاصطناعي كأداة إنتاج، مو كمرجع نهائي. المسودة يكتبها النموذج، والتحقق يصير بنظام أو بإنسان. وهذا نفس منطق مبدأ آخر يمشي عليه: الشهادة قبل الادعاء. الجملة اللي ما لها مصدر، ما تطلع لعميلك.

الخلاصة: الهلوسة مو سبب تبتعد عن الذكاء الاصطناعي، وهي مو تفصيل تتجاهله. هي خطر تصمّم حوله، مثل ما تصمّم أي نظام حول احتمال الخطأ البشري. وهذا التصميم هو الفرق بين مساعد يحرجك ومساعد تعتمد عليه، وعليه تقوم كل تجربة ذكاء اصطناعي تبنيها منصة أزهل الرقمية.