مدرسك الذكي قدّم لك للتو إجابة واثقة ومنسّقة بإتقان — لكن هناك شيء لا يبدو صحيحاً. ربما التاريخ لا يطابق ما تذكره. ربما المعادلة تحتوي على متغير إضافي. ربما الشخصية التاريخية التي يقتبس منها لم تقل ذلك قط. أهلاً بك في عالم هلوسات الذكاء الاصطناعي، حيث يبدو النموذج محقاً لكنه ليس كذلك.
الهلوسات قيد معروف لنماذج اللغة الكبيرة. بالنسبة للطلاب، ليست مجرد إزعاج — يمكن أن تتسلل إلى ملاحظاتك وبطاقاتك التعليمية وفي النهاية إلى إجاباتك في الامتحان. الخبر السار هو أنك ما إن تعرف ما الذي يجب البحث عنه، تصبح سهلة الاكتشاف بشكل مفاجئ.
ما هي الهلوسة فعلاً
تحدث الهلوسة عندما ينتج الذكاء الاصطناعي تصريحاً خاطئاً بثقة. ليس تخميناً ولا تحفظاً — بل تأكيد شيء كحقيقة لا أساس لها من الواقع. قد يكون استشهاداً مختلقاً، أو معادلة حُسبت خطأً، أو اقتباساً تاريخياً ملفّقاً، أو إرشاداً سريرياً غير موجود.
سبب حدوث ذلك بسيط. نماذج اللغة مُدرَّبة على إنتاج نص معقول، لا على التحقق من الحقيقة. عندما تكون هناك فجوات أو تناقضات في بيانات التدريب، يملأ النموذج الفراغات بما يبدو الأرجح — وهو ما يكون أحياناً صحيحاً وأحياناً خيالاً كاملاً.
علامات التحذير التي يجب الانتباه لها
هناك أنماط متكررة توحي بأن الذكاء الاصطناعي قد يختلق الأمور:
- تفاصيل دقيقة غريبة بلا مصدر. "دراسة هارفارد عام 2019 وجدت أن 73.4 بالمئة من الطلاب..." — الأرقام بهذه الدقة تأتي دائماً من مكان ما. إذا لم يستطع الذكاء الاصطناعي ذكر الورقة البحثية، فكن متشككاً.
- تصريحات واثقة في مواضيع متخصصة. كلما كان الموضوع أكثر غموضاً، ارتفع معدل الهلوسة. إذا كنت تسأل عن تفاعل دوائي نادر أو حدث تاريخي غير مألوف، فتحقق مرتين.
- إجابات تتغير عند إعادة الصياغة. اسأل السؤال نفسه بطريقتين مختلفتين. إذا حصلت على "حقيقتين" مختلفتين، فعلى الأقل إحداهما خاطئة.
- رياضيات تبدو صحيحة لكنها لا تُحسب. احسب دائماً أي عملية حاسمة يدوياً أو باستخدام آلة حاسبة. حساب الذكاء الاصطناعي سيء السمعة في عدم الموثوقية.
- الاستشهادات والروابط. الاستشهادات المختلقة من أكثر أنواع الهلوسة شيوعاً. افتح أي رابط قبل الوثوق بالمصدر.
عادات التحقق السريع
لست مضطراً للتحقق من صحة كل جملة. تحتاج فقط إلى بضعة فحوصات سريعة تصبح تلقائية:
- اطلب المصدر. إذا لم يستطع الذكاء الاصطناعي إخبارك من أي فصل أو ورقة بحثية تأتي المعلومة، فتعامل معها كفرضية لا كحقيقة.
- قارن بمواد مقررك. إذا تعارض كتابك أو ملاحظاتك مع الذكاء الاصطناعي، فمواد مقررك تفوز. دائماً.
- اطلب من الذكاء الاصطناعي إظهار خطواته. الاشتقاق خطوة بخطوة أصعب بكثير في الهلوسة من إجابة من سطر واحد.
- تحقق بمصدر ثانٍ. لأي شيء ستحفظه، امضِ 30 ثانية في التأكيد مع كتاب أو ويكيبيديا أو موقع موثوق.
استخدم ذكاءً اصطناعياً يستند إلى موادك
أكثر الطرق فعالية لتقليل الهلوسات هي إعطاء الذكاء الاصطناعي مساحة أقل للاختلاق. إذا رفعتَ كتابك، يستطيع الذكاء الاصطناعي القراءة من ذلك المصدر المحدد بدلاً من التوليد من الذاكرة. لهذا السبب، منصات التدريس القائمة على المواد تقلل معدلات الهلوسة بشكل كبير — كل ادعاء يعود إلى صفحة محددة من وثيقة محددة تثق بها.
عندما تسأل روبوت محادثة غير مرتكز عن الميتوكوندريا، فإنه يعتمد على متوسط ضبابي لكل ما رآه عن الخلايا. وعندما تسأل مدرساً مرتكزاً على المواد، فإنه يقرأ الصفحة 142 من كتاب الأحياء ويستشهد بالفقرة بالضبط.
الخلاصة
التدريس بالذكاء الاصطناعي قوي، لكنه ليس معصوماً. تعامل مع الذكاء الاصطناعي كشريك دراسة عبقري يكون أحياناً مفرط الثقة — مفيد 95 بالمئة من الوقت، ومخطئ في الخمسة المتبقية، ونادراً ما يعترف. ابنِ عادة التحقق من أي شيء ستعتمد عليه، واستخدم الارتكاز متى استطعت، وثق بكتابك على الروبوت عند الخلاف. iTutor مصمم حول هذا المبدأ: الإجابات تُتتبّع إلى موادك المرفوعة حتى تتحقق بنقرتين بدلاً من أخذ كلامنا.