Tutor AI anda baru sahaja memberikan jawapan yang yakin dan ditulis dengan baik — tetapi ada sesuatu yang terasa pelik. Mungkin tarikhnya tidak sepadan dengan apa yang anda ingat. Mungkin formulanya ada pemboleh ubah tambahan. Mungkin tokoh sejarah yang dipetiknya tidak pernah berkata begitu. Selamat datang ke dunia halusinasi AI, di mana model itu terdengar betul tetapi sebenarnya tidak.
Halusinasi adalah had yang terkenal bagi model bahasa besar. Bagi pelajar, ia bukan sekadar gangguan — ia boleh menyelinap masuk ke dalam nota anda, kad imbas anda, dan akhirnya jawapan peperiksaan anda. Berita baiknya adalah, setelah anda tahu apa yang perlu dicari, halusinasi agak mudah dikesan.
Apa sebenarnya halusinasi itu
Halusinasi berlaku apabila AI menghasilkan pernyataan yang yakin tetapi salah. Ia bukan meneka atau berhati-hati — ia menegaskan sesuatu sebagai fakta yang tiada asas dalam realiti. Ini boleh jadi petikan rekaan, persamaan yang salah dikira, petikan sejarah palsu, atau garis panduan klinikal yang tidak wujud.
Sebabnya mudah. Model bahasa dilatih untuk menghasilkan teks yang munasabah, bukan untuk mengesahkan kebenaran. Apabila data latihan mempunyai jurang atau konflik, model itu mengisi ruang kosong dengan apa sahaja yang paling berkemungkinan — yang kadang-kadang betul dan kadang-kadang fiksyen semata-mata.
Tanda amaran untuk diperhatikan
Terdapat corak berulang yang mencadangkan AI mungkin sedang mereka-reka:
- Butiran yang sangat khusus tanpa sumber. "Kajian Harvard 2019 mendapati 73.4 peratus pelajar..." — nombor setepat ini hampir selalu datang dari suatu tempat. Jika AI tidak dapat menamakan kertas itu, berhati-hatilah.
- Pernyataan yakin dalam topik khusus. Semakin kurang dikenali subjek itu, semakin tinggi kadar halusinasi. Jika anda bertanya tentang interaksi ubat yang jarang berlaku atau peristiwa sejarah luar biasa, sahkan dua kali.
- Jawapan yang berubah apabila anda merangka semula. Tanya soalan yang sama dalam dua cara berbeza. Jika anda mendapat dua "fakta" berbeza, sekurang-kurangnya satu daripadanya salah.
- Matematik yang kelihatan betul tetapi tidak lulus semakan. Sentiasa kira semula pengiraan kritikal dengan tangan atau kalkulator. Aritmetik AI terkenal tidak boleh dipercayai.
- Petikan dan URL. Petikan rekaan adalah salah satu jenis halusinasi paling biasa. Sentiasa klik melalui URL sebelum mempercayai sumber.
Tabiat pengesahan pantas
Anda tidak perlu menyemak fakta setiap ayat. Anda hanya memerlukan beberapa semakan pantas yang menjadi automatik:
- Tanya sumbernya. Jika AI tidak dapat memberitahu anda bab buku teks atau kertas mana fakta itu datang, anggap ia sebagai hipotesis, bukan fakta.
- Rujuk silang dengan bahan kursus anda. Jika buku teks atau nota kuliah anda bercanggah dengan AI, bahan kursus anda menang. Selalu.
- Minta AI tunjukkan kerja. Penerbitan langkah demi langkah jauh lebih sukar untuk dihalusinasi berbanding jawapan satu baris.
- Lakukan semakan waras terhadap sumber kedua. Untuk apa-apa yang anda akan hafal, luangkan 30 saat untuk mengesahkan dengan buku teks, Wikipedia, atau laman web yang dipercayai.
Gunakan AI yang berasaskan bahan anda
Cara paling berkesan untuk mengurangkan halusinasi adalah memberi AI sedikit ruang untuk mencipta. Jika anda memuat naik buku teks anda sendiri, AI boleh membaca dari sumber khusus itu berbanding menjana dari memori. Inilah sebabnya platform tunjuk ajar berasaskan bahan secara mendadak mengurangkan kadar halusinasi — setiap dakwaan dijejaki kembali ke halaman tertentu dokumen tertentu yang anda percayai.
Apabila anda bertanya chatbot tak berasas tentang mitokondria, ia menggunakan purata kabur segala yang pernah dilihatnya tentang sel. Apabila anda bertanya tutor berasaskan bahan, ia membaca halaman 142 buku teks biologi anda dan memetik perenggan tepat.
Intinya
Tunjuk ajar AI berkuasa, tetapi ia tidak sempurna. Anggap AI sebagai rakan belajar cemerlang yang sesekali terlalu yakin — berguna 95 peratus masa, salah lima peratus selebihnya, dan jarang mahu mengaku. Bina tabiat mengesahkan apa sahaja yang anda akan bergantung padanya, gunakan perasas apabila boleh, dan percayai buku teks anda daripada bot apabila kedua-duanya tidak setuju. iTutor direka di sekitar prinsip ini: jawapan dijejaki kembali ke bahan yang anda muat naik supaya anda boleh mengesahkan dalam dua klik.