Keselamatan AI di iTutor
Penggunaan AI dalam pendidikan memerlukan kehati-hatian. Berikut ialah cara iTutor mengurangkan risiko jawapan yang tidak tepat, kandungan yang tidak sesuai, dan pergantungan berlebihan — serta perkara yang kami minta pelajar, ibu bapa, dan guru sentiasa ingat.
Berdasarkan bahan anda
Tunjuk ajar iTutor direka untuk menjawab daripada bahan yang dimuat naik oleh pelajar (buku teks, nota, slaid) dan bukan semata-mata daripada pengetahuan dunia. Apabila pelajar mengemukakan soalan yang boleh dijawab daripada bahan mereka, sistem akan mendapatkan petikan yang relevan dan menjelaskan berdasarkannya. Ini mengurangkan halusinasi terhadap kandungan khusus kursus secara ketara berbanding chatbot tujuan am.
Bagi soalan pengetahuan am di luar bahan yang dimuat naik, iTutor akan menjawab daripada data latihan yang lebih luas, tetapi akan memberitahu pelajar apabila ia berbuat demikian.
Jujur tentang batasan
AI boleh membuat kesilapan. iTutor menyampaikan jawapan sebagai kefahaman terbaik AI, bukan sebagai kebenaran yang muktamad. Jawapan penting — terutamanya dalam matematik, sains, dan kandungan bertaruhan tinggi — harus disemak semula dengan sumber utama pelajar.
iTutor akan menyatakan "Saya tidak tahu" apabila sistem tidak mempunyai maklumat yang mencukupi untuk menjawab dengan boleh dipercayai. Ia tidak akan mereka-reka jawapan yang kedengaran yakin untuk mengisi jurang tersebut.
Penapisan kandungan
Input dan output ditapis berdasarkan kategori yang merangkumi kandungan seksual, keganasan grafik, mencederakan diri sendiri, ucapan kebencian, dan aktiviti haram. Penapisan dilakukan secara berlapis — pada peringkat klasifikasi gesaan, semasa penjanaan, dan sekali lagi pada output akhir sebelum ia sampai kepada pelajar.
Untuk akaun yang dikenal pasti sebagai milik kanak-kanak di bawah umur, penapis dikonfigurasikan dengan lebih ketat.
Bahasa yang sesuai dengan usia
iTutor menyesuaikan perbendaharaan kata dan tahap bacaannya berdasarkan gred yang dinyatakan oleh pelajar atau kesukaran bahan. Pelajar sekolah rendah yang bertanya tentang fotosintesis mendapat penjelasan yang berbeza daripada pelajar biologi universiti yang mengemukakan soalan yang sama.
Pendirian penolakan
iTutor tidak akan membantu dengan ketidakjujuran akademik apabila matlamatnya jelas untuk mengelak pembelajaran. Ia tidak akan menulis keseluruhan esei, melengkapkan keseluruhan penilaian, atau menghasilkan teks yang direka untuk diserahkan sebagai kerja pelajar sendiri tanpa pendedahan. Ia akan membantu dengan sumbang saran, menggariskan, merangka di bawah bimbingan, dan menyemak — serta mengesyorkan pelajar mendedahkan penggunaan AI mengikut dasar institusi mereka.
iTutor menolak permintaan untuk kandungan yang boleh menyebabkan kemudaratan: arahan untuk senjata, aktiviti haram, kandungan yang menseksualkan kanak-kanak, atau kaedah mencederakan diri sendiri yang terperinci.
iTutor tidak akan memberikan nasihat perubatan, undang-undang, atau kewangan seolah-olah daripada profesional berlesen. Apabila topik sedemikian timbul, ia menerangkan konsep yang relevan dan mengesyorkan supaya berunding dengan pakar manusia yang berkelayakan.
Keselamatan suara
Sesi tunjuk ajar suara diproses pada masa yang sama untuk membolehkan perbualan berlangsung. Audio tidak digunakan untuk melatih model atau dikongsi dengan pihak ketiga untuk pengiklanan. Transkrip suara hanya disimpan selama yang diperlukan untuk menyediakan perkhidmatan pembelajaran dan menyokong pemulihan akaun; pelajar boleh meminta pemadaman data suara pada bila-bila masa.
Perlindungan untuk pelajar muda
Untuk pelajar bawah 13 tahun, iTutor sangat mengesyorkan akaun institusi (di mana sekolah adalah pengawal data dan ibu bapa mempunyai keterlihatan) atau akaun ibu bapa yang diselia. Kami tidak membuat akaun individu secara sedar untuk kanak-kanak di bawah umur minimum yang ditetapkan oleh undang-undang privasi wilayah mereka.
Pelan institusi mendedahkan keterlihatan ibu bapa dan guru terhadap aktiviti pelajar, termasuk ringkasan perbualan dan kemajuan.
Berat sebelah dan keadilan
Sistem AI boleh mencerminkan berat sebelah dalam data latihan mereka. Kami bekerja secara aktif untuk mengurangkan kemudaratan yang boleh dibuktikan: rangka kerja gesaan yang mengelak stereotaip, penilaian berkala merentas demografi pelajar yang berbeza, dan semakan kandungan templat serta kurikulum yang dijana oleh alat AI kami. Kami tidak akan mendakwa iTutor bebas daripada berat sebelah — itu tidak jujur — tetapi kami menganggap berat sebelah sebagai sesuatu yang perlu diukur dan dikurangkan, bukan diabaikan.
Melaporkan kebimbangan
Jika iTutor menghasilkan jawapan yang anda percaya tidak selamat, berat sebelah, salah dari segi fakta tentang sesuatu yang seharusnya diketahuinya, atau membimbangkan atas sebab lain, kami ingin mendengar daripada anda. Gunakan butang maklum balas dalam aplikasi pada mana-mana respons AI, atau e-melkan kami di alamat di bawah.