Keamanan AI di iTutor

Berlandaskan materi Anda

Tutoring iTutor dirancang untuk menjawab dari materi yang diunggah oleh pelajar (buku teks, catatan, slide) ketimbang hanya dari pengetahuan umum. Ketika pelajar mengajukan pertanyaan yang dapat dijawab dari materi mereka, sistem mengambil bagian yang relevan dan menjelaskan berdasarkan itu. Hal ini secara signifikan mengurangi halusinasi pada konten khusus kursus dibandingkan chatbot tujuan umum.

Untuk pertanyaan pengetahuan umum di luar materi yang diunggah, iTutor akan menjawab dari data pelatihan yang lebih luas, tetapi akan memberi tahu siswa ketika melakukan hal tersebut.

Jujur tentang keterbatasan

AI dapat membuat kesalahan. iTutor menyajikan jawaban sebagai pemahaman terbaik AI, bukan sebagai kebenaran yang otoritatif. Jawaban penting — terutama dalam matematika, sains, dan konten berisiko tinggi — harus diperiksa ulang dengan sumber utama pelajar.

iTutor akan mengatakan "Saya tidak tahu" ketika sistem tidak memiliki informasi yang cukup untuk menjawab secara andal. Ia tidak akan membuat jawaban yang terdengar meyakinkan hanya untuk mengisi kekosongan.

Penyaringan konten

Input dan output sama-sama disaring terhadap kategori yang mencakup konten seksual, kekerasan grafis, menyakiti diri sendiri, ujaran kebencian, dan aktivitas ilegal. Penyaringan berlapis — pada tahap klasifikasi prompt, selama proses generasi, dan sekali lagi pada output akhir sebelum sampai ke pelajar.

Untuk akun yang diidentifikasi sebagai milik anak di bawah umur, filter dikonfigurasi lebih ketat.

Bahasa yang sesuai usia

iTutor menyesuaikan kosakata dan tingkat bacaannya berdasarkan tingkat kelas yang dinyatakan pelajar atau kesulitan materi. Siswa sekolah dasar yang bertanya tentang fotosintesis mendapat penjelasan berbeda dari mahasiswa biologi universitas yang mengajukan pertanyaan yang sama.

Postur penolakan

iTutor tidak akan membantu ketidakjujuran akademik jika tujuannya jelas untuk melewati proses belajar. Ia tidak akan menulis esai secara utuh, menyelesaikan seluruh penilaian, atau menghasilkan teks yang dirancang untuk diserahkan sebagai karya siswa sendiri tanpa pengungkapan. Ia akan membantu brainstorming, pembuatan kerangka, penyusunan draf di bawah bimbingan, dan revisi — dan merekomendasikan siswa untuk mengungkapkan penggunaan AI sesuai kebijakan institusi mereka.

iTutor menolak permintaan konten yang dapat menimbulkan bahaya: instruksi senjata, aktivitas ilegal, konten yang melecehkan anak di bawah umur, atau metode menyakiti diri sendiri secara terperinci.

iTutor tidak akan memberikan saran medis, hukum, atau keuangan seolah-olah berasal dari profesional berlisensi. Ketika topik tersebut muncul, ia menjelaskan konsep yang relevan dan merekomendasikan konsultasi dengan pakar manusia yang berkualifikasi.

Keamanan suara

Sesi tutoring suara diproses pada saat itu juga untuk memungkinkan percakapan berlangsung. Audio tidak digunakan untuk melatih model atau dibagikan kepada pihak ketiga untuk keperluan iklan. Transkrip suara hanya disimpan selama diperlukan untuk menyediakan layanan pembelajaran dan mendukung pemulihan akun; pelajar dapat meminta penghapusan data suara kapan saja.

Perlindungan bagi pelajar yang lebih muda

Untuk pelajar di bawah 13 tahun, iTutor sangat merekomendasikan akun institusional (di mana sekolah adalah pengontrol data dan orang tua memiliki visibilitas) atau akun orang tua yang diawasi. Kami tidak dengan sengaja membuat akun individu untuk anak-anak di bawah usia minimum yang ditetapkan oleh undang-undang privasi daerah mereka.

Paket institusional memberikan visibilitas bagi orang tua dan guru ke dalam aktivitas pelajar, termasuk ringkasan percakapan dan kemajuan.

Bias dan keadilan

Sistem AI dapat mencerminkan bias dalam data pelatihannya. Kami secara aktif bekerja untuk mengurangi dampak yang dapat dibuktikan: kerangka kerja prompting yang menghindari stereotip, evaluasi berkala lintas demografi siswa yang berbeda, dan tinjauan konten pada template serta kurikulum yang dihasilkan oleh alat AI kami. Kami tidak akan mengklaim iTutor bebas dari bias — itu tidak jujur — tetapi kami memperlakukan bias sebagai sesuatu yang harus diukur dan dikurangi, bukan diabaikan.

Melaporkan kekhawatiran

Jika iTutor menghasilkan jawaban yang menurut Anda tidak aman, bias, salah secara faktual pada sesuatu yang seharusnya diketahuinya, atau mengkhawatirkan, kami ingin mendengarnya. Gunakan tombol umpan balik dalam aplikasi pada respons AI mana pun, atau kirim email ke alamat di bawah ini.