iTutor'da Yapay Zeka Güvenliği
Eğitimde yapay zeka kullanımı dikkat gerektirir. Aşağıda iTutor'un hatalı yanıt, uygunsuz içerik ve aşırı bağımlılık risklerini nasıl azalttığı ile öğrenciler, veliler ve öğretmenlerin nelere dikkat etmesi gerektiği açıklanmaktadır.
Materyallerinize dayalı
iTutor'un öğretmenliği, yalnızca genel dünya bilgisine değil, öğrencinin yüklediği materyallere (ders kitapları, notlar, slaytlar) dayanarak yanıt verecek şekilde tasarlanmıştır. Öğrenci, materyalinden yanıtlanabilecek bir soru sorduğunda sistem ilgili pasajı alır ve buna dayalı açıklama yapar. Bu yaklaşım, genel amaçlı sohbet robotlarına kıyasla kursa özgü içeriklerde hayal ürünü yanıt üretimini önemli ölçüde azaltır.
Yüklenen materyalin dışındaki genel bilgi soruları için iTutor daha geniş eğitim verisinden yanıt verir; ancak bunu yaparken öğrenciye durumu açıkça bildirir.
Sınırlamalar konusunda dürüst
Yapay zeka hata yapabilir. iTutor, yanıtları kesin doğrular olarak değil, yapay zekanın en iyi anlayışı olarak sunar. Önemli yanıtlar — özellikle matematik, fen bilimleri ve yüksek riskli içerikler — öğrencinin birincil kaynağına karşılaştırılarak doğrulanmalıdır.
iTutor, sisteme güvenilir biçimde yanıt verecek yeterli bilgi olmadığında "Bilmiyorum" der. Boşluğu doldurmak için güvenilir görünen bir yanıt uydurmaz.
İçerik filtreleme
Hem girdi hem de çıktılar; cinsel içerik, grafik şiddet, öz zarar, nefret söylemi ve yasadışı faaliyet kategorilerine göre filtrelenmektedir. Filtreleme katmanlıdır — istem sınıflandırma aşamasında, üretim sırasında ve öğrenciye ulaşmadan önce son çıktı üzerinde tekrar uygulanır.
Reşit olmayan olarak tanımlanan hesaplarda filtreler daha katı biçimde yapılandırılmaktadır.
Yaşa uygun dil
iTutor, öğrencinin belirttiği sınıf düzeyine veya materyalin zorluk derecesine göre söz dağarcığını ve okuma düzeyini uyarlar. İlkokul öğrencisinin fotosentez hakkındaki sorusu, üniversite biyoloji öğrencisinin aynı sorusundan farklı bir açıklama alır.
Red etme tutumu
iTutor, amacın öğrenmeyi devre dışı bırakmak olduğu durumlarda akademik dürüstlüğe aykırı eylemlere yardımcı olmaz. Doğrudan teslim edilmek üzere essay yazmaz, değerlendirmelerin tamamını çözmez veya açıklama yapmaksızın öğrencinin kendi çalışmasıymış gibi sunulacak metinler üretmez. Beyin fırtınası, taslak oluşturma, rehberlik altında yazarlık ve revizyon konularında yardımcı olur; öğrencilerin yapay zeka yardımını kurumlarının politikalarına göre açıklamalarını önerir.
iTutor, zarar verebilecek içerik taleplerini reddeder: silah talimatları, yasadışı faaliyetler, çocukları cinselleştiren içerikler veya ayrıntılı öz zarar yöntemleri.
iTutor, lisanslı bir profesyonelmiş gibi tıbbi, hukuki veya finansal tavsiye vermez. Bu tür konular gündeme geldiğinde ilgili kavramları açıklar ve nitelikli bir uzmanla görüşülmesini önerir.
Sesli güvenlik
Sesli öğretmenlik seansları, konuşmayı etkinleştirmek amacıyla anlık olarak işlenir. Ses, modelleri eğitmek veya reklam amaçlı üçüncü taraflarla paylaşılmak için kullanılmaz. Ses dökümü yalnızca öğrenme hizmeti sunmak ve hesap kurtarımını desteklemek için gerektiği süre saklanır; öğrenciler ses verilerinin silinmesini istedikleri zaman talep edebilir.
13 yaş altı öğrenciler için korumalar
13 yaşın altındaki öğrenciler için iTutor, kurumsal hesapları (okulun veri sorumlusu olduğu ve velilerin görünürlüğe sahip olduğu) veya denetimli ebeveyn hesaplarını güçlü biçimde tavsiye eder. Bölgelerinin gizlilik mevzuatında belirtilen asgari yaşın altındaki çocuklar için bilerek bireysel hesap oluşturmayız.
Kurumsal planlar, ebeveyn ve öğretmenin öğrenci etkinliğini — konuşma özetleri ve ilerleme dahil — görmesine olanak tanır.
Önyargı ve adalet
Yapay zeka sistemleri, eğitim verilerindeki önyargıları yansıtabilir. Kanıtlanabilir zararları azaltmak için etkin biçimde çalışıyoruz: kalıplaşmış düşüncelerden kaçınan istem çerçeveleri, farklı öğrenci demografileri genelinde periyodik değerlendirmeler ve yapay zeka araçlarımızın oluşturduğu şablon ile müfredatların içerik incelemesi. iTutor'un önyargıdan arınmış olduğunu iddia etmiyoruz — bu dürüst olmaz — ancak önyargıyı görmezden gelmek yerine ölçülüp azaltılması gereken bir olgu olarak ele alıyoruz.
Endişe bildirme
iTutor'un güvensiz, önyargılı, bilmesi gereken bir konuda olgusal olarak hatalı veya başka herhangi bir şekilde kaygı verici bulduğunuz bir yanıt üretmesi durumunda lütfen bize bildirin. Herhangi bir yapay zeka yanıtındaki uygulama içi geri bildirim düğmesini kullanabilir ya da aşağıdaki e-posta adresine mesaj gönderebilirsiniz.