AI-veiligheid bij iTutor

Gebaseerd op uw materialen

De bijlessen van iTutor zijn ontworpen om antwoorden te geven op basis van de geüploade materialen van de leerling (leerboeken, aantekeningen, presentaties) in plaats van uitsluitend op algemene kennis. Wanneer een leerling een vraag stelt die beantwoord kan worden vanuit zijn of haar materiaal, haalt het systeem de relevante passage op en legt het uit op basis daarvan. Dit vermindert hallucinaties over cursusspecifieke inhoud aanzienlijk in vergelijking met algemene chatbots.

Voor vragen over algemene kennis buiten het geüploade materiaal zal iTutor antwoorden vanuit bredere trainingsdata, maar zal het de student informeren wanneer dit het geval is.

Eerlijk over beperkingen

AI kan fouten maken. iTutor presenteert antwoorden als het beste begrip van de AI, niet als gezaghebbende waarheid. Belangrijke antwoorden — met name in wiskunde, exacte wetenschappen en inhoud met grote gevolgen — dienen te worden gecontroleerd aan de hand van de primaire bron van de leerling.

iTutor zal "Ik weet het niet" zeggen wanneer het systeem onvoldoende informatie heeft om betrouwbaar te antwoorden. Het zal geen zelfverzekerd klinkend antwoord verzinnen om de leemte op te vullen.

Inhoudsfiltering

Zowel invoer als uitvoer worden gefilterd op categorieën zoals seksuele inhoud, grafisch geweld, zelfbeschadiging, haatzaaiende uitlatingen en illegale activiteiten. De filtering werkt in lagen — in de fase van promptclassificatie, tijdens de generatie, en nogmaals op de uiteindelijke uitvoer voordat deze de leerling bereikt.

Voor accounts die worden geïdentificeerd als behorend aan minderjarigen, zijn de filters strenger geconfigureerd.

Leeftijdsgeschikt taalgebruik

iTutor past zijn woordenschat en leesbaarheid aan op basis van het opgegeven niveau van de leerling of de moeilijkheidsgraad van het materiaal. Een basisschoolleerling die vraagt over fotosynthese krijgt een andere uitleg dan een universitaire biologiestudent die dezelfde vraag stelt.

Weigeringshouding

iTutor zal niet helpen bij academisch oneerlijk gedrag wanneer het doel duidelijk is om leren te omzeilen. Het zal geen volledige essays schrijven, volledige opdrachten afmaken of teksten produceren die zijn bedoeld om zonder vermelding in te dienen als werk van de student. Het helpt wel bij brainstormen, het opstellen van een opzet, begeleid schrijven en revisie — en adviseert studenten om AI-gebruik te melden conform het beleid van hun instelling.

iTutor weigert verzoeken voor inhoud die schade kan veroorzaken: instructies voor wapens, illegale activiteiten, inhoud die minderjarigen seksueel afbeeldt, of gedetailleerde methoden voor zelfbeschadiging.

iTutor verstrekt geen medisch, juridisch of financieel advies alsof het van een gecertificeerde professional afkomstig is. Wanneer dergelijke onderwerpen aan bod komen, legt het de relevante concepten uit en adviseert het een gekwalificeerde menselijke expert te raadplegen.

Veiligheid bij spraakgebruik

Spraakbijlessessies worden in real time verwerkt om het gesprek mogelijk te maken. Audio wordt niet gebruikt om modellen te trainen of gedeeld met derden voor advertentiedoeleinden. Spraaktranscripten worden alleen bewaard zo lang als nodig is om de leerdienst te verlenen en accountherstel te ondersteunen; leerlingen kunnen op elk moment om verwijdering van spraakdata verzoeken.

Bescherming voor jongere leerlingen

Voor leerlingen onder de 13 jaar raadt iTutor sterk aan gebruik te maken van institutionele accounts (waarbij de school de verwerkingsverantwoordelijke is en ouders inzicht hebben) of begeleide ouderaccounts. Wij maken niet bewust individuele accounts aan voor kinderen onder de minimumleeftijd die door de privacywetgeving van hun regio is vastgesteld.

Institutionele abonnementen bieden ouders en docenten inzicht in de activiteiten van een leerling, inclusief gesprekssamenvattingen en voortgang.

Vooroordelen en eerlijkheid

AI-systemen kunnen vooroordelen uit hun trainingsdata weerspiegelen. Wij werken actief aan het verminderen van aantoonbare schadelijke effecten: promptframeworks die stereotypering vermijden, periodieke evaluaties over verschillende studentdemografieën, en inhoudsreview van de sjablonen en curricula die door onze AI-tools worden gegenereerd. Wij claimen niet dat iTutor vrij is van vooroordelen — dat zou niet eerlijk zijn — maar wij beschouwen vooroordelen als iets dat gemeten en verminderd moet worden, niet genegeerd.

Een zorg melden

Als iTutor een antwoord geeft dat u als onveilig, bevooroordeeld, feitelijk onjuist op iets wat het had moeten weten, of anderszins zorgwekkend beschouwt, horen wij dat graag. Gebruik de feedbackknop in de app bij elke AI-reactie, of stuur ons een e-mail op het onderstaande adres.