Sicurezza dell'IA in iTutor
L'utilizzo dell'IA nell'istruzione richiede cautela. Di seguito viene descritto come iTutor riduce il rischio di risposte errate, contenuti inappropriati e dipendenza eccessiva — e cosa chiediamo a studenti, genitori e insegnanti di tenere a mente.
Basato sui propri materiali
La tutela di iTutor è progettata per rispondere dai materiali caricati dal discente (libri di testo, appunti, slide) piuttosto che esclusivamente dalla conoscenza del mondo. Quando il discente pone una domanda a cui si può rispondere partendo dal proprio materiale, il sistema recupera il passaggio pertinente e spiega basandosi su di esso. Questo riduce significativamente le allucinazioni sui contenuti specifici del corso rispetto ai chatbot di uso generale.
Per domande di cultura generale al di fuori del materiale caricato, iTutor risponderà attingendo a dati di addestramento più ampi, ma informerà lo studente quando lo fa.
Onesto riguardo ai limiti
L'IA può commettere errori. iTutor presenta le risposte come la migliore comprensione dell'IA, non come verità autorevole. Le risposte importanti — specialmente in matematica, scienze e contenuti ad alto rischio — dovrebbero essere verificate rispetto alla fonte primaria del discente.
iTutor dirà "Non lo so" quando il sistema dispone di informazioni insufficienti per rispondere in modo affidabile. Non inventerà una risposta che suoni convincente per colmare il divario.
Filtraggio dei contenuti
Sia gli input che gli output vengono filtrati in base a categorie che includono contenuti sessuali, violenza grafica, autolesionismo, discorsi d'odio e attività illegali. Il filtraggio è stratificato — nella fase di classificazione del prompt, durante la generazione e nuovamente sull'output finale prima che raggiunga il discente.
Per gli account identificati come appartenenti a minori, i filtri sono configurati in modo più restrittivo.
Linguaggio adatto all'età
iTutor adatta il proprio vocabolario e il livello di lettura in base al grado indicato dal discente o alla difficoltà del materiale. Uno studente delle scuole elementari che chiede della fotosintesi riceve una spiegazione diversa rispetto a uno studente universitario di biologia che pone la stessa domanda.
Politica di rifiuto
iTutor non assiste nella disonestà accademica quando l'obiettivo è chiaramente quello di aggirare l'apprendimento. Non scriverà interi saggi, non completerà interi compiti né produrrà testi progettati per essere presentati come lavoro proprio dello studente senza dichiarazione. Aiuterà con il brainstorming, la strutturazione, la stesura guidata e la revisione — e raccomanda agli studenti di dichiarare l'assistenza dell'IA secondo le politiche della propria istituzione.
iTutor rifiuta le richieste di contenuti che potrebbero causare danni: istruzioni per armi, attività illegali, contenuti che sessualizzano i minori o metodi dettagliati di autolesionismo.
iTutor non fornisce consulenza medica, legale o finanziaria come se provenisse da un professionista abilitato. Quando emergono tali argomenti, spiega i concetti pertinenti e raccomanda di consultare un esperto umano qualificato.
Sicurezza vocale
Le sessioni di tutoring vocale vengono elaborate in tempo reale per consentire la conversazione. L'audio non viene utilizzato per addestrare modelli né condiviso con terze parti a fini pubblicitari. Le trascrizioni vocali vengono conservate solo per il tempo necessario a fornire il servizio di apprendimento e a supportare il ripristino dell'account; i discenti possono richiedere la cancellazione dei dati vocali in qualsiasi momento.
Protezioni per i discenti più giovani
Per i discenti di età inferiore ai 13 anni, iTutor raccomanda fortemente account istituzionali (dove la scuola è il titolare del trattamento dei dati e i genitori hanno visibilità) o account genitoriali supervisionati. Non creiamo consapevolmente account individuali per bambini al di sotto dell'età minima stabilita dalla legge sulla privacy della loro regione.
I piani istituzionali espongono la visibilità dei genitori e degli insegnanti sull'attività di un discente, inclusi i riepiloghi delle conversazioni e l'avanzamento.
Pregiudizi ed equità
I sistemi di IA possono riflettere pregiudizi presenti nei loro dati di addestramento. Lavoriamo attivamente per ridurre i danni dimostrabili: framework di prompt che evitano stereotipi, valutazioni periodiche su diverse popolazioni studentesche e revisione dei contenuti dei modelli e dei curricula generati dai nostri strumenti di IA. Non affermeremo che iTutor è privo di pregiudizi — non sarebbe onesto — ma trattiamo i pregiudizi come qualcosa da misurare e ridurre, non da ignorare.
Segnalazione di una preoccupazione
Se iTutor produce una risposta che ritiene non sicura, parziale, fattualmente errata su qualcosa che avrebbe dovuto sapere, o altrimenti preoccupante, desideriamo esserne informati. Utilizzi il pulsante di feedback nell'app su qualsiasi risposta dell'IA, oppure ci scriva all'indirizzo sottostante.