KI-Sicherheit bei iTutor
Der Einsatz von KI im Bildungsbereich erfordert Sorgfalt. Nachfolgend erläutern wir, wie iTutor das Risiko falscher Antworten, unangemessener Inhalte und übermäßiger Abhängigkeit reduziert — und was wir Schüler, Eltern und Lehrkräfte bitten zu beachten.
Verankert in Ihren Materialien
Das Tutoring von iTutor ist darauf ausgelegt, Fragen aus den hochgeladenen Materialien des Lernenden (Lehrbücher, Notizen, Folien) zu beantworten, und nicht ausschließlich aus dem allgemeinen Weltwissen. Wenn der Lernende eine Frage stellt, die aus seinem Material beantwortet werden kann, ruft das System die relevante Passage ab und erklärt auf dieser Grundlage. Dies reduziert Halluzinationen bei kursspezifischen Inhalten im Vergleich zu allgemeinen Chatbots erheblich.
Bei allgemeinen Wissensfragen außerhalb der hochgeladenen Materialien beantwortet iTutor diese auf Basis umfassenderer Trainingsdaten, teilt dem Lernenden jedoch mit, wenn es dies tut.
Ehrlich über Grenzen
KI kann Fehler machen. iTutor präsentiert Antworten als das beste Verständnis der KI, nicht als autoritative Wahrheit. Wichtige Antworten — insbesondere in Mathematik, Naturwissenschaften und hochstufigen Inhalten — sollten anhand der primären Quelle des Lernenden überprüft werden.
iTutor wird „Ich weiß es nicht" sagen, wenn das System nicht über ausreichende Informationen verfügt, um zuverlässig zu antworten. Es wird keine selbstsicher klingende Antwort erfinden, um die Lücke zu füllen.
Inhaltsfilterung
Sowohl Eingaben als auch Ausgaben werden gegen Kategorien wie sexuelle Inhalte, grafische Gewalt, Selbstverletzung, Hassrede und illegale Aktivitäten gefiltert. Die Filterung erfolgt mehrschichtig — in der Klassifizierungsphase des Prompts, während der Generierung und erneut bei der finalen Ausgabe, bevor sie den Lernenden erreicht.
Für Konten, die als minderjährig identifiziert wurden, sind die Filter strenger konfiguriert.
Altersgerechte Sprache
iTutor passt seinen Wortschatz und das Leserniveau an den angegebenen Jahrgang des Lernenden oder den Schwierigkeitsgrad des Materials an. Ein Grundschüler, der nach Photosynthese fragt, erhält eine andere Erklärung als ein Biologiestudent der Universität, der dieselbe Frage stellt.
Ablehnungshaltung
iTutor unterstützt keine akademische Unredlichkeit, wenn das Ziel eindeutig darin besteht, den Lernprozess zu umgehen. Es wird keine vollständigen Aufsätze schreiben, keine vollständigen Prüfungen abschließen oder keinen Text produzieren, der als eigene Arbeit des Schülers ohne Offenlegung eingereicht werden soll. Es hilft bei Brainstorming, Gliederung, geführtem Entwerfen und Überarbeitung — und empfiehlt Schülern, die KI-Nutzung gemäß den Richtlinien ihrer Institution offenzulegen.
iTutor lehnt Anfragen nach Inhalten ab, die Schaden anrichten könnten: Anleitungen für Waffen, illegale Aktivitäten, Inhalte, die Minderjährige sexualisieren, oder detaillierte Methoden zur Selbstverletzung.
iTutor gibt keine medizinischen, rechtlichen oder finanziellen Ratschläge wie von einem zugelassenen Fachmann. Wenn solche Themen auftauchen, erläutert es die relevanten Konzepte und empfiehlt, einen qualifizierten menschlichen Experten zu konsultieren.
Sicherheit bei Sprachinteraktionen
Sprachtutoring-Sitzungen werden in Echtzeit verarbeitet, um das Gespräch zu ermöglichen. Audio wird nicht zum Modelltraining verwendet und nicht zu Werbezwecken an Dritte weitergegeben. Sprachtranskripte werden nur so lange aufbewahrt, wie es für die Erbringung des Lerndienstes und die Kontowiederherstellung erforderlich ist; Lernende können jederzeit die Löschung ihrer Sprachdaten beantragen.
Schutz jüngerer Lernender
Für Lernende unter 13 Jahren empfiehlt iTutor dringend institutionelle Konten (bei denen die Schule die datenschutzrechtlich verantwortliche Stelle ist und Eltern Einblick haben) oder beaufsichtigte Elternkonten. Wir erstellen wissentlich keine Einzelkonten für Kinder unter dem in ihrer Region gesetzlich festgelegten Mindestalter.
Institutionelle Pläne bieten Eltern und Lehrkräften Einblick in die Aktivitäten eines Lernenden, einschließlich Gesprächszusammenfassungen und Fortschritten.
Voreingenommenheit und Fairness
KI-Systeme können Voreingenommenheiten aus ihren Trainingsdaten widerspiegeln. Wir arbeiten aktiv daran, nachweisbare Schäden zu reduzieren: Prompt-Frameworks, die Stereotypisierungen vermeiden, regelmäßige Evaluierungen über verschiedene Schülerdemografien hinweg und inhaltliche Überprüfung der von unseren KI-Tools generierten Vorlagen und Curricula. Wir werden nicht behaupten, dass iTutor frei von Voreingenommenheit ist — das wäre nicht ehrlich — aber wir behandeln Voreingenommenheit als etwas, das gemessen und reduziert, nicht ignoriert werden muss.
Bedenken melden
Wenn iTutor eine Antwort produziert, die Sie für unsicher, voreingenommen, sachlich falsch für etwas, das es hätte wissen sollen, oder anderweitig besorgniserregend halten, möchten wir davon erfahren. Verwenden Sie die In-App-Feedback-Schaltfläche bei jeder KI-Antwort oder senden Sie uns eine E-Mail an die untenstehende Adresse.