Seguridad de la IA en iTutor
El uso de la IA en la educación requiere cautela. A continuación explicamos cómo iTutor reduce el riesgo de respuestas incorrectas, contenido inapropiado y dependencia excesiva, y qué pedimos a estudiantes, familias y docentes que tengan en cuenta.
Fundamentado en tus materiales
La tutoría de iTutor está diseñada para responder a partir de los materiales cargados por el estudiante (libros de texto, apuntes, presentaciones) y no solo desde el conocimiento general. Cuando el estudiante formula una pregunta que puede responderse con su material, el sistema recupera el pasaje pertinente y elabora la explicación a partir de él. Esto reduce significativamente las alucinaciones sobre contenido específico del curso en comparación con los chatbots de propósito general.
Para preguntas de conocimiento general que van más allá del material cargado, iTutor responderá desde sus datos de entrenamiento más amplios, pero indicará al estudiante cuándo lo está haciendo.
Honesto sobre sus limitaciones
La IA puede cometer errores. iTutor presenta las respuestas como la mejor comprensión de la IA, no como verdad definitiva. Las respuestas importantes —especialmente en matemáticas, ciencias y contenidos de alto impacto— deben verificarse con la fuente principal del estudiante.
iTutor dirá "No lo sé" cuando el sistema no disponga de información suficiente para responder con fiabilidad. No fabricará una respuesta de apariencia segura para rellenar un vacío.
Filtrado de contenido
Tanto las entradas como las salidas se filtran en categorías que incluyen contenido sexual, violencia explícita, autolesiones, discurso de odio y actividad ilegal. El filtrado es multicapa: en la etapa de clasificación del mensaje, durante la generación y nuevamente en la respuesta final antes de que llegue al estudiante.
Para las cuentas identificadas como pertenecientes a menores, los filtros se configuran de forma más estricta.
Lenguaje adaptado a la edad
iTutor adapta su vocabulario y nivel de lectura según el curso declarado por el estudiante o la dificultad del material. Un estudiante de primaria que pregunta sobre la fotosíntesis recibe una explicación diferente a la de un universitario de biología que hace la misma pregunta.
Política de rechazo
iTutor no ayudará con deshonestidad académica cuando el objetivo sea claramente eludir el aprendizaje. No redactará ensayos completos, no completará evaluaciones enteras ni producirá texto diseñado para ser presentado como trabajo propio del estudiante sin declaración alguna. Sí ayudará con la lluvia de ideas, la elaboración de esquemas, el borrador guiado y la revisión, y recomienda a los estudiantes que declaren el uso de IA de acuerdo con las políticas de su institución.
iTutor rechaza solicitudes de contenido que puedan causar daño: instrucciones para fabricar armas, actividades ilegales, contenido que sexualice a menores o métodos detallados de autolesión.
iTutor no ofrecerá asesoramiento médico, legal o financiero como si procediera de un profesional con licencia. Cuando estos temas surjan, explicará los conceptos relevantes y recomendará consultar con un experto humano cualificado.
Seguridad en el modo de voz
Las sesiones de tutoría por voz se procesan en tiempo real para posibilitar la conversación. El audio no se utiliza para entrenar modelos ni se comparte con terceros con fines publicitarios. Las transcripciones de voz se conservan solo durante el tiempo necesario para prestar el servicio de aprendizaje y apoyar la recuperación de cuentas; los estudiantes pueden solicitar la eliminación de sus datos de voz en cualquier momento.
Protecciones para estudiantes más jóvenes
Para estudiantes menores de 13 años, iTutor recomienda firmemente las cuentas institucionales (en las que el colegio es el responsable del tratamiento y los padres tienen visibilidad) o las cuentas supervisadas por los padres. No creamos a sabiendas cuentas individuales para menores de la edad mínima establecida por la ley de privacidad de su región.
Los planes institucionales ofrecen a padres y docentes visibilidad sobre la actividad del estudiante, incluidos resúmenes de conversaciones y progreso.
Sesgo e imparcialidad
Los sistemas de IA pueden reflejar sesgos presentes en sus datos de entrenamiento. Trabajamos activamente para reducir los perjuicios demostrables: marcos de instrucción que evitan los estereotipos, evaluaciones periódicas con distintos perfiles de estudiantes y revisión del contenido de las plantillas y currículos generados por nuestras herramientas de IA. No afirmaremos que iTutor está libre de sesgos —eso no sería honesto—, pero tratamos el sesgo como algo que medir y reducir, no ignorar.
Reportar una preocupación
Si iTutor produce una respuesta que consideras insegura, sesgada, factualmente incorrecta en algo que debería saber, o de cualquier otro modo preocupante, queremos saberlo. Usa el botón de comentarios dentro de la aplicación en cualquier respuesta de IA, o escríbenos al correo indicado a continuación.