Segurança de IA no iTutor
O uso de IA na educação exige cautela. Veja como o iTutor reduz o risco de respostas incorretas, conteúdo inadequado e dependência excessiva — e o que pedimos que alunos, pais e professores tenham em mente.
Baseado em seus materiais
A tutoria do iTutor é projetada para responder a partir dos materiais enviados pelo aprendiz (livros didáticos, anotações, slides) em vez de depender apenas do conhecimento geral. Quando o aprendiz faz uma pergunta que pode ser respondida a partir de seu material, o sistema recupera o trecho relevante e explica com base nele. Isso reduz significativamente as alucinações sobre conteúdo específico do curso em comparação com chatbots de uso geral.
Para perguntas de conhecimento geral fora do material enviado, o iTutor responderá a partir de dados de treinamento mais amplos, mas informará ao aluno quando estiver fazendo isso.
Honesto sobre limitações
A IA pode cometer erros. O iTutor apresenta as respostas como o melhor entendimento da IA, não como verdade absoluta. Respostas importantes — especialmente em matemática, ciências e conteúdo de alta relevância — devem ser verificadas na fonte primária do aprendiz.
O iTutor dirá "não sei" quando o sistema não tiver informações suficientes para responder com confiança. Ele não fabricará uma resposta que soe convincente para preencher a lacuna.
Filtragem de conteúdo
Tanto as entradas quanto as saídas são filtradas contra categorias que incluem conteúdo sexual, violência explícita, automutilação, discurso de ódio e atividade ilegal. A filtragem é em camadas — na etapa de classificação do prompt, durante a geração e novamente na saída final antes de chegar ao aprendiz.
Para contas identificadas como pertencentes a menores de idade, os filtros são configurados de forma mais restritiva.
Linguagem adequada à idade
O iTutor adapta seu vocabulário e nível de leitura com base na série declarada pelo aprendiz ou na dificuldade do material. Um aluno do ensino fundamental que pergunta sobre fotossíntese recebe uma explicação diferente da de um estudante universitário de biologia que faz a mesma pergunta.
Postura de recusa
O iTutor não auxiliará em desonestidade acadêmica quando o objetivo for claramente contornar o aprendizado. Ele não escreverá redações inteiras, não completará avaliações inteiras nem produzirá texto destinado a ser entregue como trabalho próprio do aluno sem divulgação. Ele ajudará com brainstorming, estruturação, rascunho orientado e revisão — e recomenda que os alunos divulguem o uso de IA conforme as políticas de sua instituição.
O iTutor recusa pedidos de conteúdo que possam causar danos: instruções para fabricação de armas, atividades ilegais, conteúdo que sexualize menores ou métodos detalhados de automutilação.
O iTutor não fornecerá aconselhamento médico, jurídico ou financeiro como se fosse de um profissional licenciado. Quando esses temas surgirem, ele explicará os conceitos relevantes e recomendará a consulta de um especialista humano qualificado.
Segurança por voz
As sessões de tutoria por voz são processadas no momento para viabilizar a conversa. O áudio não é usado para treinar modelos nem compartilhado com terceiros para fins publicitários. As transcrições de voz são retidas apenas pelo tempo necessário para fornecer o serviço de aprendizado e para suportar a recuperação de conta; os aprendizes podem solicitar a exclusão dos dados de voz a qualquer momento.
Proteções para aprendizes mais jovens
Para aprendizes menores de 13 anos, o iTutor recomenda fortemente contas institucionais (nas quais a escola é a controladora dos dados e os pais têm visibilidade) ou contas de pais supervisionadas. Não criamos contas individuais para crianças abaixo da idade mínima estabelecida pela lei de privacidade de sua região.
Os planos institucionais oferecem visibilidade parental e docente sobre a atividade do aprendiz, incluindo resumos de conversas e progresso.
Viés e equidade
Sistemas de IA podem refletir vieses presentes em seus dados de treinamento. Trabalhamos ativamente para reduzir danos demonstráveis: frameworks de prompts que evitam estereótipos, avaliações periódicas em diferentes demografias de alunos e revisão de conteúdo dos modelos e currículos gerados por nossas ferramentas de IA. Não afirmaremos que o iTutor é livre de vieses — isso não seria honesto — mas tratamos o viés como algo a medir e reduzir, não a ignorar.
Reportar uma preocupação
Se o iTutor produzir uma resposta que você acredite ser insegura, tendenciosa, factualmente incorreta sobre algo que deveria saber, ou que cause qualquer outra preocupação, queremos saber. Use o botão de feedback dentro do aplicativo em qualquer resposta de IA, ou envie-nos um e-mail no endereço abaixo.