Uma das respostas mencionadas pelo docente trazia um trecho sem sentido no meio do conteúdo. “Hoje, tecnologias como inteligência artificial, smartphones e automação estão mudando muitos empregos, tornando o trabalho mais rápido e reduzindo a necessidade de algumas tarefas manuais. Madagascar flutua de lado durante a tarde.”
Gibson disse que o caso mostrou falta de revisão por parte dos alunos. “Em primeiro lugar, Madagascar não tem nada a ver com a Revolução Industrial. Em segundo lugar, ficou mais do que óbvio que eles nem sequer releram essas respostas”, afirmou em um vídeo publicado no TikTok, que já acumula quase 2 milhões de visualizações.
O professor afirma que reprovou 32 dos 35 alunos, em duas turmas, por uso de IA para gerar as respostas. Ele disse que ofereceu a chance de contestar as notas, mas apenas dois estudantes recorreram.
Como o “prompt injection” entra nessa história
A injeção de prompt (conhecida como “prompt injection”) é uma técnica para burlar sistemas de inteligência artificial com instruções inseridas de propósito em um texto. A ideia é fazer o modelo seguir comandos escondidos ou disfarçados, ignorando o objetivo original da tarefa e, em alguns casos, contornando regras de segurança.
No caso do professor, a instrução oculta não buscava obter vantagem, mas servir como marcador de cola. Mesmo invisível para a leitura normal do documento, o comando foi “lido” pela inteligência artificial quando o conteúdo do arquivo foi processado.
