Por que o ChatGPT é a IA errada para a educação

A maioria das universidades ainda está travando o debate errado sobre a IA. A questão nas reuniões de corpo docente e comitês de diretrizes tende a ser binária: devemos permitir que os alunos usem o ChatGPT ou devemos bani-lo? Nenhuma das respostas é particularmente útil. Bani-lo é inviável, já que os alunos já o estão utilizando e as ferramentas de detecção não são confiáveis. Permitir sem orientação deixa os alunos usando uma ferramenta que é pouco adequada para a educação de maneiras que podem prejudicar ativamente seu aprendizado.

A melhor pergunta, aquela que a maioria das conversas sobre diretrizes ainda não alcançou, é qual tipo de IA é apropriado para a educação e qual tipo é contraproducente.

Três problemas com chatbots de uso geral na educação

O ChatGPT e ferramentas de IA de uso geral semelhantes têm três limitações fundamentais quando usados para estudar.

Eles alucinam. Modelos de linguagem de uso geral geram textos que parecem plausíveis, independentemente de estarem corretos. Em contextos acadêmicos, isso significa que os alunos podem receber explicações detalhadas e confiantes que estão parcial ou totalmente incorretas. Um aluno que pergunta ao ChatGPT sobre um conceito de sua matéria de ciência política pode obter uma resposta que soa autoritativa, mas que atribui incorretamente uma teoria, cita um artigo que não existe ou apresenta uma alegação contestada como um consenso estabelecido. O aluno, que recorreu à IA porque não entendia a matéria, não tem como avaliar se a resposta está correta, o que significa que ele pode aprender e reproduzir erros.

Eles não conhecem o currículo. O ChatGPT responde a partir de seus dados de treinamento, que consistem na internet em geral. Ele não sabe o que está no plano de ensino do aluno, quais leituras foram recomendadas, o que o professor enfatizou ou como o curso estrutura um determinado debate. Quando um aluno pergunta sobre o conceito de soberania nas relações internacionais, o ChatGPT dá uma resposta genérica extraída de seu corpus de treinamento. Mas o curso do aluno pode estruturar a soberania através de uma lente teórica específica, recomendar leituras específicas que defendem uma determinada posição e esperar que o aluno se envolva com essa perspectiva em sua redação. A resposta genérica é, na melhor das hipóteses, inútil e, na pior, enganosa, porque não condiz com o que o aluno realmente precisa aprender.

Eles não citam fontes que o aluno possa verificar. Quando o ChatGPT fornece uma referência, ela é frequentemente inventada ou aproximada. O aluno não pode clicar para ir ao trecho original em sua leitura recomendada, verificar a alegação em seus slides de aula ou confirmar a citação em seus materiais de curso. Esse é um problema sério para o trabalho acadêmico, onde a capacidade de rastrear um argumento até sua fonte é fundamental para todo o processo.

O que um tutor de IA baseado no curso faz de diferente

Um tutor de IA baseado nos materiais de curso do próprio aluno funciona em um modelo fundamentalmente diferente. O aluno envia seu plano de ensino, suas gravações de aulas (que são transcritas e pesquisáveis), suas leituras recomendadas em formato PDF ou e-book e seus slides de aula. A IA indexa esse conteúdo específico e responde às perguntas com base nele.

Quando o aluno pergunta sobre soberania nas relações internacionais, a resposta vem de suas leituras recomendadas e da explicação de seu professor. A resposta cita a página específica na leitura recomendada, ou o minuto exato na gravação da aula específica, onde o conceito foi discutido. O aluno pode clicar na citação e ver o texto original ou ouvir a explicação original.

Se os materiais do aluno não contiverem a resposta, a IA informa isso em vez de gerar uma a partir de seus dados gerais de treinamento. Essa é uma restrição por design: o tutor é limitado aos materiais de curso do aluno, o que significa que ele não pode produzir o tipo de alucinação plausível que torna os chatbots de uso geral não confiáveis em ambientes acadêmicos.

A distinção é importante por três razões.

Precisão. Cada resposta é baseada em materiais que a própria instituição recomendou. A IA está recuperando e sintetizando informações de fontes comprovadamente boas, em vez de gerar a partir de um vasto e inverificável corpus de treinamento.

Relevância. As respostas correspondem à abordagem, terminologia e linha teórica do curso, porque são extraídas dos materiais reais do curso. Um aluno que está se preparando para uma redação recebe ajuda que é diretamente aplicável, e não apenas genericamente próxima.

Verificabilidade. Cada alegação inclui uma citação que remete à fonte original. O aluno pode verificar a resposta da IA com a leitura ou com a aula. Os professores podem confiar na ferramenta porque cada resposta é rastreável.

A questão da integridade acadêmica

A preocupação do corpo docente com a IA na educação é em grande parte, e compreensivelmente, sobre a integridade acadêmica. O receio é que os alunos usem a IA para gerar trabalhos que entregarão como se fossem seus, ignorando o aprendizado que a avaliação foi projetada para produzir.

Essa preocupação é válida quando aplicada a chatbots de uso geral que geram redações, produzem respostas para perguntas de exames e criam textos originais que o aluno apresenta como se fossem sua própria autoria. Esses usos prejudicam ativamente o aprendizado, porque o aluno está terceirizando o trabalho cognitivo que a avaliação existe para desenvolver.

Um tutor de IA baseado no curso funciona de maneira diferente. Ele ajuda os alunos a navegar e entender os materiais que já foram recomendados. Ele explica conceitos usando a abordagem do professor. Ele encontra o trecho relevante para uma redação que os próprios alunos estão escrevendo. Ele gera perguntas para praticar para que o aluno possa testar sua compreensão antes de um exame. Ele conecta ideias entre leituras e aulas para aprofundar a compreensão.

Isso é mais próximo do que um excelente mecanismo de busca na biblioteca pessoal do aluno faz do que do que o ChatGPT faz. O tutor ajuda o aluno a entender melhor suas fontes. Ele não substitui essas fontes por texto gerado. O aluno ainda tem que pensar, analisar e escrever, mas faz isso com uma melhor compreensão do material com o qual está trabalhando.

Uma estrutura útil para pensar sobre isso: um professor se sentiria confortável se um aluno usasse um tutor humano para fazer exatamente as mesmas coisas? Se a resposta for sim, a versão de IA é igualmente apropriada. Tutores humanos explicam conceitos, ajudam os alunos a encontrar fontes relevantes e aplicam testes sobre o material. É isso que um tutor de IA baseado no curso faz, por uma fração do custo e disponível a qualquer hora.

O ciclo de incentivo positivo

Há um efeito secundário que vale a pena notar para os membros do corpo docente que organizam seus próprios materiais de curso. Como um tutor de IA baseado no curso é tão bom quanto os materiais nos quais é treinado, a qualidade da tutoria acompanha a qualidade do currículo.

Um curso com leituras cuidadosamente selecionadas, aulas bem estruturadas e materiais de apoio claros produz um tutor de IA que oferece respostas excelentes e bem fundamentadas. Um curso com leituras vagas e slides desorganizados produz um tutor que reflete essa desorganização. Isso cria um ciclo de incentivo positivo: professores que investem em seus materiais veem evidências diretas desse investimento na qualidade do suporte de IA que seus alunos recebem.

Para departamentos que pensam sobre a adoção de IA, isso reformula a conversa de "a IA vai prejudicar nosso ensino?" para "a IA nos dá um novo motivo para investir na qualidade de nossos materiais de ensino?"

A implicação para as diretrizes

As universidades que tratam todas as ferramentas de IA como equivalentes em suas diretrizes estão perdendo a distinção mais importante desse cenário: a diferença entre um chatbot de uso geral que gera conteúdo a partir de seus dados de treinamento e um tutor baseado no curso que recupera informações dos materiais recomendados.

Uma política que diz "os alunos não podem usar IA" bane ambos, perdendo os benefícios do segundo devido aos riscos do primeiro. Uma política que diz "os alunos podem usar IA" permite ambos, falhando em distinguir entre usos apropriados e inapropriados.

A estrutura de diretrizes mais útil distingue entre a IA que gera o trabalho que o aluno entrega como seu (claramente inadequada), a IA que ajuda os alunos a entender os materiais recomendados (claramente adequada) e uma área cinzenta que requer orientação explícita. O tutor de IA baseado no curso se enquadra firmemente na segunda categoria, e tornar essa distinção explícita protege tanto os resultados de aprendizagem quanto a integridade acadêmica.

Perguntas frequentes

Os alunos podem simplesmente copiar as respostas do tutor de IA em suas redações? As respostas do tutor são explicações e referências baseadas nos materiais do curso, não textos de redação prontos. Copiar a explicação de um conceito não é diferente de copiar um trecho de um livro-texto, e as instituições já possuem ferramentas de detecção de plágio para isso. O tutor foi projetado para ajudar os alunos a entenderem, não para produzir textos prontos para entrega.

E se um aluno usar tanto o ChatGPT quanto um tutor baseado no curso? Muitos alunos usarão, e uma diretriz de IA clara deve abordar isso diretamente. A distinção fundamental: usar o tutor baseado no curso para entender as leituras recomendadas é estudar. Usar o ChatGPT para gerar uma redação não é. As ferramentas são diferentes, os usos são diferentes e a política deve refletir isso.

Como sabemos se as respostas do tutor de IA são precisas? Porque cada resposta é recuperada de materiais que a própria instituição recomendou, e cada alegação inclui uma citação que aponta para o documento e trecho de origem específicos. A precisão é limitada pela qualidade dos materiais do curso, que a instituição controla.

Isso funciona para todas as disciplinas? Funciona para qualquer disciplina onde o aprendizado envolva o engajamento com textos, aulas e materiais de origem, o que abrange a grande maioria do ensino superior. Disciplinas com fortes componentes práticos (trabalho de laboratório, estágios clínicos, práticas de estúdio) se beneficiam do tutor de IA para o conteúdo teórico paralelamente ao trabalho prático.

Leitura recomendada: O problema dos dois sigma de Bloom, Por que os alunos evadem, Uma IA que só responde com base nos materiais do seu curso, Uma diretriz prática de IA para universidades. Páginas relacionadas: Tutor de IA, Para alunos, Fabric vs ChatGPT, Fabric vs Khanmigo.