Por qué ChatGPT es la IA equivocada para la educación

La mayoría de las universidades siguen teniendo un debate equivocado sobre la IA. La pregunta en las reuniones de profesores y comités de políticas suele ser binaria: ¿deberíamos permitir que los estudiantes usen ChatGPT o deberíamos prohibirlo? Ninguna de las dos respuestas es especialmente útil. Prohibirlo es inaplicable, ya que los estudiantes ya lo están utilizando y las herramientas de detección no son fiables. Permitirlo sin orientación deja a los estudiantes usando una herramienta que no se adapta bien a la educación de formas que pueden perjudicar activamente su aprendizaje.

La mejor pregunta, aquella a la que la mayoría de las conversaciones sobre políticas aún no han llegado, es qué tipo de IA es adecuada para la educación y qué tipo es contraproducente.

Tres problemas de los chatbots de uso general en la educación

ChatGPT y herramientas de IA de uso general similares tienen tres limitaciones fundamentales cuando se utilizan para estudiar.

Alucinan. Los modelos de lenguaje de uso general generan textos que parecen plausibles independientemente de si son precisos. En contextos académicos, esto significa que los estudiantes pueden recibir explicaciones detalladas y seguras que son parcial o totalmente erróneas. Un estudiante que le pregunte a ChatGPT sobre un concepto de su módulo de ciencias políticas podría obtener una respuesta que parezca autorizada pero que atribuya erróneamente una teoría, cite un artículo que no existe o presente una afirmación discutida como un consenso establecido. El estudiante, que recurrió a la IA porque no entendía el material, no tiene forma de evaluar si la respuesta es correcta, lo que significa que puede aprender y reproducir errores.

No conocen el plan de estudios. ChatGPT responde a partir de sus datos de entrenamiento, que es internet en general. No sabe qué hay en el programa de estudios del estudiante, qué lecturas se asignaron, qué enfatizó el profesor o cómo enmarca el curso un debate en particular. Cuando un estudiante pregunta sobre el concepto de soberanía en las relaciones internacionales, ChatGPT da una respuesta genérica extraída de su corpus de entrenamiento. Pero el curso del estudiante podría enmarcar la soberanía a través de una lente teórica específica, asignar lecturas específicas que defiendan una posición particular y esperar que el estudiante aborde ese marco en su ensayo. La respuesta genérica es, en el mejor de los casos, inútil y, en el peor, engañosa, porque no coincide con lo que realmente se le pide que aprenda.

No citan fuentes que el estudiante pueda verificar. Cuando ChatGPT proporciona una referencia, a menudo es fabricada o aproximada. El estudiante no puede hacer clic para ir al pasaje original de la lectura asignada, contrastar la afirmación con las diapositivas de la clase o verificar la cita en los materiales de su curso. Este es un problema grave para el trabajo académico, donde la capacidad de rastrear un argumento hasta su origen es fundamental para todo el proceso.

Qué hace diferente a un tutor de IA basado en el curso

Un tutor de IA basado en los propios materiales del curso del estudiante funciona con un modelo fundamentalmente diferente. El estudiante sube su plan de estudios, sus grabaciones de clase (que están transcritas y se pueden buscar), sus lecturas asignadas en PDF o libros electrónicos, y sus diapositivas de clase. La IA indexa este contenido específico y responde a las preguntas a partir de él.

Cuando el estudiante pregunta sobre la soberanía en las relaciones internacionales, la respuesta proviene de sus lecturas asignadas y de la explicación de su profesor. La respuesta cita la página específica de la lectura concreta, o la marca de tiempo específica de la clase correspondiente, donde se analizó el concepto. El estudiante puede hacer clic en la cita y ver el texto original o escuchar la explicación de origen.

Si los materiales del estudiante no contienen la respuesta, la IA lo indica en lugar de generar una a partir de sus datos generales de entrenamiento. Esta es una limitación por diseño: el tutor está limitado a los materiales del curso del estudiante, lo que significa que no puede producir el tipo de alucinación plausible que hace que los chatbots de uso general no sean fiables en entornos académicos.

La distinción es importante por tres razones.

Precisión. Cada respuesta se basa en materiales que la propia institución ha asignado. La IA recupera y sintetiza a partir de fuentes de confianza conocidas en lugar de generar a partir de un corpus de entrenamiento vasto y no verificable.

Relevancia. Las respuestas coinciden con el marco, la terminología y el enfoque teórico del curso, porque se extraen de los materiales reales del mismo. Un estudiante que prepara un ensayo recibe una ayuda que es directamente aplicable en lugar de genéricamente cercana.

Verificabilidad. Cada afirmación incluye una cita que remite a la fuente original. El estudiante puede comprobar la respuesta de la IA comparándola con la lectura o la clase. Los profesores pueden confiar en la herramienta porque cada respuesta es rastreable.

La cuestión de la integridad académica

La preocupación del profesorado por la IA en la educación se debe en gran medida, y de forma comprensible, a la integridad académica. El temor es que los estudiantes utilicen la IA para generar trabajos que luego presenten como propios, eludiendo el aprendizaje para el que se diseñó la evaluación.

Esta preocupación es válida cuando se aplica a chatbots de uso general que generan ensayos, producen respuestas a preguntas de exámenes y crean textos originales que el estudiante hace pasar por su propio pensamiento. Estos usos socavan activamente el aprendizaje, porque el estudiante está externalizando el trabajo cognitivo que la evaluación pretende desarrollar.

Un tutor de IA basado en el curso funciona de manera diferente. Ayuda a los estudiantes a navegar y comprender los materiales que ya se les han asignado. Explica los conceptos utilizando el marco del profesor. Encuentra el pasaje relevante para un ensayo que ellos mismos están escribiendo. Genera preguntas de práctica para que el estudiante pueda poner a prueba su comprensión antes de un examen. Conecta ideas a través de las lecturas y las clases para profundizar en la comprensión.

Esto se parece más a lo que hace un excelente motor de búsqueda sobre la biblioteca personal del estudiante que a lo que hace ChatGPT. El tutor ayuda al estudiante a comprender mejor sus fuentes. No sustituye esas fuentes por texto generado. El estudiante sigue teniendo que pensar, analizar y escribir, pero lo hace con una mejor comprensión del material con el que trabaja.

Un marco útil para reflexionar sobre esto: ¿se sentiría cómodo un profesor si un estudiante utilizara un tutor humano para hacer exactamente lo mismo? Si la respuesta es sí, la versión de IA es igual de adecuada. Los tutores humanos explican conceptos, ayudan a los estudiantes a encontrar fuentes relevantes y les hacen preguntas sobre el material. Eso es lo que hace un tutor de IA basado en el curso, a una fracción del coste y disponible a cualquier hora.

El bucle de incentivo positivo

Hay un efecto secundario que vale la pena señalar para los profesores que preparan sus propios materiales de curso. Dado que un tutor de IA basado en el curso es tan bueno como los materiales con los que se entrena, la calidad de la tutoría escala con la calidad del plan de estudios.

Un curso con lecturas cuidadosamente seleccionadas, clases bien estructuradas y materiales de apoyo claros produce un tutor de IA que ofrece respuestas excelentes y bien fundamentadas. Un curso con lecturas vagas y diapositivas desorganizadas produce un tutor que refleja esa desorganización. Esto crea un bucle de incentivo positivo: los profesores que invierten en sus materiales ven pruebas directas de esa inversión en la calidad de la ayuda de IA que reciben sus estudiantes.

Para los departamentos que están considerando la adopción de la IA, esto replantea la conversación de "¿la IA socavará nuestra enseñanza?" a "¿nos da la IA una nueva razón para invertir en la calidad de nuestros materiales didácticos?".

La implicación política

Las universidades que tratan a todas las herramientas de IA como equivalentes en sus normativas están perdiendo de vista la distinción más importante del panorama: la diferencia entre un chatbot de uso general que genera contenido a partir de sus datos de entrenamiento y un tutor basado en el curso que recupera información de los materiales asignados.

Una política que dice "los estudiantes no pueden usar IA" prohíbe ambas cosas, perdiendo los beneficios de la segunda debido a los riesgos de la primera. Una política que dice "los estudiantes pueden usar IA" permite ambas, al no distinguir entre usos adecuados e inadecuados.

El marco normativo más útil distingue entre la IA que genera trabajos que el estudiante presenta como propios (claramente inadecuada), la IA que ayuda a los estudiantes a comprender los materiales asignados (claramente adecuada) y una zona gris que requiere una orientación explícita. La tutoría de IA basada en el curso se sitúa firmemente en la segunda categoría, y hacer explícita esa distinción protege tanto los resultados del aprendizaje como la integridad académica.

Preguntas frecuentes

¿Pueden los estudiantes simplemente copiar las respuestas del tutor de IA en sus ensayos? Las respuestas del tutor son explicaciones y referencias basadas en los materiales del curso, no prosa de ensayo pulida. Copiar la explicación de un concepto no difiere de copiar un pasaje de un libro de texto, y las instituciones ya disponen de detección de plagio para eso. El tutor está diseñado para ayudar a los estudiantes a comprender, no para producir textos entregables.

¿Qué pasa si un estudiante utiliza tanto ChatGPT como un tutor basado en el curso? Muchos estudiantes lo harán, y una política de IA clara debería abordar esto directamente. La distinción clave: utilizar el tutor basado en el curso para comprender las lecturas asignadas es estudiar. Utilizar ChatGPT para generar un ensayo no lo es. Las herramientas son diferentes, los usos son diferentes y la política debe reflejarlo.

¿Cómo sabemos que las respuestas del tutor de IA son precisas? Porque cada respuesta se recupera de los materiales que la propia institución ha asignado, y cada afirmación incluye una cita que remite al documento y pasaje original específico. La precisión está limitada por la calidad de los materiales del curso, que la institución controla.

¿Funciona esto para todas las asignaturas? Funciona para cualquier asignatura en la que el aprendizaje implique trabajar con textos, clases y materiales de origen, lo que cubre la gran mayoría de la educación superior. Las asignaturas con un fuerte componente práctico (trabajo de laboratorio, prácticas clínicas, clases de taller) se benefician del tutor de IA para el contenido teórico que acompaña al trabajo práctico.

Lecturas relacionadas: El problema de los dos sigma de Bloom, Por qué los estudiantes abandonan los estudios, Una IA que solo responde a partir de los materiales de tu curso, Una política práctica de IA para las universidades. Páginas relacionadas: Tutor de IA, Para estudiantes, Fabric frente a ChatGPT, Fabric frente a Khanmigo.