Una IA que solo responde a partir de los materiales de tu curso

La preocupación que el profesorado plantea con más frecuencia sobre la IA en la educación es que los estudiantes reciban y confíen en información incorrecta. Esta preocupación es totalmente válida cuando se aplica a modelos de lenguaje de propósito general, que generan textos que suenan plausibles independientemente de su precisión y que no pueden distinguir entre afirmaciones bien fundamentadas y cosas que se han inventado.

La respuesta de la mayoría de las instituciones ha sido prohibir la IA o aceptar el riesgo y esperar que los estudiantes desarrollen el pensamiento crítico necesario para evaluar el resultado. Ninguno de los dos enfoques aborda el problema de fondo, que es que se está utilizando el tipo de IA equivocado para el propósito equivocado.

Un tutor de IA que responde exclusivamente a partir de los propios materiales del curso del estudiante funciona con una arquitectura fundamentalmente diferente, y la diferencia elimina el problema de las alucinaciones en su origen.

Cómo funciona

Cuando un estudiante sube los materiales de su curso a Fabric, el sistema indexa todo: el programa de estudios, las lecturas asignadas en PDF, las diapositivas de las clases, los capítulos de los libros de texto, las grabaciones de las clases (que se transcriben e incorporan marcas de tiempo automáticamente) y cualquier nota que el estudiante haya escrito.

Cuando el estudiante hace una pregunta, el asistente de IA extrae la respuesta de este contenido indexado. Busca en todos los documentos por significado, encuentra los pasajes relevantes, sintetiza una respuesta y proporciona una cita para cada afirmación que apunta a la fuente específica: el número de página en el PDF, la diapositiva en la presentación o la marca de tiempo en la grabación de la clase.

El estudiante puede hacer clic en cualquier cita y ver el texto original o escuchar la explicación original. La respuesta es verificable con respecto a los materiales que la propia institución asignó.

Si los materiales del estudiante no contienen la respuesta, la IA lo dice. No recurre a la generación a partir de sus datos de entrenamiento generales. Esta limitación es la decisión de arquitectura más importante de todas, porque significa que el sistema no puede producir el tipo de alucinación segura de sí misma que hace que los chatbots de propósito general no sean fiables en entornos académicos.

Qué significa esto para el profesorado

Para los profesores que se muestran escépticos sobre la IA en la educación, y con razón, un tutor basado en el curso cambia por completo el perfil de riesgo.

Cada respuesta es auditable. Un profesor puede hacer la misma pregunta que hizo el estudiante y ver exactamente de qué fuentes se nutrió la IA y si su síntesis es razonable. Se trata de una estructura de responsabilidad fundamentalmente diferente a la de un chatbot de propósito general cuyo razonamiento es opaco y cuyas fuentes son inverificables.

La IA refuerza su enseñanza en lugar de sustituirla. Cuando un estudiante le pide al tutor que le explique un concepto, la explicación utiliza el enfoque de la clase del profesor y de la lectura asignada, porque esas son las fuentes a las que la IA tiene acceso. El estudiante se involucra más profundamente con los materiales que el profesor eligió, que es lo contrario de lo que sucede cuando un estudiante le pregunta a ChatGPT y obtiene una explicación genérica que puede contradecir el enfoque del curso.

La calidad del tutor refleja la calidad del plan de estudios. Esta es quizás la implicación más interesante para los diseñadores de cursos. Un curso con lecturas cuidadosamente seleccionadas, clases bien estructuradas y materiales de apoyo claros produce un tutor de IA que ofrece respuestas excelentes y bien fundamentadas. Un curso con lecturas vagas y diapositivas desorganizadas produce un tutor que refleja esa desorganización. La IA es un espejo de los materiales del curso, lo que crea un incentivo positivo: invertir en mejores materiales mejora directamente el apoyo de IA que reciben los estudiantes.

Los estudiantes aprenden a trabajar con fuentes. Dado que cada respuesta apunta a un pasaje específico en un documento específico, los estudiantes desarrollan el hábito de rastrear las afirmaciones hasta sus fuentes. Esto es lo contrario de la dinámica de ChatGPT, en la que los estudiantes aprenden a aceptar el texto generado sin verificación. El tutor enseña el razonamiento basado en fuentes como un efecto secundario de su arquitectura.

La distinción que importa para la integridad académica

La principal preocupación de la integridad académica con respecto a la IA es que los estudiantes presenten trabajos generados por IA como propios. Esta preocupación se asocia a un caso de uso específico: un estudiante le pide a una IA que escriba su ensayo, que resuelva sus problemas o que genere el texto que debe presentar para su evaluación.

Por diseño, un tutor basado en el curso no es adecuado desde el punto de vista arquitectónico para este caso de uso. Explica conceptos a partir de los materiales asignados. Encuentra pasajes relevantes. Genera preguntas de práctica. Ayuda a los estudiantes a conectar ideas entre lecturas y clases. Lo que no hace es producir textos pulidos listos para entregar, porque no está diseñado para eso.

La prueba útil, mencionada en la comparación con ChatGPT: ¿se sentiría cómodo un profesor si un estudiante utilizara un tutor humano para hacer exactamente lo mismo? Los tutores humanos explican conceptos, ayudan a los estudiantes a encontrar fuentes relevantes, les hacen preguntas sobre el material y conectan ideas entre las lecturas. Ningún profesor considera que esto sea hacer trampa. La versión de IA es el mismo conjunto de actividades, ofrecidas a gran escala y disponibles a cualquier hora.

El marco de políticas de IA para las instituciones puede hacer explícita esta distinción: la IA que ayuda a los estudiantes a comprender los materiales asignados es una herramienta de estudio adecuada. La IA que genera el trabajo que el estudiante presenta como propio, no. La arquitectura de la herramienta, y no solo la política que la rodea, debería imponer este límite.

Para los estudiantes: cómo sacarle el máximo partido

Si tu universidad ofrece acceso a un tutor de IA basado en el curso, o si tú mismo configuras uno, algunas prácticas harán que sea significativamente más útil.

Súbelo todo. El tutor solo puede responder a partir de lo que tiene. El programa de estudios le da la estructura del curso. Las lecturas le dan los argumentos. Las grabaciones de las clases le aportan lo que el profesor realmente dijo, incluidos los énfasis, las aclaraciones y las digresiones que no aparecen en las diapositivas. Cuanto más completa sea tu biblioteca, mejores serán las respuestas del tutor.

Pídele que te lo explique utilizando el enfoque del profesor. Si no entendiste un concepto de la clase, pídele al tutor que te lo explique basándose en la transcripción de la clase y en la lectura correspondiente. La explicación utilizará la terminología y el enfoque de tu curso en lugar de uno genérico.

Utilízalo para la práctica de recuperación. Pídele al tutor que te haga preguntas sobre el material de las últimas tres semanas o que genere preguntas de práctica a partir de una lectura específica. Evaluarse a uno mismo es la técnica de estudio más eficaz, y el tutor genera preguntas basadas en tu contenido real.

Pídele que encuentre conexiones. "¿Cómo se relaciona el concepto de la lectura de la semana 2 con el caso de estudio de la semana 7?" es el tipo de pregunta que produce un aprendizaje real, porque el tutor puede buscar en toda tu biblioteca y mostrar conexiones que podrías haber pasado por alto.

Anota a medida que avanzas. Tus partes destacadas y anotaciones en las lecturas pasan a formar parte de la biblioteca en la que se pueden realizar búsquedas. Cuando estés escribiendo un ensayo y necesites "el pasaje sobre el sesgo institucional en la lectura de la semana 3", la búsqueda encontrará tanto el texto original como tu anotación sobre por qué es importante.

Preguntas frecuentes

¿Qué pasa si la síntesis de la IA es incorrecta incluso cuando la fuente es correcta? Esto puede suceder, y por eso es importante la arquitectura de las citas. El estudiante siempre puede hacer clic para ver el pasaje original y evaluar la interpretación de la IA con respecto al texto de origen. Una síntesis incorrecta con una cita visible se corrige por sí misma de una manera en que una respuesta alucinada sin fuente nunca lo hace.

¿Puede la IA acceder a los materiales de los cursos de otros estudiantes? No. La biblioteca de cada estudiante es privada e independiente. La IA solo accede a los materiales que ese estudiante en particular ha subido a su espacio de trabajo. No hay contaminación cruzada entre los materiales de los cursos de los estudiantes, y los datos están encriptados y nunca se utilizan para entrenar los modelos de IA.

¿Qué ocurre con los materiales del curso protegidos por derechos de autor? Los materiales permanecen en el espacio de trabajo privado del estudiante, de la misma manera que una copia física de un libro de texto permanece en la habitación del estudiante. La IA lee el contenido subido por el estudiante para ayudarle a estudiar; no distribuye, reproduce ni pone esos materiales a disposición de nadie más.

¿Funciona la IA con notas manuscritas? Si el estudiante fotografía sus notas manuscritas y las sube, el sistema puede procesarlas e indexarlas. Para una mayor facilidad de búsqueda, las notas escritas a ordenador o los memos de voz que se transcriben automáticamente son más fiables, pero las notas manuscritas son compatibles.

Lecturas relacionadas: Tutoría de IA frente a ChatGPT, Por qué los estudiantes abandonan los estudios, El problema de las dos sigmas de Bloom, Cómo recordar lo que aprendes. Páginas relacionadas: Tutor de IA, Para estudiantes, Caso de uso de tutoría de IA, Mejor tutor de IA.