Inteligencia artificial y educación

Resumen C

Puede acceder al informe completo aquí. 

Relevancia

La inteligencia artificial (IA)* se ha popularizado desde la llegada de la IA generativa. El cambio de paradigma no deriva solo de la disponibilidad de nuevas herramientas: la clave es que es posible, si así se decide, delegar en las máquinas tareas complejas que antes eran dominio exclusivo de la inteligencia humana.

Su uso en educación conlleva oportunidades y riesgos sobre los que todavía hay incertidumbres: aún no hay suficiente evidencia sólida e independiente sobre los efectos de introducirla en la educación y su eficacia para mejorar el aprendizaje.
Frente a las altas expectativas de algunos y el pesimismo de otros, el personal experto insta a debatir cómo encaja la IA en el sistema educativo. A pesar de la celeridad con que aparecen nuevas herramientas, urge decidir cómo dotar a las instituciones con los medios materiales, las capacidades humanas, la metodología, y los marcos éticos y regulatorios para mejorar la educación.

En este informe se resumen las oportunidades y riesgos de la IA en educación, así como algunas alternativas para relacionarse con esta tecnología de manera más segura y responsable.

Inteligencia artificial

Las herramientas más destacadas de IA se basan en el aprendizaje automático y en particular en el aprendizaje profundo, es decir, los programas aprenden a partir de la experiencia y son capaces de identificar patrones en los datos sin necesidad de indicarles previamente cuáles son los parámetros más relevantes. 

Entre ellos, las herramientas de IA generativa producen contenido (texto, imágenes, audio, video) siguiendo las indicaciones del usuario. En particular, los modelos de lenguaje de gran tamaño como ChatGPT, entrenados con gran cantidad de información procedente de internet, generan textos muy parecidos a los redactados por personas. Sin embargo, no entienden realmente el lenguaje. De forma simplificada, sus respuestas se basan en la probabilidad de que una palabra siga a otra, por lo que pueden inducir a error. En la actualidad, almacenan más conocimiento en inglés, lo que puede disminuir la calidad de las respuestas en otras lenguas. Por ello, en España se está desarrollando un modelo entrenado en español y en las lenguas cooficiales.

En el foco

Las herramientas de IA en educación son numerosas y utilizan diferentes aproximaciones con el objetivo de apoyar el aprendizaje. 
Algunas son capaces de desempeñar tareas específicas, como resolver problemas matemáticos, corregir código o traducir textos. Otras, tratan de personalizar el aprendizaje, ya sea mediante tutores virtuales o plataformas educativas. Estas últimas se basan en los datos de entrenamiento y en los de uso y crean modelos capaces de recomendar itinerarios de aprendizaje que responden al progreso del estudiante en la asignatura. Algunas de estas herramientas han demostrado su eficacia a nivel académico, aunque pueden acarrear desventajas como el empobrecimiento de la dimensión social del aprendizaje.

Las herramientas de IA generativa también pueden ser útiles para el alumnado adulto siempre que se utilicen siguiendo las normas establecidas en la institución. Pueden usarlas para tareas como resumir, definir conceptos, clarificar el significado de un texto o simplificarlo. 
Algunos modelos, como ChatGPT, ofrecen respuestas que permiten sacar buenas notas en trabajos universitarios sin que se identifique el uso de la IA. Además, actualmente no es posible detectar si un texto ha sido creado por IA generativa y si se sospecha no se puede evidenciar la copia. Por tanto, urge replantearse qué se va a aprender y con qué fines y cómo se van a examinar y validar las capacidades del alumnado, ya que las pruebas sin vigilancia pueden no reflejar sus conocimientos. 

La IA generativa puede apoyar al profesorado y al personal educativo en tareas como elaborar planes de sus asignaturas, generar rúbricas, adaptar textos, o automatizar tareas administrativas rutinarias (planificar horarios, asignar espacios etc.).

El profesorado también puede usar herramientas de IA como apoyo en las correcciones o para obtener información sobre cómo aprende el alumnado. Los datos obtenidos a través de distintas herramientas digitales se analizan y modelan para hacer predicciones que permiten al profesor adaptar sus contenidos a los progresos y dificultades del grupo. Por otro lado, la herramienta gratuita Eduteams permite optimizar la formación de equipos en clase.  

Además de las oportunidades, el uso de IA en educación también plantea riesgos. Entre estos, se encuentran preocupaciones sobre la privacidad y la protección de datos, posibles errores e inexactitudes del contenido generado, la discriminación por sesgos, la definición de autoría y el respeto a los derechos de autor o el impacto en las capacidades humanas, como la creatividad o la curiosidad. Asimismo, existen riesgos como la desconexión social del alumnado, depositar demasiada confianza en las decisiones algorítmicas, o que los estudiantes se sientan vigilados y cambien sus comportamientos.  También, el riesgo de una posible privatización encubierta de la educación, la homogenización de contenidos sin considerar las diferencias culturales, el aumento de la brecha digital o que la IA suponga un alto coste ambiental. 

Horizonte 

Para decidir sobre el encaje de la IA en el sistema educativo y limitar sus riesgos e impactos indeseados, se precisa contar tanto con los tecnólogos como con los responsables políticos, los especialistas en ciencias sociales y la comunidad educativa. Además, hay aspectos que favorecen una relación más segura y productiva con la IA. 

Por un lado, el desarrollo de una IA responsable y de calidad demostrada, que cumpla con la ley, se adhiera a principios éticos y sea robusta, explicable y admita la supervisión humana. Por otro lado, es importante establecer leyes específicas, ya en marcha con el reglamento europeo sobre IA, que entrará en vigor mayoritariamente en 2026, y otras iniciativas. 

Por último, la alfabetización en IA del alumnado y el personal educativo es clave, no solo para usar la tecnología existente, sino también para entender su funcionamiento, cultivar el pensamiento crítico y ser innovadores y responsables en su desarrollo y aplicación. El profesorado preuniversitario en España cree que necesita formación en IA, esencial para adaptar las nuevas herramientas a sus prioridades pedagógicas.
Finalmente, la comunidad experta urge a promover recursos educativos abiertos y el desarrollo de herramientas públicas independientes.