Consideraciones urgentes sobre inteligencia artificial y educación

Por: Mauro Jarquin 

El desarrollo de la inteligencia artificial (IA) ha sido sobresaliente en los últimos años. Su expansión ha alcanzado también al sector educativo, donde se ha visto una vorágine de innovación acompañada por campañas publicitarias en torno a las grandes ventajas de la adopción tecnológica. Así, se ha buscado construir una narrativa en la cual la IA es esencialmente una herramienta que puede asistir a docentes y estudiantes en el proceso de enseñanza-aprendizaje por medio de estrategias como la personalización y a la cual el profesorado puede delegar una amplia gama de responsabilidades, particularmente administrativas, que suelen requerir mucho tiempo para ser realizadas.

El anunciado desembarco de la IA privada en sistemas escolares del mundo ha generado gran interés en amplios sectores sociales y académicos, entre los cuales se ha expresado tanto confianza, respecto de las potenciales mejoras en la enseñanza y el aprendizaje, como escepticismo o franca preocupación, respecto de los efectos de la “aplicación” de dicha tecnología. Como efecto de ello se han organizado charlas y debates en los cuales se han discutido perspectivas sobre la IA y la educación.

Si bien dichos encuentros han resultado sumamente interesantes, hasta ahora la discusión ha versado principalmente en torno a las limitaciones estructurales y desigualdad en el acceso a tecnologías y a Internet, así como a preocupaciones de carácter instrumental, relativas a cómo incrementar nuestra productividad y aprovechar dicha tecnología. Se han discutido también ciertos riesgos asociados generalmente a su mal uso, plagio o sesgos contenidos en la IA generativa.

Comúnmente, la IA en educación se da por sentada, como si no tuviera historia o contexto. Además, se presenta como si fuera una herramienta lista para ser utilizada a placer por sus usuarios. No se le considera en tanto articulación técnica, condicionada históricamente y con la facultad de generar efectos en quienes la emplean. Una tecnología productiva no sólo de contenido académico útil y “accesible”, sino también de nuevas sociabilidades en el campo educativo.

Es importante considerar al menos tres problemáticas vinculadas al desarrollo histórico de la IA en educación:

Datificación digital alude al proceso mediante el cual la realidad educativa se transforma en grandes volúmenes de información que es procesada por máquinas (datos), lo cual permite a la IA realizar tareas como cálculos, proyecciones, diagnósticos, etcétera. Dado que la compleja realidad cotidiana debe ser estudiada por máquinas, la datificación conlleva también simplificación. Si bien la generación de datos educativos se puede efectuar de distintas formas –como las pruebas estandarizadas a gran escala, entre las cuales PISA es sobresaliente–, el uso de plataformas y software en educación incrementa sustancialmente la capacidad de obtener información. La recolección de dichos datos debe ser constante. Con ello, las escuelas funcionan como minas de datos y el ejercicio educativo se torna en práctica extractiva que puede beneficiar a las grandes empresas dueñas de las “herramientas” digitales.

El asunto del poder resulta crucial cuando hablamos de estructuras digitales, plataformas y formas de IA. Esto se da, cuando menos, en tres sentidos: a) todas esas expresiones constituyen sistemas sociotécnicos que reorganizan distintos procesos educativos, curriculares, de gestión y evaluación. Las estructuras digitales, y la propia IA, condicionan tanto la interacción digital de los usuarios, como los resultados de investigación; b) la tecnología, particularmente la IA generativa, conlleva implicaciones ideológicas que se expresan en forma de “sesgos” en los textos que producen. Distintos productos de IA generan resultados definidos políticamente, tal como han mostrado estudios sobre los posicionamientos de Google Bard y Chat GPT de Open AI sobre la guerra entre Rusia y Ucrania; c) por otro lado, la datificación educativa es un ejercicio de poder, dado que construye un campo de acción en el cual actores como burocracias y empresas pueden posteriormente intervenir desde fuera por medio de dispositivos de política con el objetivo de modular comportamientos y obtener beneficios.

Finalmente, la expansión del capitalismo digital constituye el contexto del impulso de la IA en el sector educativo. A ello responde también la abierta competencia entre Google y Microsoft respecto de la provisión de IA para educación. Lo anterior conlleva al menos dos implicaciones: a) creación de enclaves de rentabilidad privada en el ámbito de la educación pública, por la vía de comercialización de productos de IA, lo cual podría conducir a otro ciclo de privatización educativa; b) un uso de IA en educación enfocada prioritariamente en la formación de capital humano, ahora asociado a los requerimientos de la cuarta revolución industrial.

Ante el entusiasmo por la transformación digital de la educación resulta sugerente mantener una distancia crítica que permita a comunidades educativas, profesorado, estudiantes y familias conocer y discutir sus aristas y tensiones internas. Así, podremos tener mayor claridad en torno a la construcción/consolidación de proyectos educativos de actualidad que sean capaces de atender las necesidades educativas del siglo XXI sin ceder el control de la educación a actores ajenos.

Luchar por una educación crítica y democrática en el siglo XXI conlleva superar el fetichismo tecnológico. Así, antes de invitar sin discusión a docentes y escuelas a “modernizarse”, es importante considerar la compleja circunstancia histórica de la IA, así como las potenciales implicaciones (favorables o no) de su uso respecto a las actividades educativas cotidianas.

* Profesor FFL-UNAM

Twitter: @MaurroJarquin

Comparte este contenido: