IA Generativas

Por:  Karina Fuerte

Olvídate del plagio, conoce otras amenazas del uso de ChatGPT y otras IA generativas que son mucho más significativas y tendrán un impacto en el futuro de la educación.

Esta semana leí dos reflexiones muy interesantes sobre el uso de ChatGPT y otras inteligencias artificiales (IA) generativas en el aula. La primera es de Hong Yang, publicada en Nature. En este artículo, Yang explica por qué decidió empezar a usar las IA generativas y los grandes modelos de lenguaje (LLM por sus siglas en inglés) en sus clases y explica por qué las universidades deben incluirlas en sus programas de estudio. “Mis estudiantes pronto se graduarán y empezarán a trabajar, y sus empleadores podrían pedirles que trabajen con modelos de inteligencia artificial. Si no saben cómo usarlos correctamente, podría frenarlos. No podemos evitar que los estudiantes usen calculadoras o Internet, y no podremos evitar que usen ChatGPT. Es mejor entender la herramienta y tratar de integrarla en la enseñanza”, escribe Yang, profesor de ciencias ambientales y copresidente de la red Black, Asian and Minority Ethnic de la Universidad de Reading, Reino Unido.

La segunda lectura, escrita por Collin Bjork y publicada en The Conversation, exhorta a las escuelas y universidades a no entrar en pánico por la llegada de las AI generativas, particularmente en el ámbito del plagio académico, en su lugar, nos invita a pensar en otras amenazas mucho más significativas que pueden afectar otros temas como la equidad en la educación. “En lugar de preocuparse demasiado por el plagio, los educadores se beneficiarían de prepararse para otras desigualdades de la IA, las cuales se muestran en la última versión de OpenAI: GPT-4”, advierte Bjork, profesor titular en la Universidad de Massey.

Ambos artículos tocan puntos muy importantes, aunque con enfoques diferentes. Por un lado, Yang se centra en el porqué es esencial cambiar los métodos de evaluación tradicionales de manera que los estudiantes (y los docentes) aprendan a usar estas herramientas como apoyo para sus proyectos. En su caso, pidió a los estudiantes que además de escribir ensayos, den una presentación oral de 10 minutos para compartir sus hallazgos. “Este enfoque no solo reduce las posibilidades de plagio, sino que también hace que el proceso de evaluación sea más interactivo y atractivo”, señala el profesor.

Por su parte, Collin Bjork explica que la cuarta versión de ChatGPT, aunque es más segura y precisa, ahora tiene un costo de US$20 al mes. Si bien este puede ser un precio insignificante para muchas personas (sobre todo por lo que puede ofrecer), para muchas otras personas pagar veinte dólares al mes solo para usar esta herramienta es impensable. Abriendo así una brecha digital significativa que apenas está iniciando, pues con el tiempo esta brecha podría ampliarse cada vez más. “Esta brecha digital coloca a los estudiantes y las instituciones educativas en dos bandos. Aquellos con suficientes recursos para disfrutar de los beneficios de las herramientas de IA. Y aquellos sin la misma flexibilidad financiera que se quedan atrás”, señala Bjork.

Ambos autores coinciden en que las IA generativas pueden tener un impacto negativo en áreas como la diversidad y la inclusión de las instituciones educativas. Yang da el ejemplo de cómo pidió a ChatGPT que le diera una lista de libros sobre cambio climático y sus autores, especificándole a la IA que la lista de libros se la diera «independientemente de la raza y el idioma». El resultado fue decepcionante, pues todas las lecturas recomendadas de ChatGPT habían sido escritas en inglés, “nueve de los diez autores eran blancos y nueve de los diez autores eran hombres”, señaló Yang por lo que advierte a los lectores que “el uso de información de libros y sitios web antiguos para capacitar a los LLM puede conducir a representaciones sesgadas e inexactas de las perspectivas de las personas en comunidades marginadas, al tiempo que amplifica las voces de quienes están en posiciones de poder”.

En la misma línea, Collin Bjork advierte que las IA pueden perpetuar el dominio global del inglés a expensas de otros idiomas, “especialmente los idiomas orales e indígenas”. Este es un tema al que como comunidad educativa debemos prestar mucha atención ahora y en los próximos años, ya que los grandes modelos de lenguaje (LLM) aprenden de conjuntos de datos en línea con poco contenido indígena y una cantidad abrumadora de contenido en inglés. “Estas amenazas son importantes porque las herramientas de inteligencia artificial pronto se incorporarán a Microsoft Office, los motores de búsqueda y otras plataformas de aprendizaje”, advierte Bjork.

Ambas reflexiones me parecieron muy interesantes y refrescantes, ya que no se concentraban en el plagio como única amenaza y punto crítico del uso de inteligencias artificiales generativas como ChatGPT. En lo personal, me preocupa que el uso de estas herramientas perpetúe el statu quo y el dominio de los grupos de poder, minimizando todavía más las voces de las minorías y de los grupos históricamente oprimidos.

Me gustaría conocer su punto de vista sobre estas problemáticas. ¿Habías pensado en estas otras amenazas de las IA? Más allá del plagio, ¿qué otras desventajas destacas del uso de estas herramientas?

Por último, si quieres continuar con la conversación sobre este tema, te invito a unirte al Diálogo: “El impacto del ChatGPT y las IA generativas en la educación superior”, que se llevará a cabo este martes 18 de abril a las 9:00 a.m., hora central de México (GMT-6) a través de Facebook Live. En esta edición de Diálogos, expertos del Tec de Monterrey, la Universitat Oberta de Catalunya (UOC) y la Pontificia Universidad Católica del Perú (PUCP) hablarán sobre los aspectos positivos y los retos que conlleva la utilización estas herramientas.

Hasta la próxima semana.

Karina Fuerte
*Editora en jefe, Observatorio del Instituto para el Futuro de la Educación

Fuente de la información e imagen: https://observatorio.tec.mx