No preguntes a ChatGPT: Y dejemos de llamar inteligencia artificial a los algoritmos estadísticos.

Suzana Herculano-Houzel / Biólogo y neurocientífico de la Universidad de Vanderbilt (EE. UU.)

Las noticias más aterradoras que leí el mes pasado no tenían nada que ver con Trump ni con Bolsonaro, ni siquiera con la hambruna en Gaza, lo que simplemente demuestra que es posible ser inhumano incluso con la capacidad biológica de 16 mil millones de neuronas corticales para tomar buenas decisiones que consideren el bien de los demás. La noticia que más me asustó fue otra: nuestros jóvenes están recurriendo a algoritmos estadísticos para buscar consejo, obtener apoyo emocional y tomar decisiones, además, por supuesto, de hacer sus deberes.

Según la encuesta , la mitad de los adolescentes estadounidenses utilizan regularmente plataformas y aplicaciones de inteligencia artificial como «amigos digitales». Por si fuera poco, un tercio de los jóvenes encuestados ya ha recurrido a algoritmos estadísticos para hablar de temas importantes, y el 31 % considera que hablar con estos algoritmos es tan bueno como hablar con amigos de verdad. La hija adolescente de mi invitado lo confirma: usa ChatGPT para pedir consejos, recomendaciones e ideas.

Esto resulta aterrador a un nivel completamente diferente de los temores a la obsolescencia de las habilidades humanas, impulsada por la tecnología, que se remontan a Platón, como «los libros acabarán con la memoria oral», «la radio acabará con la lectura», «internet acabará con los periódicos». Los libros, la radio, los periódicos e incluso el conjunto de datos acumulados, documentados, catalogados y disponibles a través de internet se han mantenido fieles a la intención de los seres humanos que observaron, pensaron y generaron el conocimiento comunicado a través de estos medios. Sin embargo, lo más importante es que el uso de la información y el conocimiento transmitidos depende de personas reflexivas que, con su voluntad y valores humanos, ofrezcan comprensión, amistad y consejo con intención, empatía y preocupación por el futuro.

Algoritmos, no. La llamada «inteligencia artificial» que consultan los jóvenes, que no tiene nada que ver con la inteligencia, ya que no tiene ni ofrece flexibilidad, es simplemente un algoritmo estadístico. Potenciados por la vasta capacidad computacional que la cognición humana ha desarrollado en silicio, y a costa de una gran cantidad de energía, estos algoritmos mapean la probabilidad de secuencias de palabras cada vez más largas. Ante una pregunta o solicitud, las «respuestas» que generan los algoritmos estadísticos son simplemente nuevas secuencias de palabras relacionadas con la pregunta, que reflejan su probabilidad de ocurrencia en el conjunto de datos que entrenó el algoritmo.

En otras palabras: los algoritmos estadísticos entrenados por los comentarios de las redes sociales, que contienen lo peor que la humanidad es capaz de producir, arrojarán consejos odiosos, incitaciones al crimen y al suicidio simplemente porque esto está representado en los datos cuyas probabilidades fueron mapeadas por los algoritmos.

Los algoritmos no sienten, no sufren, no piensan. Los algoritmos no son amigos de nadie. Pero los algoritmos, vendidos como «inteligencia artificial», con un apodo simpático —ChatGPT, Claude—, que nos hablan a través de una pantalla, tal como nos hemos acostumbrado a los pocos amigos verdaderos que tenemos, proporcionan a las grandes tecnológicas un ejército cada vez mayor de jóvenes dispuestos a ofrecer su cerebro, y peor aún, su vida, para satisfacer sus bolsillos.

Necesitamos explicarles a los jóvenes que no hay inteligencia en usar algoritmos estadísticos como sustitutos de otros humanos. Sin embargo, los adultos pueden hacer dos cosas de inmediato: simplemente llamar a un algoritmo estadístico por su nombre y optar por no usarlo. En su lugar, sugiero Wikipedia, que sigue estando bien documentada por personas reflexivas y nos invita a reflexionar.

Referencia:
Emily M. Bender, Alex Hanna (2025). La estafa de la IA: Cómo combatir la exageración de las grandes tecnológicas y crear el futuro que queremos. Harper Collins, Nueva York.