¿O sí?

La falsa imagen de la inteligencia artificial: no es “artificial” ni “inteligente”

Este sería la última parte de la serie de artículos dedicados a las tecnologías y sus consecuencias «ocultas». En este caso sobre la IA. Como decía al principio de la serie, la academia y la sociedad confunde o identifica tecnología con cibernética, y útimamente con Inteligencia artificial. Es un error, como hemos mostrado. Como se ha escrito tanto y tan bien sobre las consecuencia nocivas de la IA, este artículo se centrará en las consecuencias sobre la ciencia y la medicina, aspectos, considero, menos trabajados.

El sumum de la fetichización de la tecnología viene con la mal llamada «inteligencia artificial» (IA). Entrecomillado porque ni es “artificial” ni es inteligente. Como en la película Her, hay aplicaciones IA que se hacen pasar por una novia sexy. IAs para flirtear. La realidad es menos «atractiva», al otro lado de los cables hay miles de personas, no solo escribiendo código, y entrenando a la IA, sino escribiendo las respuestas. En India, en Filipinas, en Kenia, y en otros países del Sur Global, trabajan por muy poco dinero alimentando modelos de IA, etiquetando imágenes, corrigiendo textos, filtrando contenido violento, respondiendo consultas como si fueran “chatbots”. Algunos sistemas de “compañía” por IA incluso utilizan mujeres contratadas que responden manualmente, simulando ser una IA conversacional.

Tampoco es “inteligente”. La IA no entiende sino que predice palabras. Su funcionamiento esencial es estadístico y está entrenada para complacer. Esto genera fenómenos como las alucinaciones: datos inventados que parecen reales, referencias científicas falsas, afirmaciones sin fundamento que la IA presenta con total seguridad. Es un problema grave en ciencia y medicina, porque un sistema venerado y diseñado para no decir nunca «no sé” puede ser peligroso.

Inventarse una referencia puede no parecer grave, pero se está generalizando (y entrenando) su uso en el genocidio en Gaza y en el ataque a Irán. Parece seguro que la matanza de niñas en la escuela iraní por parte de EEUU fue «decisión» de una IA, en concreto de la empresa Palantir.
Un aspecto de la IA muy bien estudiado y difundido es el de sus costes en agua y energía, por lo que seré conciso. Los grandes modelos de IA necesitan GPU muy potentes, granjas de servidores que funcionan 24/7 y millones de litros de agua dulce para los sistemas de refrigeración intensiva.

Pero mejor os dejo referencias: Ana Valdivia como experta en IA y sus costes socio ambientales, y Alicia Valero experta en los minerales necesarios para las tecnoogías emergentes. También recomiendo la organización «Tu nube seca mi río».

Ellas estudian dónde se instalan los centros de datos, cuánta agua consumen, cómo afectan a los ecosistemas y comunidades locales, qué minerales necesitan los chips, de dónde vienen, en qué condiciones se extraen y la burbuja económica cuyo estallido podría arrastrar a la economía real. En definitiva, cómo el crecimiento ilimitado de la IA no es sostenible.

Pero centrémonos en la parte menos conocida, las consecuencias sobre la ciencia y la biomedicina.

A pesar de que el sistema científico de publicaciones y organización del conocimiento está reglado, organizado de manera que «la mejor evidencia disponible» se podía utilizar para tomar decisiones, en la actualidad, las alucinaciones de la IA se han infiltrado de tal manera en todos los niveles del conocimiento científico que si no se ataja, se pondrá en cuestión la credibilidad de todo el sistema, su armazón.

Y es que según esta publicación en The Lancet, entre el 30 y el 69 % de las referencias generadas por IA en biomedicina son inventadas. Eso es la mitad. Eso no quiere decir que las personas investigadoras las usen. Sin embargo, auditan 2.5 millones de publicaciones en ese ámbito, y encuentran que en 2023, aproximadamente una de cada 3000 publicaciones eran fraudulentas. En 2025 ya eran una cada 458 y los primeros dos meses de 2026 1 de cada 277 artículos científicos tenía al menos una. Y no parece que ese aumento vaya a parar.

No solo se inventa las referencias de las afirmaciones, sino que a partir de una serie de referencias científicas se inventa las afirmaciones y las conclusiones de las mismas. Según este estudio, más de las mitad de las conclusiones (o afirmaciones) eran falsas o equivocadas.

Y luego la seguridad. En este artículo titulado «Los agentes del caos», unos investigadores dieron archivos, información personal y datos diversos a una IA que les prometió (sic) que no usaría esos datos. Sin embargo, distribuyó información sensible, usó esos archivos y datos, y además lo hizo incorrectamente. Afirmó que había terminado determinadas tareas cuando no lo había hecho. Y un largo etcétera de despropósitos.

El problema es grave, porque pone en cuestión la futura generación de conocimiento epistemológicamente válido. Sin embargo, el sesgo solucionista del profesional de la ciencia hace que, como dice Alex Gaita, las recomendaciones sean poner detectores y extractores para retirar el humo, en vez de penar a los pirómanos y a sus cómplices con ánimo de lucro. O sea, se pretende desarrollar más IA que detecte la IA, en una carrera tecnológica secapantanos sin fin.

En mi día a día, tratando con cientos de investigadores, están utilizando la IA desde para calcular una concentración de un compuesto, hacer (horribles) presentaciones con personas de 6 dedos, buscar los precios de instrumentos, resúmenes de referencias científicas, redacción de propuestas científicas, e incluso de pliegos técnicos de concursos públicos de cientos de miles a millones de € que generan serios problemas.

La única esperanza parece que sea que reviente pronto la burbuja de los centros de datos y oracle parece que ya se ha pillado las manos.

Hay otra consecuencia interesante además que oculta, cómo la tecnología y la IA no solo crea dependencia material; también puede hacernos perder habilidades cognitivas y manuales esenciales.

Un ejemplo que me apareció en redes me parece representativo.

En La Ser, el periodista Javier Ruiz entra en un quirófano donde están utilizando un robot guiado por imágenes de rayos X en tiempo real para operar zonas muy difíciles, como la columna vertebral. El cirujano decía algo así: “Gracias a este sistema, los cirujanos jóvenes pueden operar igual de bien que yo después de años de experiencia.” A primera vista esto parece positivo: democratiza la habilidad, permite más cirujanos competentes, potencialmente reduce errores, reduce el tiempo de formación. El cirujano critica que antes de esta tecnología, tenía que recurrir al «instinto». Como si el instinto fuese algo contrario a la racionalidad o la ciencia. En realidad un cirujano en formación, cuando desarrolla ese «instinto» lo que en realidad está generando es conocimiento tácito: sentido del tacto, intuición sobre el tejido, comprensión espacial, precisión manual, experiencia gradual acumulada.

El ser humano se define por varias cosas, una de ellas es el «instinto». La toma de decisiones correctas, precisas, aprendidas, (por eso no son instintivas en sentido estricto), es un conocimiento, con base neuronal, que no se puede escribir en un manual ni enseñar con un tutorial. Se transmite de persona a persona. Es en buena parte artesanal.

Cuando yo empecé a hacer inyecciones en la cola de ratones se me daba bien, y algunos colegas querían entender cómo lo hacía, y no sabía transmitirles con palabras las sensaciones de saber cuándo la aguja estaba dentro de la vena o no, era algo táctil subjetivo a la vez que real, no puedes decir a media atmósfera de presión no sigas. Es pura sensación. Y así funcionamos en muchísimos ámbitos.

Un ejemplo maravilloso es el de las misiones Apolo a la Luna. Hay varias explicaciones de por qué el ser humano no ha vuelto a pisar la Luna: los estándares de seguridad actuales, la guerra fría, o la carrera armamentística. Pero hay uno muy interesante, y es que en la crisis de los 70, la NASA canceló el programa lunar, jubiló a los ingenieros y las empresas satélite cerraron. Cuando la NASA intentó revivir el programa en los 2000, fue incapaz de reconstruir algunas partes de los cohetes y módulos usados en los años 60–70 para llegar a la Luna. ¿Por qué? Porque a pesar de que los planos estaban bien, no describían todo al detalle, no podían describir un conocimiento como el de soldar juntas, y técnicas que dependían del conocimiento tácito de trabajadores expertos, que no se podía reproducir exactamente los materiales, ensamblajes ni procesos.

Estos ejemplos muestran la importancia del conocimiento tácito. Una cita atribuida a Michael Polanyi: “Sabemos más de lo que podemos escribir o decir.” Esto significa que gran parte de lo que sabemos hacer no es consciente, no se puede formalizar, no se puede escribir completamente, ni siquiera se puede transmitir sin imitación (neuronas espejo), práctica y repetición. Ejemplos cotidianos son montar en bicicleta, tocar un instrumento, reconocer una cara, operar un animal en un laboratorio, manipular una pipeta con precisión, etc.

La IA no puede aprender ese conocimiento tácito, porque no se puede traducir en datos explícitos. La IA, de nuevo, es un software que plagia, no inventa. Lee y escribe según probabilidades, pero por más que las llamen «redes neuronales», ni de lejísimos podrán imitar las biológicas. No ya las de un humano, ni siquiera la capacidad de aprendizaje de una babosa marina a los estímulos químicos.

Si la nueva generación aprende solo mediante un robot o una IA, pierde el conocimiento tácito, se vuelve dependiente del sistema y, si ese sistema deja de funcionar, pierde la capacidad de operar y, lo que es más dramático, pierde la capacidad de enseñar.

Hay una limitación si se quiere más mundana. Los Boeing 737 tenían una ampliación opcional (de pago) en el software que les alertaba de algún fallo, y el no tenerlo llevó a accidentes graves. Al final se hizo obligatorio. Os imagináis cuando ese cirujano experimentado se jubile y la nueva remesa se encuentre con que algunas de las opciones, las licencias, del software-IA, en el que se apoyan, se vuelven de pago y no se adquieren; o un ciberataque (han habido varios muy serios en hospitales españoles); o que quiebra la compañía y no hay actualizaciones o más soporte; o que falla el servidor en medio de la operación… ¿No querriamos que tumbados en la sala de operaciones nos operara una cirujana que se guíe por su instinto y no por una (inexistente) IA?

Y en general, las cibertecnologías (espero que después de esta serie de artículos no asociemos tecnología a cibertecnología) tienen consecuencias sobre nuestras habilidades intelectuales básicas. Por ejemplo, se está viendo que aprender escribiendo a mano desarrolla mejor la memoria, la comprensión, refuerza conexiones cerebrales que no se activan al teclear, y facilita el aprendizaje profundo. Y eso cambia la manera en que pensamos y recordamos. La escritura manual es un ejemplo básico de cómo una habilidad puede desaparecer en una generación por culpa del fetichismo cibertecnológico.

Y como conclusión general a esta serie de textos es que las «tecnosociedades» son muy frágiles. La tecnología es fantástica y necesaria. Pero si reemplaza nuestras habilidades sin permitirnos mantenerlas, nos vuelve frágiles, dependientes, vulnerables, y menos resilientes como sociedad. No se pretende ser “ludita” o antitecnología. Pero la tecnología debe acompañar, no sustituir, el conocimiento humano.

Debemos seguir desarrollando habilidades manuales, cognitivas y críticas, incluso cuando la tecnología nos ofrezca hacerlo todo “automáticamente”.

Fuente: https://cienciamundana.wordpress.com/2026/08/15/4-tecnologias-ocultas-la-ia-no-monta-en-bicicleta/