Inteligencia Artificial

Puede ser que en el futuro hablemos del «lockdown de 2020» como hoy hablamos del «crack de 1929»: un evento absolutamente inesperado para la mayor parte de sus protagonistas, que trastornó el funcionamiento del mundo entero e intensificó una serie de tendencias previas. Si la crisis de 1930 redimensionó debates sobre el funcionamiento del capitalismo, el rol del Estado y los sindicatos que databan de fines del siglo xix, el covid-19 y sus consecuencias reactivan discusiones sobre la automatización del trabajo, el ingreso básico universal y el saneamiento del medio ambiente por el decrecimiento de la producción y el consumo.

La experiencia del covid-19 también afecta a una cuestión más abstracta y especulativa pero que enmarca las anteriores: la relación de la humanidad con su entorno no humano, cuya interacción se altera a partir de tres datos de la pandemia:
– la posible etiología del virus pone en entredicho la viabilidad de la ganadería como actividad económica;
– la aceleración de la digitalización incrementa nuestra dependencia de tecnologías que pueden escapar del control humano;
– finalmente, la pandemia se suma a otros fenómenos, como el calentamiento global, que demuestran que el ser humano está a merced de fuerzas que desató pero que no puede controlar.

Así, los animales y los algoritmos parecen destinados a tener un estatuto diferente al final de la peste. Y, consecuentemente, los seres humanos que hasta ahora nos consideramos sus dueños y creadores, también.

La inviabilidad material del ganado

El rumor que responsabilizó de la propagación del covid-19 al consumo chino de carne de murciélago escondía una verdad menos pintoresca pero más incómoda: quizás sea el consumo de cualquier carne el que favorece la difusión de todo tipo de virus. El biólogo y fitogeógrafo Robert G. Wallace ha estudiado de qué manera los agronegocios se conectan con las etiologías de las epidemias recientes¹. La agroindustria presiona en dos extremos: en las poblaciones periféricas y en las zonas salvajes más allá de la frontera agropecuaria. Allí el ganado y los trabajadores entran en contacto con cepas virales previamente aisladas o inofensivas que, en un entorno de monocultivo sin biodiversidad, no cuentan con un cortafuego inmunitario que ralentice su transmisión. El resto del proceso es conocido: las migraciones de trabajadores y los circuitos comerciales introducen esas cepas en entornos vertiginosos que favorecen los rasgos específicos de una epidemia: ciclos virales rápidos, saltos entre especies y vectores de transmisión. Esa fue la historia de la fiebre bovina africana de 1890, cuya devastación dejó el terreno libre para la mosca tsé-tsé. Esa fue también la historia de la mal llamada «gripe española», antigua cepa de la N1H1 que se incubó en los corrales de Kansas durante el boom alimenticio norteamericano contemporáneo a la Primera Guerra Mundial y se esparció primero por las barriadas sucias y mal alimentadas, y luego por las tropas que cruzaron el Atlántico. Y ese fue el circuito del covid desde el mercado húmedo de Wuhan hasta todos los aeropuertos del mundo.

Pero el ganado no es solamente un agente patógeno. En 2006 la Organización de las Naciones Unidas para la Alimentación y la Agricultura (fao) publicó un estudio titulado «La larga sombra del ganado: problemas ambientales y opciones»² que afirmaba que la ganadería genera 18% de la emisión de los gases de efecto invernadero del mundo, por encima del parque automotor. Semejante dato suscitó un debate sobre la sustentabilidad de la actividad ganadera, además de varias críticas al método de medición que obligaron a la fao a rectificarse. Pero incluso los críticos del informe reconocieron que las emisiones de la ganadería están entre 5% y 10% del total. El problema es intrínseco al consumo cárnico.

El lugar de la carne en la cadena alimentaria es el de un intermediario: sintetiza las proteínas del forraje o las pasturas que consumió el animal. Pero dista de ser un intermediario eficaz: el corte de carne más barato requiere para su producción más agua, tiempo y espacio que las proteínas vegetales que sintetiza. Así, el consumo de carne no resiste el imperativo categórico que proponía Immanuel Kant para juzgar la ética de las acciones: es imposible de universalizar. Si todos los pobres del mundo quisieran comer carne como un rechoncho ciudadano del Norte global, el sistema colapsaría por la cantidad de recursos consumidos, por las emisiones o, incluso, por el riesgo patógeno. Si podemos seguir criando animales para comerlos es porque su consumo sigue siendo tan excluyente como cuando Enrique viii de Inglaterra devoraba un pollo entero con las manos, tal como lo representa la famosa escena de la película de Alexander Korda. Solo que ahora la elite carnívora es global y no palaciega. Y quizás el covid-19, la escasez económica que causa y las restricciones sanitarias de la nueva normalidad sean la guillotina que viene a destronarla. En ese caso, hoy la Declaración de los Derechos del Hombre nos puede quedar corta. Hay nuevos sujetos.

La inviabilidad ética del especismo

A la inviabilidad material de la cría de ganado se le suma un extendido humor social que entiende crecientemente a los animales como «personas no humanas»³, seres que merecen el mismo trato, los mismos servicios y los mismos derechos que cualquier otra persona. O incluso más que cualquier otra persona. «Se intuye que los animales poseen una dignidad, una lealtad, una resistencia al sufrimiento y la injusticia que no tienen sino unos pocos hombres y mujeres. Esto podría explicar el hecho turbador de que un amor y una compasión por los animales especialmente intensos se den en hombres de un temperamento ideológico odioso y despótico», escribió George Steiner en un ensayo en el que termina hablando maravillas de sus perros⁴.

Más allá de los humores sociales, la condición animal es una cuestión que mantuvo ocupado al pensamiento occidental en los últimos 45 años. En 1975, el filósofo australiano Peter Singer denunció el maltrato animal en su libro Liberación animal. Allí empleó la ética utilitarista para hacer el siguiente razonamiento: si la igualdad humana es una intuición ampliamente compartida y no queremos incurrir en contradicciones morales, no es posible establecer ningún criterio moral para diferenciar a los animales de los humanos sin dejar afuera también a una cantidad de humanos que no lo posean, sea la capacidad de razonar, la comunicación, la autonomía, etc… La especie a la que pertenezca cualquier individuo sintiente es moralmente irrelevante, y establecer distinciones es una forma de discriminación similar al racismo o el sexismo: el especismo.

Desde la publicación de Liberación animal, el abordaje ético de la condición animal recibió aportes, revisiones y ampliaciones. La discusión alcanzó tal intensidad conceptual y relevancia pública que el mismo Singer advirtió que la ética sola no podría resolverlo; sería necesaria la política⁵. Es la posta que tomaron, entre otros, Sue Donaldson y Will Kymlicka, una pareja de filósofos canadienses que unieron sus especialidades (respectivamente, los derechos de los animales y la filosofía política) para concebir una teoría política «humanimal», como llaman a esta sociedad híbrida en la que la convivencia de humanos y no humanos ya es un dato irreversible⁶. Allí intentan establecer principios y categorías que abarquen a todos los animales, desde los domésticos, considerados «ciudadanos», hasta los salvajes, considerados «habitantes de territorios extranjeros soberanos», pasando por los «animales liminares» como ratas y palomas, que conviven en un entorno humano sin ser domesticados.Donaldson y Kymlicka establecen diferentes herramientas políticas para atender a los derechos de estas categorías, desde representantes y ombudsmen para los ciudadanos domésticos hasta el estatuto de refugiado para los animales salvajes desplazados. La propuesta tiene límites insalvables (¿cómo garantizar los derechos de un animal ante las necesidades alimenticias o reproductivas de otro?, ¿qué hacer en el caso de que una comunidad liminar sea declarada plaga?), pero demuestra cuán lejos deberían llegar las soluciones a los problemas éticos planteados por el animalismo. Y también cuán borrosa sería la condición humana en una sociedad pluralista que incluya a los animales como sujetos de derechos plenos y positivos.

Ya Carl Linneo, naturalista sueco del siglo xviii, había ironizado diciendo que hombre es un «animal que debe reconocerse humano para serlo». En efecto, el pensamiento occidental, desde Aristóteles hasta Heidegger, se esforzó en dividir, distinguir y jerarquizar a los seres humanos como articulación de elementos físicos y metafísicos (logos, alma, razón), de la vida meramente biológica del resto de los seres vivos. Así, detrás del Hombre como «medida de todas las cosas» se esconde mal la voluntad de disponer de esas otras vidas, que a lo largo de la Historia podrán ser animales, bárbaros, esclavos, mujeres, judíos, aborígenes, etc⁷…

El filósofo italiano Giorgio Agamben llama «máquina antropogénica» a ese razonamiento que, luego de la crisis del humanismo en el siglo xx, debería ser dejado atrás. Hoy la biopolítica occidental ha terminado por hacer de todos una mera vida. De manera que es buen momento para detener la máquina antropogénica y pensarnos como comunidad viviente. Ya no hay tareas históricas para el ser humano, hemos alcanzado todas nuestras metas alcanzables –concluye Agamben desde su palazzo veneciano–, solo nos queda asumir nuestra propia mera vida en una comunidad pospolítica y abandonarnos a la animalidad⁸.

Si los límites materiales nos obligan a abandonar la cría de animales para el consumo, eso nos llevará a una nueva convivencia con ellos. Y esa nueva convivencia no solo puede alterar nuestra comunidad política, sino también nuestro estatuto humano dentro de ella. Pero no es la única convivencia que deberemos resolver.

La inteligencia artificial y sus riesgos

Es muy probable que la experiencia del covid-19 acelere la digitalización de la sociedad y la economía, si no es que ya lo está haciendo. Esto es perceptible desde la experiencia cotidiana del aislamiento preventivo, en el auxilio que prestan las plataformas de e–commerce y otros servicios o la difusión del trabajo a distancia gracias a la conectividad. Pero también se observa en esa suerte de deep state sanitario que emplearon exitosamente para rastrear contagios varios países asiáticos, como China o Corea del Sur, naciones experimentadas en pandemias recientes y, a su vez, Estados de vanguardia en tecnologías de vigilancia como el reconocimiento facial y la geolocalización por medio de dispositivos. Algunos observadores han considerado que esa infraestructura sienta las bases para un modelo de gobernanza digital posterior a la pandemia⁹.

Aun obviando las suspicacias políticas, los riesgos de la digitalización de la vida son inmanentes. En la medida en que se amplíe el uso de plataformas para un creciente número de actividades, el poder de esas tecnologías y de sus titulares sobre la sociedad crecerá sin ningún contrapeso público o legal. Es el caso de WeChat, la megaplataforma china que opera como red social, billetera virtual y marketplace. A medida que más actividades online se realizan dentro de WeChat, esta va «comiéndose» y privatizando la web como espacio de intercambios online libres¹⁰. No es aventurado proyectar dinámicas parecidas para constelaciones de plataformas como Google o Facebook, tal como viene denunciando el creador de la web, Tim Berners-Lee¹¹.

Otro problema es la propia lógica de la actual infraestructura digital. El paradigma tecnológico de nuestro tiempo es el llamado sistema ciberfísico (cps, por sus siglas en inglés), la integración de objetos a la red mediante un triángulo de retroalimentación entre la web 2.0 (difundida mediante la internet de las cosas), las plataformas (que permiten la interacción y la extracción de datos) y los algoritmos (procedimientos que incorporan esos datos). Estos últimos son la caja negra alrededor de la cual danza nuestra vida online. No solo porque su diseño y programación son competencias reservadas a técnicos y coders que operan a espaldas de cualquier protocolo público, sino además porque la capacidad que tiene un algoritmo de «aprender» de un flujo incontrolable de datos puede llegar a emanciparlo de cualquier control humano.

En 2017 un grupo de técnicos de Facebook puso a conversar a dos chatbots o programas de inteligencia artificial, hasta que advirtieron que estaban desarrollando un idioma propio y los desconectaron¹². Ya en 1965, Irving John Good, un matemático británico que trabajó como criptólogo junto a Alan Turing, había advertido sobre la posibilidad de que una superinteligencia artificial se rebelara contra sus creadores humanos. De hecho, el propio Good asesoró poco después a Stanley Kubrick para el conocido final de la película 2001, A Space Odyssey. A partir de la década de 1970, los desarrollos de inteligencia artificial entraron en un «invierno», como se llama a un periodo de relativo estancamiento en el interés, las innovaciones y el financiamiento de una tecnología. Con el desarrollo del cps en el nuevo siglo, la inteligencia artificial se aceleró y aquellos temores de Good retornaron.

Hoy hay en el mundo un puñado de instituciones dedicadas a investigar y alertar sobre los riesgos de la inteligencia artificial: el Future Humanity Institute de la Universidad de Oxford, fundado y dirigido por el filósofo transhumanista Nick Bostrom; el Center for Study of Existential Risk de la Universidad de Cambridge, creado por Martin Rees, astrónomo de la Royal Society, y Jaan Tallinn, ceo y fundador de Skype; el Machine Intelligence Research Institute de la Universidad de Berkeley, dirigido por Eliezer Yudkowsky, además de los llamados de atención de científicos como George Church o Stephen Hawking y de empresarios de Silicon Valley como Bill Gates, Elon Musk y el ubicuo paleolibertario Peter Thiel. La proyección que sostiene esa alarma es bastante sencilla: la cantidad de recursos dedicados al desarrollo y perfeccionamiento de la inteligencia artificial es infinitamente superior a los dedicados a tecnologías de seguridad sobre ellas. Según Nate Soares, director ejecutivo del Machine Intelligence Research Institute, es como si supiéramos que en una década van a invadirnos extraterrestres y no hiciéramos nada por evitarlo. Bostrom es más cauto: no es que la inteligencia artificial vaya a ser hostil con nosotros, sino que será indiferente hasta la crueldad, como lo fuimos nosotros con las otras especies. Si le pedimos a una inteligencia artificial que maximice la producción de clips para papel probablemente reducirá todo el material útil del planeta a clips y destruirá el resto¹³.

Stuart Russell, especialista en inteligencia artificial de la Universidad de Berkeley, opina que se trata esencialmente de un problema de comunicación: debemos aprender a comunicar a las máquinas nuestros deseos de manera lógica, al tiempo que ellas deben aprender a observar la conducta humana, sacar inferencias y jerarquizar acciones. Todo lo cual, paradójicamente, las acercaría a la condición humana.

Los derechos de las máquinas

Un tema discutido por juristas de todo el mundo acerca de los hipotéticos derechos de la inteligencia artificial es el copyright de sus cada vez más frecuentes «creaciones»: textos, imágenes y música hechos por un algoritmo. Hasta ahora hay consenso en no reconocerle derechos de autor a una inteligencia artificial, lo cual deja abierto un importante vacío legal.

Un debate más extraño sobre el trato con seres artificiales se dio hace unos años con la publicación del libro Love and Sex with Robots [Amor y sexo con robots] de David Levy, un maestro internacional de ajedrez que se involucró en el desarrollo de inteligencia artificial ajedrecística hasta terminar en los sexbots. «Un robot sexual –afirma Levy– nos permitiría aliviar nuestro aburrimiento y tensión sexual con nuevas experiencias, aun careciendo de carga emocional». La respuesta provino del colectivo Campaign against Sex Robots, que se preguntó por el tipo de conducta que desarollaría una persona habituada a tener relaciones sexuales con un malebot o una fembot que no puede negarse (o peor, que puede ser programado para negarse solo para alimentar la fantasía de la resistencia y posterior sometimiento)¹⁴.

El debate no escapa del cuadrante antropocéntrico: se trata del placer humano contra la posible cosificación humana. Pero en caso de perfeccionar la inteligencia artificial hasta permitirle incorporar las emociones como datos a sus algoritmos y aprender de ellos, ¿qué efecto tendrían las violencias ejercidas contra las máquinas? ¿En qué punto su capacidad de inteligir e interpretar las acciones humanas no nos obligaría a restringir nuestras acciones ante ellas? ¿En qué punto esas restricciones no serían la base de una nueva ética?

No son dilemas que introduzca la inteligencia artificial, esta solo los actualiza. La robótica nació bajo el signo de esa duda. Solo hay que recordar que la palabra «robot» surgió en la obra teatral de 1920 rur (Robots Universales de Rossum) de Karel Čapek. En la obra, rur es una empresa que fabrica androides para trabajar. Hasta que una activista les inocula sentimientos humanos. Los robots se rebelan, pero rur no puede dejar de fabricarlos porque la humanidad depende de ese trabajo. La humanidad es aniquilada y los robots descubren el afecto que les permitirá procrearse y fundar una nueva especie.

Todo esto puede resultar una cuestión excesivamente especulativa en medio del sufrimiento y la urgencia de una pandemia. Pero es precisamente la pandemia la que acelera la digitalización, difunde el cps y alimenta una inteligencia artificial que ya cubre al mundo. O trepa dentro nuestro. Antes de la pandemia, el think tank futurista The Millennium Project auguró para 2050 la emergencia de una Inteligencia Artificial General capaz de reescribir su propio código y de fusionarse con nosotros en un continuo cuerpo-dispositivos-redes: el smartphone como prolongación de la mano, la digitalización como prótesis. Ya con la pandemia en marcha, Paul B. Preciado denunció las tecnologías asiáticas de control y testeo como una nueva biopolítica¹⁵. El covid-19 puede entonces acelerar también la digitalización del cuerpo humano. En ese caso, la nueva normalidad hará aún más difícil distinguir entre robots y humanos, inteligencia artificial e inteligencia natural, personas y cosas.

Tres salidas políticas al humanismo

Ninguna catástrofe trae un nuevo mundo bajo el brazo, solo intensifica tendencias previas. La inviabilidad del especismo y la digitalización de la vida no son inventos de la pandemia pero, tal como vimos, pueden acelerarse hasta dejar a la condición humana al borde del abismo. En ese caso, la humanidad deberá enfrentar esa nueva realidad apelando a sus recursos previos. Uno de los cuales es, paradójicamente, el antihumanismo. De Martin Heidegger a Michel Foucault, y de Norbert Wiener a Donna Haraway, gran parte del pensamiento del siglo xx anuncia, denuncia o celebra el fin del humanismo como ideología antropocéntrica. Solo que hay muchas maneras de hacerlo, con diferentes consecuencias políticas.

La primera, la más brutal, es cosificar a la humanidad, desencantar completamente al género humano para devolverlo a la naturaleza como otro ser sintiente o para reducirlo a mero dispositivo físicamente regulable. No es un horizonte muy distinto de aquel al que nos pueden conducir la instrumentalización intrínseca del capitalismo o la escasez de su colapso. Y, sobre todo, no resuelve ninguno de los problemas planteados en este artículo. Reducir al ser humano a la condición de máquina o animal en el preciso momento en que las máquinas y los animales se acercan al estatuto de personas es, en el mejor de los casos, igualar hacia abajo; en el peor, claudicar ante la rebelión de las cosas.

La segunda salida del humanismo es disolverlo en el lenguaje. El ser humano es en gran medida una construcción del ser humano, un sujeto formateado por siglos de discursos y representaciones. El mismo lenguaje que construyó al humano podría deconstruirlo. Es la apuesta de la filosofía continental europea del siglo pasado, y es un buen punto de partida. Pero en este momento el ser humano se enfrenta a fenómenos como la inteligencia artificial, el calentamiento global o el covid-19 mismo, que no solo no son resultado del lenguaje sino que difícilmente se dejen deconstruir por él. Dejar todo librado al lenguaje es someterse a todo aquello que el lenguaje no controla, como el creyente que en medio de un incendio se limita a murmurar sus palabras mágicas.

La tercera salida es crear una nueva convivencia con las cosas. Durante milenios la humanidad estuvo expuesta a la naturaleza incontrolable y desarrolló la técnica para enfrentarla. Es la historia del homínido que construye una choza para protegerse de la lluvia. Pero hoy, cuando pareciera que la naturaleza no tiene misterios para el ser humano, esa tecnología se constituyó en una segunda naturaleza incontrolable. Desde el Antropoceno hasta la inteligencia artificial, el mundo es un artificio humano que se volvió extraño para los humanos. Ya no hay naturaleza adonde volver y el lenguaje por sí solo no podrá con todo esto. Durante milenios la humanidad usó las cosas mientras aprendía a gobernarse a sí misma. Hoy debe gobernar a los algoritmos y ampliar los derechos de los animales. Esto es, incorporar personas no humanas a las cuestiones humanas; convivir con las cosas.

En términos políticos, la izquierda debería ser la mejor preparada para esta tarea. Si su horizonte último siempre fue la igualdad humana, y su praxis, la creación de instituciones y políticas que la facilitaran, hoy solo habría que ampliar ese horizonte y esa praxis hacia una igualdad radical que incluyera a personas no humanas. Y si la «nueva normalidad» nos obliga a pensar en formas de ingreso no salarial, austeridad y digitalización que afecten el estatuto del ser humano como productor y consumidor, esa igualdad radical puede ser el horizonte hacia el cual conducir una nueva relación entre las personas y las cosas.