Roboética

Carme Torras (Barcelona, 1956) se licenció en Matemáticas, pero le interesaba más cómo funciona el cerebro. Guiada por un libro con predicamento, Cerebros, máquinas y matemáticas, de Michael Arbib, se fue a estudiar con ese científico a la Universidad de Massachusetts (EE.UU.) modelos neuronales para trasladar a la inteligencia artificial. A su regreso, en 1981, como en España no se hacía nada parecido, se recicló en robótica en el Institut de Cibernètica de la Universitat Politècnica de Catalunya (UPC). En su sucesor, el Institut de Robòtica i Informàtica Industrial (IRI, de la UPC y el Consejo Superior de Investigaciones Científicas), en Barcelona, Torras dirige un grupo que investiga, principalmente, los llamados robots asistenciales.

“Confío mucho en la simbiosis persona-máquina, que permite ampliar las capacidades humanas, pero la decisión final debe tomarla la persona”

Podría decirse que Torras tiene una doble vida porque además de estudiar cómo hacer que los robots vean, escuchen, aprendan y hagan determinadas tareas, escribe ciencia ficción (ha ganado varios premios). Ahora, poco, aunque quizás publique un libro de relatos cortos. Una de sus novelas, La mutación sentimental, dibuja un futuro con unos humanos sin emociones y que apenas saben vivir sin sus robots asistentes. Diez años después de publicarse, ha sido reeditada en inglés (The Vestigial Heart) por MIT Press, editorial del Instituto Tecnológico de Massachusetts, que también pidió a la autora que elaborara material didáctico complementario para formar en ética a los ingenieros y los programadores de máquinas inteligentes.

Porque hace años que Torras –que dejó la carrera de Filosofía en el penúltimo curso– trabaja la roboética, aspecto hoy en auge en el mundo tecnológico. Su material (unas 100 páginas, plasmadas asimismo en una presentación) lo usará la UPC también, y otros profesores de distintos países se han interesado. Con él, la experta en robótica plantea reflexionar sobre cómo de humanizados deben hacerse los robots o quién deberá programar los asistentes educativos –los habrá, asegura, robots de refuerzo de los profesores–, entre otros muchos aspectos.

¿Los robots nos dejarán sin empleo?
Espero que no. Pero cambiará el tipo de trabajo que haremos. Los empleos que no desaparecerán son los que requieren empatía, contacto humano, resolver problemas inesperados, adaptarse a situaciones cambiantes… Esto es muy difícil de automatizar. También habrá muchos trabajos que haremos con un asistente robótico. Ya sucede, por ejemplo, en cirugía. Confío mucho en esta simbiosis, la combinación persona-máquina, que permite ampliar las capacidades humanas, pero la decisión final debe tomarla la persona.

¿La progresiva automatización empeorará la especie humana porque iremos dejando de ejercer determinadas habilidades y capacidades?
Es un riesgo; espero que no ocurra. Pero veo que hay quienes utilizan la tecnología para ampliar sus capacidades y conocimientos, para enriquecerse como persona, y quienes la usan sólo como entretenimiento. Surge una fractura entre quienes se benefician de ella y quienes simplemente se dejan llevar, que, y estos sí, perderán capacidades. Con el GPS o Google Maps ya nadie ejercita la orientación espacial ni tiene el plano de una ciudad en la cabeza; la ortografía, la memoria… podrían dejar de ejercitarse. Ahora, también es cierto que se crean nuevas capacidades como atender a muchos estímulos a la vez, me maravilla la gente que es capaz de hacerlo, sobre todo son los jóvenes. Variarán nuestras capacidades tanto psíquicas como afectivas.

“Robots con funciones de ayuda a personas con deterioro cognitivo leve se popularizarán rápido; preveo un plazo un poco más largo para los que impliquen contacto físico, porque exigen
mayor seguridad”

¿Qué mundo vislumbra dentro de 10 años? ¿Cuánto más automatizado?
Bueno, ya empieza a estarlo. La atención vía internet de las empresas, por ejemplo, se ha popularizado en nada, aunque yo considero importante que siempre se pueda recurrir a una persona o hay gente que queda excluida.

¿Qué otro sector se podría automatizar rápidamente? ¿El robot asistencial se extenderá rápido?
Hay aplicaciones que irán muy rápido: personas con deterioro cognitivo leve podrían seguir viviendo solas con ayudas puntuales, para comunicarse, que les recuerden apagar el fogón o tomar la medicación… Nosotros trabajamos con la Fundación ACE (atiende a personas con alzheimer y otras demencias) para avanzar en este campo, y creo que los robots con estas funciones se popularizarán rápido. Serán desde una ampliación de los medallones de ayuda hasta robots que vayan a buscarte las gafas a la habitación… Preveo un plazo un poco más largo para los robots que impliquen contacto físico, pues exigen estándares de seguridad muy elevados: un robot que ayude a vestirse a una persona deberemos asegurarnos que no le dañará el brazo, por ejemplo. Nuestro grupo trabaja en este tipo de robots, que ayuden a vestirse, a comer…

¿Y dentro de 50 o 100 años estará todo automatizado?
¡Es difícil de predecir! Por esto me gusta recurrir a la ciencia ficción, porque te permite diseñar escenarios libremente, el utópico, el distópico, analizar cuál nos conviene más como sociedad, cuál lleva a un mayor bienestar y cuál se debe evitar. Un futuro distópico es el de la película Wall-E, en que los humanos ya no hacen nada, todo lo hacen las máquinas; es una sociedad del ocio absoluto, pero también del vacío. Yo no veo ese escenario de futuro pesimista, pienso que hay mucho talento en la humanidad, inteligencia colaborativa…

Su visión es positiva; si no, no se dedicaría a la robótica, pero ¿qué aportan los robots?
Evidentemente que mi visión es positiva. Veo que nos pueden dar mucho tiempo. Este es un paso más de las revoluciones (agrícola, industrial…) que ha habido para mejorar las condiciones de la humanidad. Ahora no sabríamos vivir sin lavadora. Nos ha dado tiempo para dedicarlo a otras cosas. Para mí, la tecnología tiene este sentido de permitirnos usar nuestro tiempo en cosas que nos enriquezcan y evitarnos las tareas pesadas, mecánicas. Siempre digo que el robot puede ser muy bueno mientras se vea como… por decirlo de alguna manera, un electrodoméstico muy sofisticado, pero nunca un sustituto emocional. El robot que desarrollamos para ayudar a dar de comer a personas que no pueden hacerlo solas lo enseñamos en una residencia geriátrica y nos dijeron que iría perfecto porque a las horas de comer no dan abasto. Imagine que el robot da de comer y el cuidador da conversación. ¿No sería mejor? Y la persona que necesita ayuda también lo puede recibir mejor, no es igual que te acompañe al baño un cuidador o tu hijo que un robot…

¿Los robots deben ser antropomórficos, tener una forma humana?
Sólo en la medida de lo necesario para las tareas que deban realizar. Se diseñan así para que se adapten mejor a entornos donde actúan las personas. Pero no hace falta ponerles una cara de persona que pueda inducir a engaño, sobre todo a menores o a alguien de edad avanzada, que les lleve a pensar “es un ser vivo que se preocupa por mí; ya no necesito a otras personas”. De esto no soy partidaria. Sería nefasto.

“El robot puede ser muy bueno siempre que se vea como… por decirlo de alguna manera, un sofisticado electrodoméstico, nunca como sustituto emocional”

¿Y deben dotarse de emociones?
Es lo mismo. Deben captar las emociones humanas para dar respuestas adecuadas, pero no deben demostrar emociones que induzcan a engaño, que la persona piense que le quiere, que sustituye a otras personas.

Pero robots que se van conociendo y comercializando, en Japón por ejemplo, apuntan a este tipo más humano. 
La cosa no debería ir por ahí…, lo que no quiere decir que no vaya por ahí. Hago la salvedad de un anciano, en una residencia, que tenga un robot que sea como una mascota; es un sustitutivo, sí, pero si no hay nada mejor… Con niños lo veo mal, porque si sólo se relacionaran con aparatos mecánicos no adquirirían la capacidad de empatía. Y si unos padres lo permiten, hacen dejación de sus funciones. En Japón se comercializa un robot niñera, y en la web de la empresa leí que una madre decía estar encantada porque ya no hace falta que acompañe al hijo a la cama y le lea un cuento, que lo hace el robot y ella se dedica a otra cosa. Y dice que el niño está contentísimo. Pues yo soy contraria a algo así.

¿Por qué últimamente salen creadores de tecnología arrepentidos de haberla hecho adictiva o se cuestiona si muchos de los usos de la tecnología son éticos?
La tecnología nos da grandes oportunidades que debemos saber aprovechar, pero tiene unos riesgos. Y como ahora ya está muy extendida, ha llegado a la cotidianidad –las apps y los móviles han sido para mí la gran revolución–, la gente se ha vuelto consciente de que los datos se filtran, que la opinión se puede manipular para unas elecciones… y se interesa por qué principios éticos rigen. En biotecnología o ingeniería genética, sí, pero en la tecnología informática y robótica no se ha trabajado tanto la ética, la legislación, derechos de los usuarios y, en cambio, la tecnología ha penetrado mucho en nuestra vida.

¿Qué principios éticos deberían existir? 
Ya hay algunos. Mi material didáctico, el curso Ética en Robótica Social e Inteligencia Artificial, va en esta dirección de dar pautas sobre qué líneas rojas no se pueden cruzar, qué es deseable… Hay muchas cuestiones abiertas que se deben debatir y no hay una posición clara. Como si los robots deben tener programada una moralidad. Yo creo que se les pueden programar unos principios básicos, pero más allá no habría acuerdo en qué principios morales son válidos universalmente. Porque incluso una misma persona en una u otra circunstancia pensará diferente. Aun así, existen algunos principios: el Parlamento Europeo aprobó que los robots deben tener un botón rojo para desconectarlos si hubiera una disfunción. Otro es no inducir a engaño, sobre todo a colectivos vulnerables. Hay aspectos sobre privacidad: una cosa es que tú cuelgues información personal en una red social y otra que tengas un robot en casa que ve y oye lo que hace y dice la familia y puede difundir esa información. Hace poco salieron unas muñecas conectadas a internet que registraban lo que los niños hablaban…“Hay muchas cuestiones que se deben debatir y no hay una posición clara. Como si los robots deben tener programada una moralidad”

“Hay muchas cuestiones que se deben debatir y no hay una posición clara. Como si los robots deben tener programada una moralidad”

¿No debería haber un debate social o unos organismos encargados de establecer esas líneas rojas? No se pueden mantener sólo los principios de Isaac Asimov de que los robots no dañen a las personas…
Es que son utópicos. Por ejemplo, un coche autónomo ¿debe elegir entre no atropellar a una persona en la calzada y subir a la acera donde puede atropellar a otra? Es un dilema artificial, ficticio, los vehículos incorporarán unas normas básicas de circulación que no podrán saltarse.

Pues ¿cómo resolver los aspectos éticos?
Se trabaja mucho en ello. El Instituto de Ingeniería Eléctrica y Electrónica (IEEE), una asociación mundial, tiene un comité de estándares que impulsa una iniciativa. Hay grupos sobre el entorno laboral, el educativo, el doméstico, la apariencia, las emociones… Cada grupo reúne a profesores universitarios, expertos en robótica, abogados, filósofos, ejecutivos de empresas… y se trabaja en abierto, cualquiera en internet puede aportar ideas. De aquí debe salir un documento de doscientas páginas de líneas rojas y recomendaciones. En Gran Bretaña, otro comité hace algo parecido, en Corea del Sur hicieron unas normas… Se dirigen a creadores de robots y sistemas informáticos y a usuarios. Porque un usuario también puede hacer un mal uso.

Quien programa al robot es una persona…
No necesariamente: ya se usan muchos algoritmos que hacen que las máquinas aprendan de la interacción con las personas. Microsoft puso un chatbot (un programa capaz de simular una conversación humana) en Twitter y a las 16 horas lo retiró porque se había vuelto racista, homófobo, sexista… Lo programaron para dialogar sobre los temas que salían, pero como había usuarios que tuiteaban barbaridades e insultos, el bot les imitó. Todos somos responsables. Nuestras interacciones en la red tienen repercusiones, no son inocuas, y debemos ser conscientes de ello.

¿Pero cómo se controla que un programador no le pase su sesgo racista o machista a la máquina?
Es complicado, sí. Por eso yo, más que en la regulación, creo en la educación y ya hace años que me empecé a preocupar de elaborar materiales éticos para formar a estudiantes de ingeniería, de informática…

“Al extenderse la robótica del sector industrial al de servicios ha crecido el número de mujeres, pero a cierto nivel no somos muchas, no”

Dadas las pocas mujeres que trabajan en este ámbito, igual acabamos teniendo un mundo de máquinas con sesgo masculino…
En los congresos, en las sesiones de robótica social o asistencial, hay más mujeres que en las de pura mecánica. Al extenderse la robótica del sector industrial al de servicios, ha crecido un poco el número de mujeres. Pero sí, en general, la mayoría son hombres, y también en los comités de programas de los congresos. En el 2015 la máxima organizadora del gran congreso anual fue una mujer e hizo un comité sólo de mujeres. Estábamos todas, unas 40, para visibilizar nuestra presencia en la comunidad robótica…

¿En la élite mundial de la robótica sólo hay 40 mujeres?
Pues a cierto nivel, en mi franja de edad, sí… Hay algunas más, más jóvenes, pero no somos muchas, no.

¿Cómo se interesó usted por la roboética?
Hace unos 15 años, la UE convocaba unas reuniones para debatir qué líneas de investigación convenía financiar, buscar ideas innovadoras. Una vez surgió la idea de diseñar robots que fueran autosuficientes, pues una verdadera inteligencia no es tal si no es autónoma. Debían circular libremente, organizarse por sí mismos… Yo pensé: “Como idea de investigación es un reto, pero ¿nos interesa como humanos?” Empecé a darle vueltas y a partir de ahí escribí La mutación sentimental. En parte buscaba definir qué robótica quería yo para las generaciones futuras. En la novela construí una sociedad dentro de 100 años… Recuperé lo estudiado en Filosofía, me documenté sobre ética, me adentré en el tema, empecé a dar charlas…

¿La ficción le sirve para canalizar sus miedos o expectativas sobre la ciencia?
Siempre me había interesado la ciencia ficción, pero empecé a escribir porque es una herramienta que te permite especular. La ciencia y la ficción son para mí áreas de inspiración mutua.

¿Trabaja en una novela nueva? 
No tengo mucho tiempo para escribir; me han concedido un proyecto grande del European Research Council, con una dotación de 2,5 millones de euros y bastante libertad. Se llama Clothilde (Cloth Manipulation Learning from Demonstrations), para manipular ropa con robots. La industria se ha automatizado mucho en lo relacionado con objetos rígidos, pero no con los deformables, cuando el entorno doméstico, por ejemplo, está lleno de ellos. Queremos hacer una teoría general y tres aplicaciones. Una es robots para ayudar a vestirse a personas con problemas de movilidad. Gracias a un proyecto previo, I-Dress, ya tenemos algunos resultados. Luego, en la venta por internet de ropa, la gente compra, se la prueba y la devuelve. La logística para poner de nuevo esas prendas en la cadena de distribución es muy manual, y se trataría de automatizarla más. Y la otra aplicación es sacar ropa de la lavadora, doblarla, guardarla, hacer camas… Clothilde es ahora nuestro mayor proyecto.

“Las normas deben ser para creadores de robots y para usuarios, que también pueden hacer un mal uso… Todos somos responsables. Nuestras interacciones en la red tienen repercusiones”

¿Qué retos tiene la robótica? 
Esta manipulación de objetos deformables. La seguridad en la interacción robot-persona e interpretar la intención de los humanos: si alguien hace un mínimo gesto, ya vemos que irá a la derecha, cogerá algo… los robots aún deben aprenderlo. Y luego está la personalización: un robot vendrá de fábrica con unas habilidades, pero deberá adecuarse a cada usuario, y este no va a ser un programador. Debemos poder instruir al robot por voz, mostrándole qué hacer… y de manera fácil. En esto trabajamos en mi equipo. Hasta que se resuelvan estos aspectos no habrá una expansión masiva de robots asistenciales.

¿Tiene una película de ciencia ficción preferida?
Uso muchos ejemplos en las charlas de ética. Como Un amigo para Frank.

¿A ese escenario vamos? Cada anciano, con un robot asistente… 
Creo que sí. La película es muy divertida porque el robot lo interpreta todo de forma literal. Se dice que los robots no tienen sentido común, pues responden a lo que les ordenen literalmente. Otra película que me gusta es Los sustitutos.