Entrevista a Carme Torras

La tecnología es adictiva. Lo comentaba Carme Torras Genís (Barcelona, 1956) en una de sus conferencias, en las que acostumbra a alertar de la necesidad de una perspectiva ética a la hora de diseñar robots. Profesora de investigación del Instituto de Robótica e Informática Industrial (centro mixto del Consejo Superior de Investigaciones Científicas y la Universidad Politécnica de Cataluña), actualmente dirige un equipo de investigación en robots asistenciales para ayudar a las personas con movilidad reducida o deterioro cognitivo a realizar tareas cotidianas como vestirse o alimentarse.

Matemática de formación, se fue a hacer un máster en ciencias de la computación a la Universidad de Massachusetts, en Estados Unidos. Al volver, se doctoró en Informática en la Universidad Politécnica de Cataluña y consolidó una trayectoria investigadora por la que ha recibido numerosas distinciones, que van desde el Premio Rafael Campalans del Institut d’Estudis Catalans, la Medalla Narcís Monturiol de la Generalitat de Cataluña al mérito científico y tecnológico y el Premio Julio Peláez a las mujeres pioneras en ciencias, hasta las más recientes, como el Premio Nacional de Investigación Julio Rey Pastor en el área de matemáticas y tecnologías de la información y las comunicaciones, y el Premio Nacional de Investigación de Cataluña.

Además, Carme Torras cultiva la literatura. En ella las ciencias y las letras no son dos mundos separados. Bien al contrario, son pasión y devoción. Nunca ha entendido esta distinción e incluso se llegó a matricular en Filosofía y Letras en la Universidad Nacional de Enseñanza a Distancia (UNED), donde cursó varios años. La literatura, afirma, le permite reflexionar sobre los retos éticos que acompañan al desarrollo de la ciencia y la tecnología. Tiene publicadas varias novelas publicadas en catalán como, por ejemplo, Pedres de toc (Columna, 2003), Miracles perversos (Pagès Editors, 2012), Enxarxats (Males Herbes, 2017) y, traducida al castellano, La mutación sentimental (Milenio, 2012). También ha participado en numerosas compilaciones de cuentos, como Científics lletraferits (Mètode, 2014) o, las más recientes, Barcelona 2059 (Mai Més, 2021) y Somia Philip Marlow en xais elèctrics? (Alrevés, 2021).

La entrevista se realiza en línea y desde tres ciudades diferentes: Valencia, Leicester (Reino Unido) y Barcelona, desde donde nos atiende Carme Torras. La pandemia ha contribuido a normalizar los encuentros virtuales que, si antes eran la excepción, han acabado siendo la norma.

Somos una sociedad cada vez más tecnificada pero esta pandemia nos ha mostrado, entre otras cosas, que la asistencia a nuestros mayores todavía tiene un gran margen de mejora más allá de los aspectos tecnológicos. ¿Cuál debe ser el papel de la robótica en este contexto?

En nuestro laboratorio intentamos hacer robots que ayuden a dar de comer y a vestirse a las personas que tienen pequeñas restricciones de movilidad para que puedan continuar siendo autónomas. Durante la pandemia hemos podido hacer, además, entrenamiento cognitivo a personas que tienen una deficiencia mental leve, del tipo Alzheimer, con la Fundación ACE, que atiende esta enfermedad. Después de unos meses abrieron el centro y llevamos el robot que utiliza el mismo tablero de juego que usan los terapeutas para diagnosticar y hacer un seguimiento de la enfermedad. Por ejemplo, hay que poner números en orden creciente o decreciente, que puede ir –dependiendo de la discapacidad– de una cifra a tres, se puede complicar… Y el robot proporciona la misma ayuda que daría un terapeuta. Es decir, si ve que la persona no logra salir airosa, le dice «está en esta línea», «es de color rojo», incluso hay un nivel de ayuda en el que le coge la pieza y la coloca. También lo anima: «muy bien», «tú puedes»… Vimos que, antes de poner la pieza, si algunas personas dudaban miraban a la terapeuta y si esta les hacía que sí con la cabeza, la ponían y si decía que no, se lo pensaban. Pues el robot hace lo mismo, si está bien hace una confirmación. Si no, cierra los ojos.

¿Y esto sustituiría la figura del terapeuta o sería para que entrenen de forma autónoma?

En algunos centros solo pueden disponer de un terapeuta para veinte pacientes y si pudieran tener esta opción… No hace falta gran cosa, con un brazo con una cabeza basta… Y aparte, el sistema puede grabar la evolución del enfermo a lo largo de meses. La capacidad de almacenar datos del robot es mayor que la del terapeuta.

Y el hecho de que la gente mayor sea la generación menos entrenada en tecnología, ¿es un obstáculo o se supera?

Nosotros anticipábamos que tendrían un poco de miedo o que no entenderían qué estaba pasando y fue a la inversa, les encantó, ¡y eso que casi todos eran personas mayores de setenta años! También es posible que, como en la pandemia estuvieron tanto tiempo sin demasiados estímulos, aquello fuese como un soplo de aire fresco.

¿Son muy caros estos robots? ¿Se podrían implementar?

El que hemos usado nosotros es uno de los que ya teníamos, que es un robot móvil, con ruedas, un brazo, una cámara, toda una serie de sensores y, sí, este vale 50.000 euros. Pero no haría falta tanto, como he dicho. Y pensemos que estos robots no los utilizaría una sola persona, sino que se usarían en centros para muchos pacientes. Con otras aplicaciones que estamos haciendo, como la de dar de comer, ya hay pequeños dispositivos que son como una especie de lámpara articulada, y estos valen solo 7.000 euros. Lo que hacemos es equiparlos con una cámara que «vea» cuando el enfermo abre la boca –que quiere decir que quiere comer–, y entonces el brazo lo alimenta. Esta aplicación es un win-win, ganan los cuidadores, que a la hora de la comida no dan abasto, y también las personas que no tienen movilidad en los brazos, porque gobiernan la máquina ellos mismos. Es una aplicación que me parece que pronto estará generalizada porque da una autonomía importante a la persona.

De todas formas, esta interacción entre robots y humanos genera muchas expectativas, pero también temores por si nos restan cada vez más autonomía como individuos.

Sí, está claro, pero esto pasa con las máquinas en general. Nadie recuerda ya los números de teléfono, por ejemplo. Toda la tecnificación conlleva que hay capacidades que las hace la máquina. Mi idea es que utilicemos las máquinas para las tareas en las que estas son más capaces y rápidas y nos reservemos las que requieren capacidades humanas como la creatividad, la empatía, la experiencia de vida, etc. Yo veo que vamos hacia una simbiosis más que a una sustitución. No creo en eso de la singularidad y que las máquinas acabarán dominando el mundo. Creo más en la combinación de capacidades de las personas y de las máquinas.

«Más que a una sustitución, vamos hacia una simbiosis entre máquinas y humanos»

En esta utopía que las máquinas se encargan de las tareas más repetitivas tenemos que tener en cuenta que, en el sistema laboral, hay personas que hacen estos trabajos. ¿Cómo lo hacemos para que todo el mundo pueda entrar en la parte esa del trabajo más creativo? ¿Cómo lo solucionamos desde el punto de vista educativo?

A mí me gusta pensar que no son puestos de trabajo sino unas tareas determinadas porque cada vez más es una robótica colaborativa: la máquina hace los trabajos más pesados y el humano los de supervisión o de control fino. Esta es la tendencia en la robótica industrial ahora. De todas formas, esta colaboración con la máquina requiere una calificación superior. Por tanto, es verdad que hay trabajos que acabarán desapareciendo. Pero hay trabajos que no están catalogados como de alto nivel y que no desaparecerán, porque siempre hace falta una parte de empatía, como, por ejemplo, los cuidados humanos.

En el Reino Unido, como el Brexit ha dificultado el acceso de los inmigrantes, el país se ha estancado. Por ejemplo, en algunos supermercados faltan los productos en los estantes porque no quedan en los almacenes, faltan camioneros… En esta utopía de las máquinas también puede pasar.

Para ese caso de los estantes vacíos tenemos un proyecto con una empresa para hacer ese tipo de tareas, también para hacer cajas con las compras en línea. Esto lo acabarán haciendo robots porque es coger de aquí y de allá y hacer la caja para enviar. Muchas de estas tareas se acabarán mecanizando.

Esta división de tareas ha sido uno de los argumentos del empresario Elon Musk a la hora de presentar su proyecto de robot humanoide hace unos meses. ¿Cómo acoge la comunidad científica estos anuncios?

Existe muy poca información de cómo será este robot. Parece que ha usado toda la parte de percepción del coche autónomo en el robot, pero no he encontrado muchos detalles. Además, yo no creo mucho en estos humanoides. Creo más en el robot electrodoméstico, que hace determinadas tareas y que no hace falta que sea más antropomórfico de lo necesario. No hay que dotarlo de piernas si tiene que ir por una superficie lisa, no hace falta que tenga una cara con mucha expresividad si solo tiene que ayudar a vestirse… No es la imagen de los robots de las películas, sino una herramienta más.

Entonces, ¿la robótica va más por aquí, por el electrodoméstico que por el androide? ¿Se mira más la función que la forma?

Para mí, sí, porque, además, si se les da forma muy humana pueden engañar a los niños y a las personas mayores. En los niños, el desarrollo de la empatía se está formando y si se relacionan tanto con una máquina se les puede pasar el periodo de aprendizaje. Una persona mayor, si no tiene un cuidador humano, tiene el problema del aislamiento.

Quizás en la robótica asistencial los límites están más claros, pero ¿qué ocurre en el caso de la robótica militar?

Es el principal peligro. Todas estas armas de destrucción autónomas como los drones, que pueden tener de objetivo un determinado tipo de persona, las encuentro horrorosas. Y no solo yo, ¿eh? Toda la comunidad de inteligencia artificial y robótica está muy preocupada. Existe una campaña, que se puede consultar en la web «Stop killer robots», a la que se ha adherido muchísima gente. Casi hay unanimidad en la comunidad científica excepto, claro, los que trabajan en investigación militar, en agencias como DARPA.

Haciendo de abogados del diablo, ¿la investigación militar no hace también avanzar la investigación civil? ¿Puede tener un aspecto positivo en este sentido?

Sí, claro, y viceversa. Por ejemplo, muchas de las cosas que se desarrollan en visión artificial no están hechas de cara a aplicaciones militares, pero después se utilizan en ellas. La investigación siempre tiene esto, que la puedes utilizar en un sentido o en otro. Pero yo sí que veo la gran amenaza. En este sentido, la serie Black mirror lo ejemplifica muy bien. Y ya ni siendo militar. Hay un episodio, «Hated in the nation», en que teledirigen abejas [robóticas] para que ataquen a determinadas personas. Lo encuentro brutal.

Y además de manifiestos, y campañas como la que ha mencionado, ¿qué más se puede hacer?

Se ha demostrado que es un tema complicadísimo. Existen organismos que han hecho unas guías del desarrollo ético de los robots. Por ejemplo, el Institute of Electrical and Electronics Engineers (IEEE) durante dos o tres años organizó varios comités de ética específicos para cada entorno –educativo, sanitario, gubernamental– y abierto a aportaciones, porque no es lo mismo legislar en Japón que en Europa. Y se encontraron que los gobiernos aceptaron muchos aspectos [de esta iniciativa], pero les hicieron reducir y quitar la parte militar porque allí no había manera de ponerse de acuerdo. Entonces ahora se ha editado un mínimo de estos principios, sin esa parte. Esto es muy duro de aceptar porque es como que va por otras vías. Está muy bien eso de la robótica social, la inteligencia artificial, poner ciertas normas, pero el tema militar no se puede tocar, ¿no?

En cuanto a eso de legislar para culturas diferentes, existe un estudio relacionado con los coches autónomos en el que preguntaban a quién salvarían de morir atropellado y las respuestas eran diferentes, dependiendo de la zona. Por ejemplo, en los países asiáticos salvaban más a la gente mayor y en Europa protegíamos antes la vida de los niños. Cuando lleguemos a la ética de las máquinas, ¿tendremos que tener éticas diferentes? ¿Las leyes de la robótica de Asimov serán diferentes según el país donde se apliquen?

Yo creo que existen unos principios básicos que sirven universalmente pero después hay otros, no solo para cada país, sino para cada circunstancia. No es lo mismo un robot en el ámbito educativo que en el ámbito asistencial. Una cosa es hacer los principios básicos y otra, el reglamento en cada caso. De hecho, la Comunidad Europea, en inteligencia artificial, ha elaborado también un documento de guía y cada país está adaptándolo. Quiero decir, que se particulariza.

Foto: Jordi Play

En cuanto al aprendizaje automatizado en las máquinas, ¿hasta qué punto la complejidad humana se puede traducir en algoritmos?

Es un tema interesante y que tiene una doble vertiente. Existen aspectos positivos como, por ejemplo, el Google Translator, donde la gente va proponiendo cambios de palabras dependiendo del contexto y el programa lo va aprendiendo. Por otro lado, existe el caso de Microsoft, que puso un chatbot, Tay, en Twitter para que fuera aprendiendo de lo que le decía la gente en esa red social y al cabo de dieciséis horas lo tuvieron que dar de baja porque acabó siendo nazi, sexista, insultaba… ¡Es terrible! Piensas que estamos a merced de lo que haga la gente, que, a veces, es muy poco consciente de la importancia de sus contribuciones a las redes. Una de mis obsesiones cuando hago docencia en ética de la tecnología es que la gente tome conciencia, porque a veces se hace de forma inconsciente, de los sesgos de todo tipo que se introducen [en la programación], bien por desconocimiento o porque no se eligen bien los datos de los que estos programas aprenden.

Hablando de Twitter y de redes sociales, ¿qué papel han podido tener los algoritmos y los bots en la desinformación sobre la pandemia?

No creo que sea cosa de los bots. El origen es siempre humano. En todo eso de las pseudociencias hay colectivos que lo patrocinan. La red lo que hace es globalizarlo y reforzarlo. Ahora hay gente que trabaja en inteligencia artificial para detectar noticias falsas, para combatir eso; hackers buenos, los white hackers.

Un debate de la pandemia ha sido si se tenía que censurar determinados perfiles que están desinformando. Si damos el poder a algún algoritmo o sistema que nos permita limpiar las redes, ¿no acabaremos silenciando más de la cuenta?

Por eso siempre decimos que es importante formar, pero desde la escuela primaria. Es decir, antes estudiábamos otro tipo de cosas –valores cívicos, etc.– que están muy bien, pero ahora también se les tendría que estimular el pensamiento crítico desde pequeños: que no se crean todo lo que leen, que busquen y que tengan criterio para poder distinguir… yo creo que es factible.

«La tecnología crea el problema y después intenta solucionarlo»

Si quieres ser crítico tienes que saber cómo funciona el pensamiento. Es uno de los problemas de nuestros sistemas de enseñanza, que separan las ciencias de las letras.

Es horroroso. En la Universidad Politécnica de Cataluña, que es donde estoy yo, no hay programas de humanidades, claro. Y ahora han puesto en marcha un convenio con la Universitat Oberta de Catalunya para que los estudiantes de ingeniería puedan cursar algunas asignaturas y se las cuenten como créditos, porque se quería introducir contenidos de humanidades en las carreras pero no tenían forma de hacerlo. Eso fue una iniciativa que estuvo muy bien. Se necesita esta complementariedad, pero las infraestructuras no están enfocadas así.

Su novela La mutación sentimental, de hecho, se emplea también como material docente para reflexionar sobre la ética.

En los Estados Unidos, en los grados de ingeniería industrial e informática ya hace años que se dan asignaturas de este tipo. Y las impartían con textos filosóficos que para los alumnos de tecnología resultaban un poco abstractos. Hace unos años algunos profesores empezaron a utilizar novelas de Isaac Asimov, de Ray Bradbury y de Philip K. Dick para motivar algo más al alumnado. Yo siempre, al final de mis intervenciones, hablo un poco de la importancia de la ética y cito la novela. En un congreso donde participé había una persona de MIT Press entre el público y me dijo: ¿si tradujéramos esta novela, nos harías unos materiales para esta asignatura? Y yo, claro, emocionada, hice esos materiales. Y se han utilizado mucho, me consta. La novela se tiene que comprar, pero el material auxiliar es gratuito si eres profesor. Aquí, Pagès Editores hizo una cosa parecida adaptada para secundaria. Y también es gratuito.

Reflexionando sobre la ética, la restauración o mejora de nuestras capacidades mediante implantes tecnológicos en el cuerpo humano es una realidad en varios ámbitos. ¿Dónde están los límites?

¿Los límites? De momento, se intenta aplicar el principio de precaución. Lo que no se sabe qué implicaciones puede tener, no hacerlo, a pesar de que siempre hay quienes se lo saltan. Yo pienso que poner límites al desarrollo tecnológico es imposible. Es decir, todo lo que se puede hacer, se acaba haciendo. Por eso yo lo contrarresto con formación. Hay quien dice «para paliar discapacidades, es fantástico». Pero, por ejemplo, [Oscar] Pistorius corre más [con las prótesis] que los que no tienen discapacidad. En un relato que he escrito planteo la dualidad entre que la tecnología sea externa o interna al cuerpo. Claro, yo me dedico a los robots, para que nos ayuden desde fuera, pero luego están todos los transhumanistas, que piensan que nos pondremos chips para todo: para aumentar la memoria, de traducción para poder entender cualquier idioma… Ya tenemos implantes cocleares, que para la gente que tiene sordera está muy bien, pero la frontera entre paliar una discapacidad y lo que es una mejora siempre es muy fácil de cruzar.

Entonces, ¿el futuro está más en la parte externa? ¿Y cuáles son las principales dificultades que ve de mezclar biología y máquina? ¿Es posible tal y como lo vemos en las películas sobre el futuro?

En lo referente al cuerpo, ya se ha conseguido, porque ya existen las manos mecánicas que se implantan y que se activan con los propios nervios. Es una cirugía superfina pero que se ha conseguido. A mí lo que me da miedo es cuando ya entras a tocar el cerebro. Existen aplicaciones muy positivas como, por ejemplo, los implantes que ponen a las personas que tienen Parkinson, que les permiten desbloquearse. Esto lo encuentro una maravilla. La ganancia es tal que, si tienen algún inconveniente, pues estaría justificado. Pero ir más allá… en las novelas yo planteo cosas así, pero, claro, no es igual.