Blog de aprendizaje

Humanos y máquinas: de la distopía a la realidad

89

En un año 2020 en el que la distopía se ha convertido en realidad, conversamos con Dioni Arroyo, escritor de literatura fantástica y ciencia ficción sobre inteligencia artificial, tecnoética, automatización y miedos. El hilo conductor de su novela, “El último de la fiesta” (Apache Libros, 2020), es la amistad entre Marco, joven de 14 años, con Nora, una inteligencia artificial con la apariencia de una bella adolescente que perfecciona su entrenamiento en habilidades sociales en un centro educativo.

La novela “El último de la fiesta” fue presentada en el marco de actividades de Sui Generis. Es posible ver la conversación completa EN ESTE LINK.

(Pregunta). Dioni, a lo largo de la novela vas entremezclando la ficción con hitos reales en la vertiginosa carrera de la inteligencia artificial, que va desde los primeros triunfos de la IA sobre los campeones de ajedrez o Go, hasta llegar a 2016, cuando Sophia, una autómata de Ramson Robotics, fue declarado ciudadano no humano por un país como Arabia Saudita. ¿Por qué elegiste Sophia como referente para la construcción de tu argumento?

(Dioni Arroyo) Quizás porque Sophia es real, y lo que ha sucedido con ella nos ha dejado boquiabiertos. Que un país como Arabia Saudita le concediera cédula de ciudadanía como a cualquier ser humano, puede ser una decisión frívola, pero refleja la importancia que se le da a la IA. La clave se encuentra en si su inteligencia algorítmica es consciente de las respuestas que ofrece en las muchas entrevistas que concede, que, a priori, son bastante coherentes y lógicas. Si se supone que puede ser consciente de que existe, aunque no sea un ser vivo, estaríamos a punto de aceptar que vivir y existir se encuentran a la misma altura en cuanto a derechos y responsabilidades, y muestra el camino para el avance de las IA y su futura (o inminente) convivencia con los humanos.

La clave de la ciencia ficción siempre es intentar desarrollar ideas partiendo de la realidad, con presupuestos científicos razonables y realistas, para interrogar al lector sobre las consecuencias futuras de nuestras decisiones presentes, sobre el posible desarrollo de la investigación científica y el pensamiento filosófico, si las prolongamos para las próximas décadas, hasta dónde pueden llegar, los dilemas éticos que encierra, el mundo que somos capaces de recrear, e imaginar una historia que resulte lo más creíble posible al lector, ofrecer suficientes visos de verosimilitud para que disfrute, se entretenga y reflexione. Y Sophia contaba con todos los ingredientes para imaginar un futuro en el que, seres como ella, existan en un ambiente “normalizado”.

(P) Un contraste muy interesante de tu novela es el de la sofisticada elegancia de Nora con la ciudad gris al borde del colapso social, en la que se desenvuelve la acción. Destacan las altísimas tasas de desempleo provocadas por la introducción de automatismos y robots en los puestos de trabajo, que la familia de Marco sufre en su propia piel ¿Cómo crees que afectará la creciente automatización de los puestos de trabajo más técnicos? ¿Acabará también por abarcar otro tipo de elementos más creativos o relacionados con el conocimiento?

(DA) La automatización se va a disparar y crecerá de manera exponencial a lo largo de la década de los veinte, por lo que los cambios serán brutales. Pero para ser francos, hay que reconocer que, a partir de los años ochenta, países como China alteraron el mercado del trabajo con la productividad a bajo coste, afectando las relaciones laborales del mundo entero.

Ahora existe una ventaja, y es que, con la automatización, la nanotecnología, las impresoras en 3D y todas las vertientes del desarrollo de la IA, la economía no para de crecer, se dispara la productividad y los beneficios, elevándose el PIB. Al menos en teoría, asistiremos a una reestructuración de las tareas, y no a una masiva eliminación de puestos de trabajo, y la convivencia entre el hombre y la máquina, o si lo preferimos, entre máquinas de carbono y máquinas de silicio, además de inevitable, será beneficiosa para todos. Y subrayo que esto es lo deseable, y en teoría es lo esperable, porque si no somos capaces de repartir los beneficios ni de reestructurar las tareas de manera inteligente, podríamos vivir en una distopía como la que narro en “El último de la fiesta”, en la que hay una élite privilegiada que controla y disfruta de las nuevas tecnologías, y una masa bruta empobrecida y despojada del producto de su trabajo. Entonces no es difícil imaginar una nueva lucha de clases.

Las últimas décadas hemos asistido a una especialización de tareas, y sería lógico pensar que esto se acelerará con la automatización, dedicándonos más a las relaciones humanas y trabajos sociales, artísticos y creativos, y la IA, a los rutinarios o arriesgados. Si somos capaces de organizarnos y trabajar de manera coordinada, nos aguarda un futuro luminoso, aunque también debemos mantenernos alerta, porque los cambios en la historia, nunca han sido pacíficos ni tranquilos.

(P) Continuando con el argumento de “El último de la fiesta”, cuando Marco se decanta por su amistad/amor platónico relegando a sus amigos, aparece en su pupitre “Marco, traidor, amigo de las máquinas”. En tu novela también haces alguna referencia al movimiento neoludita que, al igual que en el momento de la irrupción de los telares de la revolución industrial, trata de impedir el avance de la computación o de la inteligencia artificial destruyendo su soporte físico. Como antropólogo social, ¿cuál es tu valoración sobre el impacto de las redes sociales sobre las relaciones humanas?

(DA) No sería de extrañar que, como sucede en los grandes cambios históricos, haya un cierto nivel de rechazo y resistencia, y movimientos como los luditas, podrían volver a aparecer, dado que muchos oficios se extinguirán, y sus trabajadores verán su horizonte vital frustrado, y no se quedarán de brazos cruzados.

Respecto a la siguiente pregunta, el auge de las redes sociales está generando transformaciones en numerosos aspectos de la vida cotidiana, y aún es pronto para valorar su alcance, dado que nos encontramos inmersos en medio de un proceso de revolución tecnológica. Lo que sí se puede observar respecto a su impacto en el presente, es que, las redes sociales son una imagen especular de nuestra forma de relacionarnos; es decir, aquellas personas solitarias y con problemas de relacionarse, pueden pensar que con las redes sociales tendrán más fácil el camino de la sociabilización, y así pueda ser en un primer momento, pero luego se reproducen los esquemas de la vida real, como un espejo. Tendrán las mismas dificultades y obstáculos para hacer amistades que en su día a día. Las personas con una gran vida social, sin embargo, con facilidad para interrelacionar con grupos diferentes, percibirán que, con las redes sociales, se prolonga esa naturalidad, mantienen el mismo nivel de éxito y popularidad.

Por lo menos hasta la actualidad, las redes sociales reproducen los esquemas de nuestras relaciones sociales adaptándose a nuestra manera de ser. Nuestra personalidad, nuestra conducta y comportamiento, se vuelca con cada acto que desempeñamos, da igual que estemos en una clase, en un autobús o en un chat. El individualismo, que es cierto que ha aumentado, no es consecuencia de la llegada de las redes sociales, sino de nuestro modelo de vida. De hecho, el creciente individualismo ya se inició antes de que nacieran las redes sociales.

(P) En la novela, Nora cambia de “envoltorio” físico cuanto peor se ponen las cosas para Marco, dejándole solo con sus alucinaciones y delirios. ¿Hay algo de femme fatale en Nora, como en el caso de bellas ginoides de la ficción como Ava, de Ex Machine o Joy, de Blade Runner 2049?

(DA) Así es. Hay una determinada ideología que construye las IA con apariencia humana, y en especial, apariencia deliberadamente femenina, seductora y atractiva. No en vano, los ingenieros que crearon a Sophia, se basaron en Audrey Hepburn, lo mismo que la imagen de personajes de IA de la historia del cine y la literatura.

Sabemos que encontrarnos ante un ser semejante a nosotros, pero que sabemos que es una máquina, nos genera una sensación automática de rechazo, nos resulta perturbador, lo que el profesor japonés Mashairo Mori acuñó como el “efecto del Valle Inquietante”. Para reducir el nivel de rechazo, se optó por construir la IA con una apariencia amable, femenina, de la mayor belleza posible e incluso con un toque de fragilidad que provocase en nosotros el instinto de compasión. Si a esto añadimos la ideología predominante sexista y que tiende a replicar y reproducir estereotipos machistas y los prejuicios habituales de género, es evidente que estas criaturas van a ser diseñadas con estos elementos. En mi novela también se vive en un mundo con la misma ideología sexista, y por ello el personaje de Nora debía mantener dichos esquemas.

(P) El final de “El último de la fiesta” es descorazonador, demoledor, sin lugar a la esperanza. El límite entre lo que está ocurriendo y la alucinación de Marco es difuso, pero en cualquier caso, real para él. En la actualidad muchos jóvenes (y no tan jóvenes), viven vidas paralelas en partidas de gaming o en redes sociales que, para ellos, son mucho más interesantes y vívidas que la vida real. ¿Cómo prevés el futuro de un mundo donde lo analógico y lo digital cada vez divergirán más? ¿Caeremos en una “matrix” de la cual no tengamos interés en salir?

(DA) Las nuevas tecnologías están precipitando los cambios, y nos encontramos con un caudal de información permanente e infinito, poseemos la capacidad de conocer una gran cantidad de información al instante, lo que puede ser una ventaja, pero también crea algunos problemas: una de nuestras funciones cerebrales, es reconocer la información, seleccionarla, asimilarla y convertirla en conocimiento. Pero si el flujo de información nos desborda y es muy elevado, no tenemos tiempo para llevar a cabo un proceso cognitivo de identificación, clasificación y transformación en conocimiento, por lo que podríamos sufrir estas décadas, un fenómeno que ya se ha descrito como de evolución regresiva o de involución, es decir, de retroceso de nuestro coeficiente intelectual.

Las nuevas tecnologías suponen un mundo audiovisual atractivo y desafiante que nos seduce y atrapa, y si no sabemos poner fronteras, podríamos enfrentarnos a una adicción muy peligrosa, y no solo para los jóvenes. Si sabemos repartir los beneficios que nos otorgará la automatización, viviremos en sociedades prósperas con un elevado nivel de vida, de bienestar y tal vez, también de “bienser” y, por lo tanto, con más tiempo libre. Si sabemos aprovechar el tiempo libre, podremos hacer realidad el sueño clásico de cultivar el ingenio, las artes y el pensamiento, pero también podríamos acabar siendo esclavos de nuestras propias creaciones.  Cuando vemos a un perro paseando por el campo de la correa de su amo, sabemos que a ese animal no le falta de nada, que su dueño le alimenta, le lleva al veterinario, le lava y le cobija en su casa, un modelo de vida bucólico. Si nos descuidamos (y esta es la pregunta provocadora con la que me gustaría terminar la entrevista), tal vez en veinte o treinta años siga siendo igual, solo que los perros seríamos nosotros, y nuestro amo, una IA.

PARA SABER MÁS:

Foto de la portada: Possessed Photography on Unsplash

También podría gustarte

Deja una respuesta

Tu dirección de correo electrónico no será publicada.