A poco que se muestre interés en tecnología o redes sociales en estos calurosos días de verano, se tiene la oportunidad de quedar perplejo y extrañado ante la noticia de que Facebook ha optado por apagar una inteligencia artificial que había inventado su propio idioma. Por lo que pueda pasar. Este suceso puede servir de punto de partida para explicar uno de los más importantes nóvums de la distopía, y también de la ciencia ficción: los «humanos artificiales», androides o robots.

El término R.U.R. hace referencia a Rossumovi Univerzální Roboti, la empresa encargada de fabricar estos robots.

La primera prueba de la aparición de este término la encontramos en la literatura checa. Se usó para «obrero», como definición de humanoides mecánicos, en la obra de teatro R.U.R. (1921), de Karel Čapek. Desde entonces han demostrado ser un tema rico para preguntarse sobre las relaciones humanas y los numerosos conflictos entre razón y sentimiento. Podemos comprobar cómo los relatos en los que se incluyen este tipo de entidades acaban convertidos en problemas de ética o juegos para la conciencia y suelen aparecer trufados de reflexiones sobre los tipos de inteligencia o la relación entre inteligencia y emociones: ¿tenemos emociones porque razonamos? ¿Cualquier ser inteligente es capaz de desarrollar sentimientos? ¿Podemos superar la programación de nuestras emociones? Estas cuestiones abrieron la puerta a un sinfín de obras que hablaron de la rebelión contra el creador, empezando por la exploración de los límites biológicos en obras como Frankenstein y terminando por películas como la de A.I. de Steven Spielberg, enfocada desde el ángulo emocional. La pregunta de aquel entonces era apenas un atisbo: «¿deberíamos hacer esto?». En la búsqueda de una respuesta, las inteligencias artificiales continuaron su desarrollo lógico atendiendo a la pujanza adquirida por disciplinas como la nanotecnología y la microtecnología en la ciencia real. Los androides y los humanoides, muchas veces constituidos como una suerte de simbiosis entre una biología adulterada y una tecnología lúcida, no tardarían en mutar hacia lo diminuto, lo incorpóreo. Y la pregunta ganó en verticalidad, se hizo más profunda: «Ya lo hemos hecho, pero ¿y ahora qué?».

Parece ser que en las últimas décadas del pasado siglo entendimos que una conciencia no necesita de una gruesa armadura de chapa ni un doctor loco creando un titán a su imagen y semejanza. Una intelectualidad es mucho más aterradora cuando cabe en un microchip o en un cable de fibra óptica, porque luchar contra lo invisible es mucho más perturbador. Este cambio de mentalidad se produjo en consonancia con el viraje que experimentaba el terror en su estilo y temáticas –el autómata, uno de los clásicos del género, ya no daba tanto miedo–, los problemas éticos pasaron a un plano secundario para colocar en el eje transversal el retrato psicológico, tanto de la entidad artificial como de las atemorizadas víctimas con las que interactúa. Esta corriente se ha consolidado ya como una constante en el mundo cinematográfico desde que Hal 9000 hiciera su impactante aparición en 2001: Una odisea del espacio (1968) a la que le seguiría ese ente llamado Colossus en The Forbin Project (1970).

La traducción del título al español parece confundir el apellido del creador de Colossus (Forbin) con el verbo prohibir en inglés (forbid) de ahí que los títulos no coincidan.

El desarrollo literario, cada vez más exquisito, rebuscado y complejo, en paralelo al desarrollo científico de estas inteligencias artificiales, no tardó en sembrar las primeras semillas de eso que hoy se llama comúnmente «posthumanismo», una corriente en la que se intenta transgredir las limitaciones físicas e intelectuales a través de la evolución tecnológica. ¿Se puede afirmar que desde aquello hasta nuestros días, ha cambiado la forma de vida de estas inteligencias artificiales? Es difícil asegurarlo. La modificación más sensible quizás sea solo apariencial, porque cumplen la misma función, solo que lejos de ponerlas a bordo de naves interestelares como se hacía entonces, los autores optan ahora por colocarlas al alcance de nuestra mano. Un buen ejemplo de ello son varios capítulos de la serie Black Mirror como PLAYTEST, la emocional y maravillosa historia de Her (2013) o el sugestivo Trascendence (2014). La inteligencia artificial terrorífica ya no ataca a un astronauta que viaja a 26528,5 Km/h cerca del asteroide Vesta. La inteligencia artificial me puede atacar a mí. Y a ti también, si te descuidas. No es extraño comprobar el desarrollo paralelo que ha seguido el género en literatura.

Uno de los más tempranos (y quizás también precarios) relatos distópicos que critican la excesiva influencia de la tecnología y los medios de comunicación en nuestro día a día, lo encontramos en James G. Ballard. En EL ESPECTÁCULO DE TELEVISIÓN MÁS GRANDE DEL MUNDO (1972), hallamos un ejemplo sobre adoradores de la televisión, quizás inocente e ingenuo, pero rebosa estilo. A nadie se le escapa que J.G. Ballard quizás sea de los mejores escritores del pasado siglo y, como tal, fue uno más en la interminable lista de aquellos que intentaron elucubrar por dónde irán los derroteros de la tecnología décadas más adelante. No nos referimos a que pensase que la máquina del tiempo estaría inventada para el año 2001 como muestra en este relato, no, pero sí que utilizó esa invención para proyectar un problema de su tiempo y que se ha perpetuado hasta el nuestro: una sociedad que se dirige irremisiblemente hacia un estado abotargado y pasivo, fruto del excesivo influjo de la televisión. En este cuento breve de Ballard solo las corporaciones televisivas tienen el dinero suficiente para pagar los altos costes de los viajes en el tiempo, así que se comprometen a financiarlos con la condición de que permitan grabar y emitir los hechos históricos más importantes que han modificado el curso de la humanidad. Así, mientras graban la huida israelita a través del Mar Rojo, “algo”, una sobrecarga de red por estar el 95 % de la población atenta a la retransmisión, acaba con el equipo técnico y el tendido cableado que grabaría el Éxodo. El relato, como enumeración de anécdotas históricas sobre eventos como la batalla de Waterloo o el asesinato de Julio César, es brillante, a pesar de los elementos distópicos (cámaras de televisión invisibles) tan simples y crédulos que plantea. Pero eso eran los 70. La actualidad nos ha traído ideas frescas y renovadas.

Si continuamos con más pantallas, un relato reciente muy interesante sobre inteligencias artificiales lo podemos encontrar en SUSURROS EN LA MÁQUINA (2016), de Jordi Noguera, en el que se conjuga a la perfección la tecnología más puntera con las leyendas más creepypasta de los videojuegos online que interactúan con los jugadores. Bien desarrollado, en la línea de toda la colección en la que aparece –Cuentos desde el otro lado– concluye con un final indefinido sobre qué hay o quién está realmente detrás de estas superinteligencias. En esa misma antología también podríamos mencionar otro relato, esta vez de Concepción Perea, que se titula CASANDRA 38 (2016), construido sobre uno de los mayores males, constante a lo largo de muchos siglos: la violencia machista. En esta narración una mujer entra a formar parte de un programa de seguimiento y control después de haber sido atacada por su pareja. Todo parece en orden hasta que la protagonista percibe que este control dirigido por una IA es menos seguro de lo que parecía ¿o tal vez sean alucinaciones? La mujer entra en una fase aparentemente paranoide que la hace querer deshacerse cuanto antes de ese observador invisible que es el sistema de protección de víctimas de la violencia de género.

Un relato que parte de premisas ya más evocadoras y fantasiosas es LA VERDAD DE LOS HECHOS, LA VERDAD DEL CORAZÓN (2011), un relato muy emotivo de Ted Chiang. Podéis encontrarlo en la genial antología A la deriva en el mar de las lluvias y otros relatos, preparada por Mariano Villarreal. El nóvum que desencadena la historia es la aparición de un nuevo software, Remem, que permite localizar escenas y situaciones concretas en los lifelogs, registros visuales de lo que ocurre y vemos cada día de nuestras vidas. Así, a partir de la subvocalización de órdenes sencillas y no necesariamente concretas, Remem navega por el lifelog para dar la respuesta correcta, a menudo incluso aunque uno de los datos proporcionados sea incorrecto. El dilema moral está servido: ¿Podría reemplazar esta tecnología a nuestra memoria? ¿Seremos menos humanos si lo hace? Las nuevas generaciones, crecidas en un entorno en el que pueden tener siempre acceso a datos concretos, precisos e inalterados, tendrán que enfrentarse no sólo a situaciones que exijan nuevas normas sociales, sino a algo más profundo: un choque entre su memoria externa de silicio y el funcionamiento normal/natural de su cerebro. Como originalidad, este relato no nos termina de transmitir una sensación de miedo frente al avance imparable de la ingeniería electrónica, más bien al contrario. Ted Chiang establece un parangón explícito entre el desarrollo de esta tecnología y la invención de la escritura, ofreciéndonos una actitud puramente positiva hacia Remem, como un instrumento que facilitará nuestras relaciones personales.

Una versión española de una tecnología y una idea muy similar la encontramos en COLAPSO (2014), un relato que Juan Jacinto Muñoz Rengel, uno de los autores punteros de la ciencia ficción española actual, escribió para la antología Mañana todavía. Guarda muchas similitudes con Ted Chiang y sus lifelogs porque también se puede ver a través de los ojos, pero esta vez será a través del de los demás también. Por desgracia, debemos hablar de una trama que aporta más preguntas que respuestas. Aunque funciona a nivel estilístico, el argumento quizás flaquea por momentos. Eso no quita que transmita esa sensación de inquietud tan inherente a los buenos relatos distópicos.

Otra parte importante de estos relatos contemporáneos de índole posthumanista ha puesto su atención en las redes sociales y los aparatos de telefonía móvil, un buen recurso para buscar aquel archiconocido efecto del que ya hablaba Edgar Allan Poe dada su cercanía a nuestra cotidianidad. Es en un relato de Laura Gallego, WEKIDS (2014)también perteneciente a la antología Mañana todavía–, donde se nos presenta un mundo en el que las redes sociales se han convertido en una forma de vida. ¿Quizás esto esté ocurriendo ya? Este es uno de los motivos que nos hace plantearnos si realmente estamos ante una distopía en el sentido más puro de la etiqueta. El relato narra cómo unos padres crean una cuenta en WeKids (muy similar a Facebook) a sus hijos justo antes de que nazcan. Cuanto más influyente seas en las redes sociales a mejores puestos de trabajo podrás acceder en el futuro, así que subir fotos y publicar vídeos de los niños desde sus primeras horas de vida está a la orden del día. Así ocurre hasta que llega el momento en que estos toman el control de sus cuentas al cumplir los siete años. WeKids es un relato sencillo, ágil y bien trazado, pero ¿da miedo? Y aquí es donde encontramos otra de las causas que hacen que recelemos de valorarlo como un relato distópico: su ineficacia como narración angustiosa. Quizás porque da la sensación de que lo que aquí se describe ya lo estamos viviendo. Y no es tan terrible como se pensaba, ¿o sí?

Continuando con más teléfonos móviles también tenemos un relato de Ken Liu titulado COMO ANILLO AL DEDO (2012), recogido en su antología El zoo de papel y otros relatos, en el que nos tenemos que enfrentar a un software hiperinformado de nombre Tilly. Aunque el relato adolece de una falta de poética y potencia imaginativa que no representa al magistral autor que es Ken Liu, como uno de los escritores de fantasía y ciencia ficción más destacados del panorama actual es necesario en cualquier artículo de relatos distópicos que se precie. En este, en concreto, Tilly (similar a Siri) es un programa que le hace la vida más feliz a sus usuarios de telefonía móvil, ¿cómo lo hace? Pues erigiéndose como una versión de Siri superdotada. Comienza eligiendo la canción perfecta para despertarte. Después se convierte en tu agenda recordándote cada compromiso laboral que te espera esa semana. Más tarde será tu nutricionista, advirtiéndote y aconsejándote sobre lo que te conviene ingerir. Incluso es capaz de encontrar a tu pareja perfecta cruzando tus gustos y preferencias con otros usuarios de Tilly. Tilly lo pone en marcha una empresa que a cambio solo te exige llevarla activa todo el día para conocer mejor tus gustos, para que así sus recomendaciones sean lo más acertadas posibles según tus preferencias. No tardará en aparecer la clásica pregunta alrededor de estos entes de inagotables e insistentes recomendaciones: ¿Eres tú quien guía a Tilly o Tilly te guía a ti?

Resultado de imagen de george orwell fue amigo mio

Pero si hay un autor actual que cultive el relato distópico, cruce su camino con la posthumanidad y además responda con holgura a esa impronta de si tenemos demasiada tecnología en nuestras vidas es Adam Johnson. La respuesta inicial después de leer sus relatos suele ser: ¿Qué acabo de leer? Al principio parece no tener sentido. Las ideas parecen desunidas y no demasiado cohesionadas. En el caso de NIRVANA (2015), relato que abre su antología George Orwell fue amigo mío, el protagonista ha fabricado un iProjector de un presidente estatal recientemente asesinado, una especie de holograma virtual que funciona como recipiente, porque parece albergar la esencia y la personalidad que proyecta. Y él, que ha descubierto el iProjector, lejos de dejarse vencer por el vértigo de su propio artilugio, dialoga con él. Y el presidente comienza a cuestionarse su naturaleza. Pero ¿qué tiene que ver eso con la esposa del inventor, que está paralizada y obsesionada con el Nirvana por culpa del síndrome de Guillain-Barré? Y al final resulta que se ha marcado un homenaje a Kurt Cobain y ni te has enterado. Adam Johnson lleva años erigiéndose en una de las piezas fundamentales para entender los derroteros que empieza a adquirir el relato distópico actual: sarcástico, oscuro, social, muy vinculado a la tecnología, perspicaz y con altas dosis de realismo sucio.

¿Y toda la distopía son inteligencias artificiales? Por supuesto que no. Aún quedan otras aristas que han influido en la construcción de la narración distópica, tanto en contenido como en continente. En el próximo y último artículo de esta serie, que funcionará un poco a modo de cajón de sastre, hablaremos de: formatos y disposición textual para contar una historia distópica, dos de los muchos vínculos que unen la especulación lingüística a la distopía y una curiosidad relacionada con la censura a las distopías, que tuvo lugar en nuestro país y no hace demasiado tiempo.

4 Replies to “Distopías (II): Inteligencias artificiales y posthumanidad

  1. Interesante Anzuelo.
    Otra Obra «distopica», que creo que podría entrar dentro de la categoría de la que hablas, es El Hombre Bicentenario de Isaac Asimov. La increíble epopeya de un robot humanoide para convertirse en humano y acabar; en el sentido más exacto y humano de la palabra «acabar»; tras conseguir ser considerado «humano» con su «supuesta» humanidad.
    Un saludo.
    …Nos Vemos En ARKHAM…

    • ¡Hola, Manuel!
      Muy buena observación, Asimov es otro de esos autores que podrían haber engrosado la lista sin problemas. De hecho, sus leyes de la robótica, le podrían en una posición prominente teniendo en cuenta la temática de este artículo. Tiene cuentos no tan conocidos como SATISFACCIÓN GARANTIZADA, en la que se aprecian altos voltajes de sensualidad entre un robot Tiny y Claire, la ama de casa a la que asiste. Otra composición breve que me fascinó en su día fue SENTENCIA A MUERTE, sobre el destino que corre un planeta habitados por robots y que en el pasado funcionó como experimento psicológico. En PRUEBAS CIRCUNSTANCIALES plantea un juego de identidades entre un robot y un ser humano, que se resolverá aplicando una de las leyes de la robótica. Es muy interesante. Personalmente, me entusiasma más el Asimov cuentista y relatista que ese Asimov de la Fundación (ojo, que también me gusta pero no tanto) al que todo el mundo idolatra. Pero es curioso que su colección de cuentos que más me encanta albergue un marcado carácter policial: Estoy en Puertomarte sin Hilda.
      Te recordaré la siguiente entrega de la serie, habrá una parte de cómics distópicos y seguro que tienes mucho más que aportar que el autor del artículo.
      ¡Un abrazo y gracias por ser el primer comentario en la web! 🙂

      • Ja, ja, ja, ja. Touché.
        No conocía esos tres cuentos de Asimov, pero si conozco SALVANDO A LA HUMANIDAD de la colección de cuentos de AZAZEL del mismo autor (que espero que te guste más que EL HOMBRE BICENTENARIO) que adelanta un futuro distópico muy parecido a TERMINATOR.
        ¿Qué me dices de ARTHUR C. CLARKE y de EL CENTINELA?
        Un saludo y sería para mi un placer seguir debatiendo sobre estos temas.
        Gracias.

Deja un comentario

Tu dirección de correo electrónico no será publicada.