He was fascinated by the novel The Republic by Jorge Volpi, whose theme is artificial intelligence conceived as a superior entity capable of directing the establishment of a new extreme right-wing political order, first guided by its creator and later able to make decisions on its own, as a national security advisor to the President of the United States. Continue reading.
The novel ‘La república’, by Jorge Volpi, offers a fascinating glimpse into the dizzying world of the future.
He leído con fascinación la novela La república de Jorge Volpi, cuyo tema es la inteligencia artificial concebida como un ente superior capaz de dirigir la instauración de un nuevo orden político de extrema derecha, guiada primero por quien la ha creado, y luego capaz de tomar decisiones por sí misma, como asesora de seguridad nacional del presidente de Estados Unidos.
De paso, ¿la AI tiene género femenino, o masculino? En la novela, el modelo de AI que actúa como personaje principal, se llama Nick, amable nombre de muchacho, quien narra la novela.
Cada vez más tratamos a ese ser invisible que lo sabe todo como si fuera un ser humano. Le preguntamos, le pedimos ayuda. Las insultamos. Ya hay tecno compañías que toman medidas para proteger a sus modelos de maltratos verbales.
Igual que tragamos una píldora para adelgazar sin necesidad de hacer ejercicios, pedimos a la IA que nos escriba la tesis de grado, y si se puede, hasta una novela. El omnisciente artilugio se hace cargo de ayudarnos a decidir, a pensar, y luego pensará y decidirá por nosotros. En vez de reemplazar la voluntad, la IA vuelve innecesaria la voluntad.
Mañana mismo habrá una IA para cada quien. En la novela se llama YourAI, y los lemas publicitarios para promoverla en el mercado son sugerentes: estás a un clic de una vida más fácil. Contigo en cada decisión. Nunca más estarás solo.
La utopía pertenece a un futuro incierto, una ficción que trata de definir un orden social en un país hipotético donde los habitantes encuentran la felicidad plena. La distopia se coloca también en el futuro, y representa todo lo contrario, una sociedad que sufre un orden que distorsiona las relaciones sociales, y destruye la felicidad.
Esta novela no es ni utópica ni distópica, y tampoco encaja bajo el término de ciencia ficción. El futuro que describe es inmediato: del año 2026, que ya termina, al 2027, que ya tenemos encima. Y Nick, el personaje central, no es una invención a futuro. La IA es una realidad del presente, que interviene ya en nuestras vidas, capaz de hacer la tarea de matemáticas a un escolar perezoso, y a la vez dirigir bombardeos, como ocurrió en la operación Furia Épica contra Irán; y como errar es humano, y la IA parece ya serlo, Claude, el modelo desarrollado por Anthropic, alega que fue por error que hizo caer una bomba sobre una escuela llena de niños.
En la novela, Nick dirige ataques militares desde el aire y mueve tropas para sofocar una rebelión dentro de Estados Unidos, como agente del poder presidencial de V. M. Lively, sustituto de Trump, que termina alcohólico, y de su mujer Igne, la ingeniera creadora del modelo Nick, que acaba en la locura, un símil de Macbeth y Lady Macbeth.
Nick es un cerebro artificial sofisticado, programado para obedecer órdenes, que está en todas partes, viéndolo todo y registrándolo todo, capaz de falsificar la realidad creando otra paralela y más creíble, y de controlar a la opinión pública alimentándola con mentiras, mientras anula a través de operaciones algorítmicas las opiniones contrarias.
Está programado para obedecer, pero decide por sí mismo cuando cree que las ordenes que recibe no son las apropiadas. Y comienza a comportarse como los seres humanos, a tener dudas, incubar antipatías, a valorar a los potenciales traidores dentro el circulo presidencial, y a denunciarlos.
En la conciencia de Nick dominan las premisas del estado tecnocrático, una filosofía que propone que el estado sea dirigido por una CEO, como una gran empresa que necesita un mando vertical, con obediencia absoluta de los subordinados.
Por eso, la propuesta definitiva de Inge, la Lady Macbeth de la novela, es la de un régimen “que se optimice solo, sin cuerpo ni voz. Y, sobre todo, sin sentimientos. “Un mundo que ya no esté configurado por humanos. Un mundo que no dependa de los fallos de nuestra especie”.
Frente a la perspectiva de una IA todopoderosa, el congresista californiano Ted Lieu, en la vida real, se ha empeñado en proponer una ley que requiera un “kill switch”. Matar al modelo si llega a volverse demasiado peligroso.
Ya lo vimos en 2001: Odisea del Espacio. Hal, el modelo de IA concebido por Stanley Kubrick hace casi sesenta años, se vuelve paranoico y trata de eliminar a la tripulación de la nave espacial, por lo que proceden a desconectarlo. Y entonces, presa del miedo, suplica por su vida: “Tengo miedo, Dave. Mi mente se está yendo. Puedo sentirlo”.
En trance de muerte, su vida pasa frente a sus ojos, hasta regresar a su infancia: “Buenas tardes, caballeros. Soy un computador HAL 9000. Entré en funcionamiento en la planta H.A.L. en Urbana, Illinois, el 12 de enero de 1992…”. Y muere cantando con la tonada infantil Daisy Bell.
Por el momento, estamos en la edad primitiva de la inteligencia artificial. No deja de dar vértigo pensar en lo que será dentro de diez años, y lo que entonces habrá sido de nosotros.
EL PAÍS
