En el inagotable y perpetuamente fértil género de la ciencia ficción, la obras literarias de Isaac Asimov, Philip K. Dick, y Arthur C. Clarke parecieran mantenerse –por indudables razones- como las narrativas más celebradas al explorar el tema de los riesgos del empoderamiento de la inteligencia artificial, ya se trate de seres artificiales antropomorfos que cobran una desesperada consciencia de su lugar en el mundo y su angustia y deseo por trascender, supercomputadoras estacionarias pero omnipresentes que desarrollan tendencias homicidas, o robots para los que -en la todavía ficción- se crean reglas o mandatos para evitar cualquier daño a sus creadores humanos. Si bien es obvio que el explosivo surgimiento y dominio de la electrónica y la informática del siglo XX fue lo que inspiró la creación del extraordinario y mundialmente leído corpus de obras de tales autores, la idea del artificio o creación humana que se escapa peligrosamente de control estaba también presente como tema central desde mucho antes, por ejemplo, en el relato folclórico judaico de siglos de tradición oral, ‘El Golem de Praga’, que describe una imponente creación antropomorfa con movilidad y acción propias, comisionada con resguardar las puertas de un gueto de Praga en el siglo XVI, siendo uno de los primeros autómatas de la literatura, en este caso hecho de arcilla, considerado una creación descorazonada y descerebrada, peligrosamente capaz de ocasionar catástrofes. El mito fue a su vez novelizado y publicado hasta el mismo siglo XX, en 1914, por el austríaco Gustav Meyrink, bajo el más breve nombre ‘El Gólem’ (‘Der Golem’).
Por supuesto, a un nivel simbólico, la creación descrita en tal mito –que además de Meyrink fue retomado por Borges en su propia obra poética en 1958- puede llegar a interpretarse a su vez quizá como alusión a los “autómatas” humanos en cuanto personas con un mermado sentido de voluntad, sicofantes ajenos a todo cuestionamiento durante la edad oscura tardía, o actores de un fanatismo acólito a un poder hegemónico u otro, los ciegos de la proverbial parábola ilustrada por Brueghel y retomada por Saramago en la última década del siglo pasado. Con independencia de tal posibilidad interpretativa, la figura del gigante autómata de arcilla que escapa al control humano sin duda puede también homologarse a la IA y la robótica de nuestra era, creaciones con la intención de ya no sólo guardar semejanza física a sus creadores, sino –fútilmente- a su razonamiento.
El mismo mito del Gólem era a su vez precedido, por otros múltiples siglos, por el de Prometeo, el titán que usurpa de Zeus el relámpago –y por extensión la flama-, símbolo de la techné, el artificio, la más primordial, fundamental y poderosa herramienta de creación, para entregársela al hombre, siendo por ello castigado por la deidad, encadenando al titán a las rocas del monte Cáucaso, en donde cada mañana un águila devoraría sus intestinos, para que estos volvieran a crecer durante la noche y ser devorados de nuevo cada alba. La versión del mito para el teatro griego, la trilogía ‘Prometheia’, se atribuye a Esquilo (s. V a.C.), y unos veintitrés siglos después la extraordinaria Mary Shelley dio su propio giro a la idea del ser humano apropiándose del relámpago, la techné, para hacer una creación a su imagen y semejanza en ‘Frankenstein o el Prometeo Moderno’ (título completo de la icónica obra), publicado en 1818, seguido dos años más tarde por el drama escrito por su hermano, Percy Shelley, quien siguió sus pasos temáticos con ‘Prometeo desencadenado’, dejando clara la amplia influencia que el mito griego tuvo en ambos, explorando las trágicas consecuencias resultantes del “hombre que juega a ser Dios” con sus creaciones autonómicas.
Los celebrados autores de ciencia ficción de la era moderna mencionados al principio son a quienes más comúnmente se les asocia con retomar la idea de la creación humana que escapa peligrosamente de cualquier control y, guardadas las distancias, siendo que cada uno de ellos matiza y desarrolla su respectiva narrativa en su propia dirección, en todos ellos indudablemente está presente el tono precautorio de los mitos prometeico y golémico como enormes influencias.
Sin embargo, hay un autor del género a quien, si bien su obra es ampliamente reconocida y ha sido adaptada múltiples veces al cine y televisión, tal reconocimiento es por otros ejes temáticos, pero no por su clara visión sobre los peligros de otorgar demasiado poder a las máquinas autónomas “pensantes”. Frank Herbert, el portentoso novelista estadunidense nacido en Tacoma, Washington, publicó ‘Dunas’ en 1965; vastamente compleja, rica y extensa en su antropología futurista, con múltiples facciones ideológicas, tramas conspiratorias, monopolios hegemónicos, sororidad politizada, opresión genocida, profecías mesiánicas, resistencia étnica, e insurrección armada, en específico retratando a un pueblo que existe en áridas y difíciles condiciones de vida en zonas desérticas, que es violentamente invadido, oprimido, desplazado y saqueado durante años por un grupo de poder con riqueza, capacidades tecnológicas y de armamento marcadamente superiores, respaldado y solapado por el “imperio del Universo” con plena impunidad otorgada para usurpar con violencia los codiciados recursos energéticos de la región, analogía que, por razones hoy más obvias que nunca, no resulta accidente alguno al equipararla a lo que acontece desde hace décadas en determinadas latitudes de nuestro mundo real.
Las proféticas analogías de Herbert no terminan ahí. El aspecto de ‘Dunas’ que raramente es mencionado, en comparación a ‘Yo, Robot’ de Asimov, o ‘2001’ de Clarke, y que prácticamente se encuentra también ausente en todas las adaptaciones cinematográficas que se han hecho de su monumental novela (Lynch en 1984, Harrison en 2000, y Villeneuve en 2021/24), es el que establece que, para el futuro que retrata -el año 10,191-, las computadoras complejas, los robots, y toda herramienta de la IA habían sido ya totalmente prohibidos, tras los catastróficos daños y consecuencias que habían causado a la humanidad, que tuvo que librar contra dichas tecnologías una guerra que en su ficción Herbert nombra “butleriana” o “Jihad butleriano”, y que finaliza justamente con el veto y abolición de las mismas.
En el mundo descrito en ‘Dunas’, las máquinas están ampliamente presentes, por supuesto, entre ellas los medios tecnológicos que un poderoso y monopólico gremio de navegación emplea para “doblar” el cosmos y viajar enormes distancias interplanetarias, la maquinaria construida para minar en los desiertos del planeta ‘Arrakis’ la ‘especia’ -fuente de energía necesaria para tales viajes y clara analogía en los años 60s al petróleo e indudablemente hoy día también al litio-, y la tecnología para poder transducir y amplificar la voz humana a un grado en que puede ser usada como potente arma acústica. Sin embargo, tales tecnologías e innumerables otras herramientas que Herbert imagina, son descritas como empleadas únicamente por el ser humano, y ya nunca puestas bajo el control de computadora o ‘inteligencia’ autonómica alguna.
La narrativa de Herbert representa en ese aspecto una advertencia importante y de innegable carácter profético, dada la forma en que atinadamente el autor ilustra el desenlace y la eventual corrección del rumbo al que podría llegar la humanidad dado el avance devorador de la informática y la automatización de absolutamente todo, y la forma en que esa peligrosa tendencia se aceleraría con una ferocidad aún mayor de la que él mismo pudo atestiguar en su tiempo (Herbert murió en febrero de 1986 en Madison, Wisconsin).
Hoy corriendo la tercera década del siglo XXI podemos ver que el uso desproporcionado de los alienantes dispositivos llamados “inteligentes” han causado un observable y preocupante deterioro en la convivencia, en las capacidad de retención de la atención en la lectura en los más jóvenes, e incluso un leve pero alarmante atraso en el comienzo del habla articulada en los niños en comparación a siglos anteriores, sin mencionar el C.I.; aumentan las demandas por parte de gremios de actores y artistas de doblaje, así como de diseñadores, pintores, y músicos, en contra de los “trabajos” y “obras musicales” generadas por la IA, que ponen en riesgo el trabajo del artista, ya que ahora la industria “musical” produce artificial y fácilmente las muy redituables “canciones” -que en realidad no son más que re-combinatorias informáticas en serie de patrones melódicos, armónicos, y caracteres tímbricos extraídos de muestras de centenares de obras reales para generar supuesto “contenido nuevo”, carente de cualquier inventiva humana o intención emocional auténtica, sustituyendo el trabajo artístico genuino, y mermando la iniciativa o esfuerzo por desarrollar habilidades musicales reales, ocurriendo lo mismo en las artes visuales.
Proliferaron la observación y monitoreo orwellianos a través de compañías como Cambridge Analytica, con su descomunal e invasiva obtención de datos personales sin consentimiento de las personas, programas de inserción troyana con fines de espionaje las 24 horas como Pegasus, y de “seguridad y cibervigilancia” que no descansa, como Palantir (nombre aberrantemente usurpado de Tolkien), hoy el brazo vigilante de Donald Trump hacia los ciudadanos de su propio país. Todo esto se desarrolla con un feroz poder de procesamiento sin precedentes en la historia humana, y por tanto sin que se conozca aún medio alguno de contención o mitigación, en especial si tan descomunal poder llegase a operar de forma autónoma. Se vive un panorama de incertidumbre sobre el alcance y gravedad de las consecuencias para la libertad de individuos y naciones, y de agravio a la privacidad, a las habilidades, a la creatividad, el arte, la educación, y la ética científica.
Herbert anticipó magistralmente el devenir del conflicto humano-computadora hace seis décadas; los catastróficos riesgos de delegarlo todo a sus máquinas autónomas. De haber atestiguado hoy los ominosos indicios de ese error, probablemente se habría preguntado:
¿Cuándo comienza nuestra propia resistencia? ¿Cuándo nuestra propia “guerra butleriana”?
