La gran advertencia de Oppenheimer no es atómica (sino sobre las IA)

Oppenheimer es una gran película en muchos niveles. En otros, no tanto. La escena de la prueba de la bomba atómica seguro será repetida una y otra vez como una clase magistral de cine. Sin embargo, se vuelve plana cuando Christohpher Nolan insiste en la fórmula de los buenos versus los malos que desemboca en una moraleja clara, evidente y enunciada. Como cuando en los 1980s, He-Man nos decía al final de cada episodio “Y recuerden amiguitos…”. De cierta manera, nos quita la capacidad de pensar y reflexionar.

Nolan prefiere darnos el combo completo: potencia narrativa, maestría técnica y un aprendizaje. Salga del cine, olvídese de esto que es solo entretenimiento y a las casas. Un gran ejercicio de consumismo cinematográfico contra el cual no tengo nada, solo que es una oportunidad perdida. 

Porque si nos permitiera sacar nuestras conclusiones, veríamos que la gran advertencia de Oppenheimer no es atómica, sino sobre robots e inteligencias artificiales. 

Para los que nacimos después de 1945 es un poco difícil entender cómo la energía atómica cambió el mundo. De cierta forma, el planeta ya nos vino así. Ese año, varios integrantes del Proyecto Manhattan —sí, los que diseñaron la bomba de Oppenheimer— crearon el Boletín de Científicos Atómicos. 

Esta organización no gubernamental con nombre de sindicato de superhéroes  se dedica, desde 1947, a publicar El Reloj del Fin del Mundo, una representación metafórica (pero realista) de cuán cerca estamos de extinguirnos por nuestra propia mano. El primer presidente de su directorio de patrocinadores fue, nada más y nada menos, que J. Robert Oppenheimer. Está clara la relación entre la proliferación atómica y la posibilidad de que nos matemos todos por estúpidos. 

Pero no es solo eso. Nos gusta jugar a ser dioses y prometeos de fuegos que no terminamos de entender en otras áreas. De hecho, el Boletín se dedica a “impulsar ideas prácticas para lidiar con una coyuntura en la que la tecnología está superando nuestra capacidad para controlarla”. Hoy, se enfoca en dos áreas más, sumadas al riesgo nuclear: cambio climático y tecnologías disruptivas. 

Hoy, advierte el dichoso reloj, estamos más cerca de aniquilarnos como nunca antes: por primera vez en la historia nos separan apenas 90 segundos del apocalipsis. Y una de las formas en que el mundo de hoy se parece al de Oppenheimer es, precisamente, en el nacimiento de una tecnología nunca antes vista. 

¿Nuevos destructores de mundos? 

En esa época, mediados del modernista siglo XX, fue la energía nuclear de fisión. Hoy, son las inteligencias artificiales. Serán sus padres quienes, al recordar su creación, podrían repetir tal como J. Robert Oppenheimer, las palabras del texto sagrado hinduista del Bhagavad Gita: “Ahora me he convertido en la Muerte, Destructor de Mundos”.

La frase, que aparece dos veces en la película de Nolan (una habría sido suficiente), es potente. Pero su genuino significado es mucho más profundo que la simple convicción de que Oppenheimer se consideraba responsable de la creación del arma más letal que la humanidad había conocido. 

Era, como lo explica James Temperton en Wired, un intento por dar sentido a sus acciones. En su texto, Temperton cita a Stephen Thompson, un estudioso del sánscrito, la lengua en la que está escrito el Bhagavad Gita, quien le explica el verdadero alcance de la poderosa frase. 

El texto se centra en un diálogo entre un príncipe guerrero, llamado Arjuna, y el señor Krishna, una encarnación de Vishnu, el dios más importante del vaishnavismo, la mayor rama hindú. 

Arjuna vive un dilema: se enfrenta a un ejército del que forman parte amigos y familiares. Entonces Krishna le enseña cómo cumplir con su deber, indiferentemente de las circunstancias. “Arjuna es un soldado: tiene el deber de luchar”, le explica Thompson a Temperton. Será Krishna quien determine quién vive y quién muere. 

El llamado del deber por encima de todo. “Arjuna no debe lamentarse ni regocijarse por lo que el destino depare, sino que permanecer sublimemente desapegado de tales resultados», dice Thompson. Si uno tuviese que encontrar una forma de justificar la participación en la creación de una bomba devastadora, capaz de arrasar con ciudades enteras, el Bhagavad Gita es un buen refugio. 

Ochenta años más tarde, los creadores de las inteligencias artificiales que empiezan a preocupar a expertos y científicos de todo el mundo como “un profundo riesgo para la sociedad”, podrían esgrimir el mismo argumento: lo que tenga que ser, será —ellos son solo programadores.  

Entonces no importará si las armas guiadas por inteligencias artificiales asesinan a sus operadores humanos con tal de cumplir la misión. Sucedió ya en una simulación. ¿Qué detendrá que suceda en la vida real? O quizá el que un robot tuerza los ojos cuando le pregunten si se sublevaría contra su creador humano será tan solo en el evento disparador de una película futura, que relate cómo los robots nos liberaron de nosotros mismos. 

Sí: también pasó ya. Fue en Ginebra, en julio de 2023, durante la primera rueda de prensa dada por robots a humanos en la historia. 

Nuevas tecnologías, ¿mismos rumbos? 

En un mundo donde la energía nuclear ha sido pan y látigo es difícil encontrar equilibrios. La misma brutal energía que devastó Hiroshima es una de las soluciones más viables, seguras y responsables para el cambio climático. 

El mismo desafío germina entre inteligencias artificiales y robots. Su poder benéfico es incuestionable, pero sus peligros también. Saber la forma en que vamos a regular, lidiar y limitar su alcance es la gran advertencia de Oppenheimer, aunque no quede dicho así, con todas sus letras. 

Si no lo hacemos, podríamos vivir las mismas consecuencias que padeció el mundo después de aquel infame ensayo en Los Álamos que tan bien retrata Nolan en Oppenheimer. Muchos historiadores consideran que la Guerra Fría empezó por el espionaje atómico que se cuajó en Los Álamos. 

El físico inglés Fuchs espió para la Unión Soviética durante toda su estadía en el Proyecto Manhattan. Allan Nun May, otro científico británico, fue sentenciado por haber entregado secretos nucleares a la Rusia comunista. Su actividad fue descubierta por la deserción de un cifrador sovietico, que expuso la red de espionaje. 

Pero era demasiado tarde: en agosto de 1949 la Unión Soviética hizo su primera prueba nuclear. El mundo se polarizó y entró en una época de guerras subsidiarias, intrigas internacionales, y riesgo inminente. En esa dinámica vivimos aún —como si fuésemos Arjuna y nos guiaran nuevos y digitales Krishnas.