Oppenheimer y los Prometeos de la IA

¿Nos están asustando en exceso con las amenazas para la humanidad que representa la Inteligencia Artificial (IA) tras la eclosión, en noviembre de 2022, de ChatGPT y otras IA generativas, y de lo que vendrá? Lo curioso es que quienes más propagan el miedo son los propios responsables de haberla desarrollado, los Prometeos de la IA, que ahora piden que se les regule. Como Robert Oppenheimer, jefe del Laboratorio Nacional de los Alamos, coordinador del Proyecto Manhattan que construyó la bomba atómica, llegó a tener dudas –algunas versiones hablan de “arrepentimiento”– sobre su uso en Hiroshima y Nagasaki porque consideraba que los japoneses ya estaban derrotados. “Sabíamos que el mundo no sería el mismo. Unos pocos rieron, otros lloraron, la mayoría guardó silencio”, diría después. Oppenheimer se opuso posteriormente al desarrollo de la mil veces más potente bomba de hidrógeno (pero no dimitió de su cargo como asesor de la comisión que trataba el tema). Pidió, al menos, un control internacional sobre la nueva arma de una capacidad destructiva sin igual en la historia de la humanidad. La comparación viene al caso porque son varios los responsables de la IA que equiparan sus peligros con los de las armas nucleares (de nuevo sobre el tapete con la guerra en Ucrania).

La película de Christopher Nolan sobre Oppenheimer está a punto de estrenarse. Una de sus principales bases es el libro de Kai Bird y Martin J. Sherwin, Prometeo americano: El triunfo y la tragedia de J. Robert Oppenheimer, aunque seguramente contendrá interpretaciones polémicas. El presidente Harry Truman calificó al físico de “científico llorón”. Nolan, en una reciente entrevista, establecía algunos paralelismos, pero también diferencias, entre la bomba y la IA. “Es la mejor analogía –y por eso la utilicé en Tenet– de los peligros de dar rienda suelta sin reflexión a una nueva tecnología en el mundo”. El filósofo Ortega y Gasset, después de la Segunda Guerra Mundial y de la bomba, ya escribió que “la capacidad de construir un mundo es inseparable de la capacidad para destruirlo” y que “el prodigioso avance” de la técnica “ha dado lugar a inventos en que el hombre, por primera vez, queda aterrado ante su propia creación”.

Pues bien, comienza a haber muchos científicos, y empresarios, llorones con la nueva IA que, aunque abre inmensas nuevas posibilidades, podría llegar a controlar a los humanos, y tratarnos como mascotas si no ejercemos un control sobre ella. De momento, plantea problemas de empleo y trabajo; de competencia, con la posibilidad de que, de nuevo, sean unas pocas grandes empresas las que controlen la IA en el mundo; de medio ambiente; y en un horizonte un poco más lejano, pero no tanto, de sus aplicaciones militares y de las decisiones sobre vida y muerte en el fragor de un conflicto. De hecho, un experto en control de armamentos como el centenario Henry Kissinger ha pedido acuerdos internacionales, incluso una agencia de control de la IA en el terreno militar, y la estabilización de la carrera para conseguir dominarla.

«El control y la regulación es difícil cuando ya se empieza a no saber qué pasa, cómo procesa su información la IA de redes neuronales avanzadas»

Los Prometeos de la IA –Elon Musk, Bill Gates, Geoffrey Hinton y Mo Gawdet (estos dos últimos dejaron Google tras dirigir o trabajar en sus tecnología más avanzadas), Sam Altman, presidente de OpenAI (creadora de ChatGPT)– piden una regulación de los grandes proyectos en este campo, acompañados de muchos otros de los millares que han suscrito el llamamiento público del Future of Life Institute para una moratoria de seis meses en nuevos experimentos “gigantes” con IA. Ven un peligro si se desboca esta tecnología, aunque muchos de ellos muchos están invirtiendo grandes sumas en ella. Hasta China avisa de catástrofes en potencia por el mal uso de la IA. Todos ellos saben que el control y la regulación es difícil, sobre todo cuando ya se empieza a no saber qué pasa, cómo procesa su información la IA de redes neuronales avanzadas y otras técnicas de vanguardia. Las declaraciones de principios o propuestas en curso, como la que está pergeñando la Unión Europea, están muy bien, pero se olvidan de las dificultades técnicas, de ingeniería, de llevar esos términos a la codificación y funcionamiento de la IA. Además, dejan en lugar muy secundario el impacto del enorme gasto energético –y por tanto aún de emisiones de gases de efecto invernadero mientras toda esta energía no sea limpia– de la nueva IA, que, sin embargo, también es indispensable a la hora de diseñar medidas para la recuperación del medio ambiente.

Publicidad

Regulación sí, apuntan estos Prometeos. Pero, en el fondo, es para proteger a las empresas. Las grandes tecnológicas piden regulación para proteger sus intereses, sus patentes, para evitar pagos por derechos de autor en la gigantesca información –textos, imágenes, sonidos, incluida música– con la que alimentan sus sistemas. El presidente del gobierno español, Pedro Sánchez, puede haberle pedido al de Estados Unidos, Joe Biden, colaboración transatlántica en el desarrollo de la inteligencia artificial –“Europa tiene que ser una voz que se escuche con claridad”, ha dicho en Washington–, pero la realidad hoy es que las principales empresas de IA del mundo son de EEUU y de China (incluso Google adquirió la británica DeepMind). Excluyendo China, de las 15 mayores empresas de IA del mundo, encabezadas por Microsoft y Google, 13 son de EEUU, una de Israel y otra de EEUU, Reino Unido y Singapur. Ninguna de la UE, que tiene planes, pero siempre va a la zaga. Europa va por delante en la regulación, pero por detrás en esta tecnología que está cambiando el mundo. Hay mucho en juego: el control por parte de unas pocas empresas de las dos superpotencias sobre los ciudadanos y la economía europea. La Big AI, la gran IA, será peor, dicen los economistas Daron Acemoglu y Simon Johnson, autores del excelente Power and Progress: Our 1,000 Year Struggle Over Technology and Prosperity. Además, empresas como Alphabet (Google), también Amazon, entre otras, están advirtiendo a sus empleados de limitar su uso de la IA generativa, incluso la propia como Bard de Google, para evitar las filtraciones de su tecnología.

Hay que esforzarse por lograr que la IA sirva al bien común, al bien de todos. Estos días se ha celebrado el tercer AI for Good Summit. Conviene recordar, con el repaso histórico que hacen Acemoglu y Jonhson, que no hay ningún automatismo que haga que las nuevas tecnologías traigan una prosperidad para todos, y de esto hablan poco los Prometeos de la IA. “Que lo hagan o no es una decisión económica, social y política”. En la mitología griega, Prometeo fue un titán que robó el fuego a los dioses para dárselo a los humanos, por lo que fue castigado por Zeus para la eternidad.