#ISPE: La amenaza de los robots asesinos

Esta semana en Informe Semanal de Política Exterior (#ISPE): drones.

En uno de sus más famosos relatos de ciencia ficción, Runaround (1942), Isaac Asimov enunció la ley fundamental de la robótica: un robot no puede hacer daño a un ser humano. Sin embargo, la última generación de aviones no tripulados (drones) y otros sistemas de defensa que pueden seleccionar y atacar objetivos sin necesidad de intervención humana, están a punto de violar la ley fundamental de Asimov.

La campaña Stop killer robots lanzada por Human Rights Watch y otras ONG y el relator de la ONU sobre Ejecuciones Extrajudiciales, Christof Heyns, quieren lograr una moratoria internacional que detenga el ensayo, producción, fabricación, transferencia, despliegue y empleo de robots asesinos. Al presentar en el Consejo de Derechos Humanos su informe anual, Heyns advirtió que esas tecnologías ya están disponibles o lo estarán muy pronto.

Los robots no pueden juzgar la necesidad o conveniencia de iniciar un ataque, reaccionar proporcionadamente a las amenazas o discriminar entre combatientes y civiles. La supuesta racionalidad de ese tipo de armas es evitar el “factor humano” en las decisiones militares, condicionadas muchas veces por sentimientos como el miedo, la venganza, la crueldad o la compasión.

Un dron convencional, guiado a control remoto, puede ser “secuestrado” por un hacker. Los sistemas completamente autónomos, en cambio, son virtualmente inmunes a ese tipo de manipulaciones. Y su poder de fuego será devastador. El X-47B de la US Navy, por ejemplo, tendrá una autonomía de vuelo de 3.000 kilómetros, y una tecnología cibernética que permitirá que decenas o cientos de esos aparatos puedan ser utilizados simultáneamente sin control humano alguno en el momento de elegir sus objetivos.

Los nuevos drones podrán resistir niveles de radiación que matarían a un piloto o destruirían los circuitos electrónicos de cualquier aparato. Además de misiles convencionales, futuras versiones del X-47B estarán equipados con un dispositivo que emitirá un haz radiactivo capaz de destruir redes eléctricas e informáticas y satélites. Robots asesinos más simples están en funcionamiento desde hace mucho, entre ellos el sistema Phalanx Gatling Gun, que utilizan la mayoría de los barcos de guerra de EE UU para detectar y destruir automáticamente objetivos amenazantes, aunque en alguna ocasión han disparado accidentalmente contra barcos y aviones propios.

El dron israelí Harpy busca y destruye radares guiado por un programa que identifica sus potenciales objetivos. Israel ya despliega además en Gaza un pequeño robot asesino terrestre: el Guardium, que utiliza sensores para moverse y detectar presencias sospechosas, a las que elimina sin necesidad de esperar órdenes humanas. En diciembre, la francesa Dassault realizó el primer vuelo experimental de su dron nEUROn, capaz de identificar automáticamente a un enemigo y destruirlo con misiles aire-tierra. La británica BAE está también desarrollando el Tarani, un dron semi-autónomo.

La próxima generación de esos sistemas de armamento requerirá el desarrollo de software cada vez más complejo, lo que aumentará exponencialmente el riesgo de interferencias o errores imprevistos.

Para más información:

The Economist, “Killer drones: out of the shadows. Barack Obama´s rules for drones could shape the new global laws of war”. Artículo junio 2013.

Jonathan Masters, “Targeted killings”. Council on Foreign Relations, actualizado en mayo 2013.

Micah Zenko, “Reforming U.S. Drone strike policies”. Council on Foreign Relations, enero 2013.

Micah Zenko, “Ten things you didn´t know about drones”. Council on Foreign Relations, marzo 2012.

Frederic Grare y Samina Ahmed, “Drones and the future of counterterrorism in Pakistan”. Carniege, junio 2013.

Moisés Naím, “Drones and IEDs: A lethal cocktail”. Carniege, marzo 2012.

John Reed, “Semi-autonomous killer drones from around the globe”. Foreign Policy, mayo 2013.

Joshua Foust, “A liberal case for Drones”. Foreign Policy, mayo 2013.

Harold Brown, “Drones are useful, but not the solution of the problem”. Rand Corporation, mayo 2013.