Los robots, incontrolados, pueden acabar con la humanidad - por Joaquín Rábago
Los robots, incontrolados, pueden acabar con la humanidad
Por Joaquín Rábago
No creo que exagere el semanario alemán Der Spiegel cuando afirma que el empleo con fines militares de la inteligencia artificial puede resultar incluso más peligroso que la bomba nuclear.
Cuenta la revista cómo en 2017 una película de ocho minutos de duración del género de horror se hizo viral en las redes. Se titulaba Slaughterbots y trataba de cómo unos drones con software de reconocimiento facial entraban en el Congreso y en varias universidades de EEUU y eliminaban a senadores y estudiantes que se sabía que estaban luchando contra la corrupción.
Al final de aquel corto terrorífico, uno de sus autores, el científico británico especializado en computación Stuart Russell, advertía al espectador de los peligros que representaban esos nuevos sistemas bélicos y le animaba a impedirlos cuanto antes pues no quedaba mucho tiempo para hacerlo.
Lo que parecía entonces una distopía es hoy una peligrosa e inquietante realidad: los drones han transformado la conducción de las guerras como se ha visto sobre todo en la de Ucrania, donde rusos y ucranianos los emplean con profusión y con terribles resultados letales por ambas partes.
Algunos han calculado que aproximadamente un 90 por ciento de las víctimas rusas en ese conflicto lo han sido por culpa de los drones. Son sólo cálculos, a los que no puede ser ajena tampoco la propaganda, pero resulta en cualquier caso inquietantes.
Al mismo tiempo no hay ningún sector de la industria armamentística que crezca a tanta velocidad como la dedicada al desarrollo de sistemas que combinan la más moderna tecnología bélica con la inteligencia artificial. Y que dé al mismo tiempo tanto dinero.
Como explican los expertos, de poco sirven, por ejemplo, los costosísimos portaaviones como los que ha enviado por ejemplo Estados Unidos a aguas de Oriente Medio cuando nubes de drones baratos pueden hundir fácilmente todo tipo de buques de guerra.
Y también, como comenta Der Spiegel, ¿de qué sirve el número de efectivos de un ejército si los drones pueden llegar a controlar el campo de batalla hasta el extremo de que el solo hecho de pisarlo es automáticamente una condena a muerte.
Una de las empresas más exitosa de ese sector es Palantir, especializada en análisis de macrodatos y cuyos productos pueden distinguir fácilmente con ayuda de la IA entre amigo y enemigo. Nuestros enemigos, dice su actual director general, Alexander Karp “tienen que levantarse y acostarse con el miedo en el cuerpo”.
El mundo está hoy, escribe Der Spiegel, ante un dilema similar al que caracterizó el comienzo de la era nuclear, cuando en 1955 el físico Albert Einstein firmó un manifiesto con el filósofo británico Bertrand Russell en el que se pedía a EEUU y a Rusia a dejar su rivalidad, que suponía una gravísima amenaza para el mundo.
La pregunta es hoy si la inteligencia artificial estará al servicio de la humanidad, contribuyendo, por ejemplo, a curar enfermedades que hasta ahora parecían incurables como el Alzheimer o ciertos tipos de cáncer, o servirá en cambio para una alocada carrera belicista que puede acabar con el triunfo de la máquina sobre el género humano.
El peligro que representa el uso militar de esa tecnología se basa sobre todo en el hecho de que en la guerra de drones, la elección entre la vida y la muerte ha de tomarse en milisegundos.
La empresa Shield AI, con sede en la ciudad texana de Frisco, fabrica drones autónomos, de los que el último modelo es el bautizado “X-Bat”, un minidron militar autónomo que puede prescindir incluso de GPS y de radar, lo que le hace prácticamente invulnerable a cualquier interferencia.
Ese dron puede volar en vertical hasta una altura de 15 kilómetros, cubrir distancias de hasta 3.700 kilómetros y detectar de forma autónoma los objetivos a destruir con los misiles que lleva.
La empresa que lo ha desarrollado habla de “inteligencia de enjambre” para explicar el funcionamiento de esa revolucionaria tecnología de AI que transformará totalmente las guerras futuras, según un ex militar británico llamado James Lythgoe, que se encarga de ese negocio en la Europa del este.
“El mundo tiene que ser consciente de cómo el lado oscuro de la inteligencia artificial puede caer en manos de los autócratas”, escribe Dario Amodei, director ejecutivo de la empresa emergen de ese sector Anthropic, en la que tiene gran interés el Pentágono.
Según Der Spiegel, no hay ningún país que haya avanzado más que China en el desarrollo de esa tecnología que combina robots e inteligencia artificial.
En mayo de 2024, el ejército chino mostró en unas maniobras conjuntas con Camboya un robot asesino de cuatro patas en cuya espalda llevaba montada una ametralladora.
En aquellas maniobras militares, bautizadas “Dragón Dorado” pudo verse también un dron de seis rotores que disparaba contra objetivos en tierra.
El consorcio estatal chino Avic ha desarrollado una especie de nave nodriza capaz de transportar un centenar de pequeños drones hasta distancias de hasta siete mil kilómetros.
Como explica la revista alemana, el peligro de la inteligencia artificial radica sobre todo en el hecho de que deja fuera el factor humano.
Los seres humanos comienzan guerras, pero experimentan al mismo tiempo sus desastrosas consecuencias, algo que no ocurre con los drones.
Al mismo tiempo, advierte Der Spiegel, la inteligencia artificial acorta hasta tal punto el tiempo de decisión que, en caso de conflicto nuclear, existe el peligro real de que las máquinas pudieran precipitar al mundo en un Armagedón de ese tipo.
“Hay ya signos de que la inteligencia artificial podría dar al traste con el equilibro nuclear existente”, reconoce el politólogo estadounidense y ex subsecretario de Defensa del Pentágono Colin Kahl.
A comienzos de los años sesenta, un investigador de la Rand Corporation llamado Herman Kahn, habló de las ventajas que, según él, tendría la que llamaba “Doomsday machine” (Máquina del Dia del Juicio Final).
Se trataba de un mecanismo de disuasión que podría ordenar una respuesta nuclear contra la nación enemiga aun en el caso de que la dirección política del primer atacado hubiese muerto en el primer ataque. Parece ser que abandonó entonces esa idea, que resultó prematura.
Pero con el desarrollo de la inteligencia artificial ha vuelto el miedo a una máquina de ese tipo, y así crece el peligro de que recurso al arma nuclear se encomiende en última instancia a un robot de ese tipo.
La estadounidense Jacquelyn Schneider, ex oficial del Ejército del Aire de su país y hoy profesora de la Universidad de Stanford, ha escrito al alimón con un colega un ensayo titulado “Por qué los militares no pueden fiarse de la inteligencia artificial”.
Ambos sostienen que los distintos modelos de lenguaje de inteligencia artificial, ya sean los de Anthropic, OpenAI o Meta, tienden, pee a sus diferencias, a producir una escalada de los conflictos hasta llegar al empleo del arma nuclear.
Lo más preocupante es lo difícil que resulta llegar a un acuerdo internacional sobre el uso de la AI. En diciembre de 2024, 166 gobiernos votaron en la ONU a favor de una iniciativa presentada por Austria y Suiza que aboga por un empleo responsable de las armas autónomas con inteligencia artificial. Las grandes potencias se abstuvieron o votaron en contra.
Si el tema vuelve a plantearse en la próxima reunión de la Asamblea General de la ONU, en otoño, bastaría el voto mayoritario para regular la IA. Sería por lo menos un primer paso simbólico.
Algunos de los desarrolladores de esa tecnología como el citado Amodei, de Anthropic, consideran que “la única solución pasa por regular su uso”, por leyes que obliguen a las empresas de ese sector.
Las aplicaciones militares más útiles de la IA MULLER DEFENCE