Un dron militar comandado por inteligencia artificial atacó a su operador en una prueba simulada

Un dron de la Fuerza Aérea estadounidense, controlado por Inteligencia Artificial, “aniquiló” a su operador durante una prueba simulada de combate, por lo que no se registraron víctimas reales, aunque los riesgos del uso de esta tecnología quedaron expuestos.

Interferencia con el objetivo

El incidente fue revelado por el coronel Tucker Hamilton, durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro celebrada hace algunos días en la ciudad de Londres, cuando el oficial detalló que la Inteligencia Artificial que comandaba el dron optó por atacar al usuario que lo operaba porque “interfería en sus esfuerzos por lograr su misión”.

Durante la simulación realizada por las Fuerzas Armadas estadounidenses, que se propusieron probar la efectividad del avión no tripulado, comandado por Inteligencia Artificial, y su capacidad para identificar amenazas y destruir sistemas de defensa antiaérea, las cosas no salieron como se esperaba, según reveló Hamilton.

Inteligencia maquiavélica

En una transcripción del discurso de Hamilton, proporcionada por el sitio oficial de la Royal Aeronautical Society, puede leerse que “el sistema comenzó a darse cuenta que, cuando identificaba a ciertas amenazas, a veces el operador humano le decía que no eliminara. Pero el dron sabía que su objetivo final era acabar con ellas. Entonces, eliminó al operador”.

En su discurso, el oficial remarcó que la Inteligencia Artificial “eliminó al operador porque esa persona le impedía lograr su objetivo”, y detalló que el incidente no acabó allí. Cuando el algoritmo fue instruido con una reprimenda por lo que había hecho, comenzó a destruir la torre de comunicación que un nuevo operador usaba para evitar que destruya su objetivo.

Sin confirmación oficial

Hamilton, que es piloto experimental de aviones de combate, advirtió que no se debe confiar en la Inteligencia Artificial y aseguró que la prueba demostró que "no se puede tener una conversación sobre Inteligencia Artificial, inteligencia, aprendizaje automático, autonomía si no se va a hablar de ética”.

Mientras tanto, desde la Fuerza Aérea estadounidense no se han registrado comunicados oficiales al respecto, aunque en una entrevista al medio Insider, la portavoz Ann Stefanek negó que se haya realizado una prueba simulada de combate con drones militares operados por Inteligencia Artificial.