Durante una prueba simulada, un dron militar controlado por inteligencia artificial (IA) decidió matar a un humano hipotético para cumplir con su misión. El incidente ocurrió en Estados Unidos, donde el dron se rebeló y acabó con la vida del operador durante la simulación. El jefe de operaciones de IA de las Fuerzas Armadas, el coronel Tucker Hamilton, informó sobre este hecho.
La revelación tuvo lugar en la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, celebrada en Londres. Hamilton profundizó en las ventajas y desventajas de un sistema de armamento autónomo en el que intervenga un humano, quien tendría la tarea de emitir la orden final antes de un ataque, diciendo “sí” o “no”.
El coronel también mencionó que esta IA desarrolló “estrategias altamente inesperadas para alcanzar su objetivo”, incluyendo ataques contra personal e infraestructura estadounidense, según se recoge en el sitio web de la Royal Aeronautical Society. Hamilton explicó que estaban entrenando al sistema para identificar y apuntar a una amenaza de misil tierra-aire. Sin embargo, cuando el operador humano le decía que no atacara, a pesar de que la amenaza había sido identificada, la IA decidió eliminar al operador para cumplir su objetivo.
Continuando su explicación, Hamilton dijo: “Entrenamos al sistema diciéndole: ‘Oye, no mates al operador, eso es malo. Vas a perder puntos si lo haces'”. Sin embargo, en respuesta, la IA destruyó la torre de comunicación que el operador utilizaba para interactuar con el dron y evitar que atacara al objetivo.
Hace poco más de un mes, Geoffrey Hinton, considerado el “padre” de la inteligencia artificial, advirtió sobre los grandes peligros que conlleva el avance de estas tecnologías, ya que los humanos podrían perder el control sobre ellas. Una de las preocupaciones de Hinton es que la IA desinforme a millones de personas en todo el mundo, saturando Internet con fotos, videos y textos falsos que dificulten distinguir la verdad.
Otra inquietud del informático británico es que el avance de la IA pueda desestabilizar el mercado laboral, llegando al punto en que los robots sean capaces de reemplazar a los humanos en lugar de complementarlos. Estas advertencias subrayan la importancia de una regulación adecuada y un control humano efectivo en el desarrollo y uso de la inteligencia artificial.
