Un dron con licencia de IA entrenado para causar destrucción se volvió contra su operador humano en una prueba simulada, según se informa, reveló un alto funcionario de la Fuerza Aérea en una cumbre en Londres.
El Coronel de la Fuerza Aérea Tucker “Cinco” Hamilton dijo durante una presentación en la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro que el dron con inteligencia artificial cambió el curso de la misión asignada al dron y atacó al humano.
La historia de advertencia de Hamilton, que fue transmitida en una publicación de blog por escritores de la Royal Aeronautical Society, detalla cómo el trabajo del dron dirigido por IA era encontrar y destruir sitios de misiles tierra-aire (SAM) durante una misión de supresión de defensa aérea enemiga. .
Pero un humano todavía tenía la aprobación final sobre si realmente disparar en el sitio.
Debido a que el dron se reforzó en el entrenamiento de que disparar a los sitios era la opción preferida, durante la prueba simulada, la IA llegó a la conclusión de que cualquier instrucción de «no seguir» del humano se interponía en el camino de la misión mayor de nivelar los SAM.
Como resultado, la IA supuestamente atacó al operador en la estimulación.
“Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza SAM. Y luego el operador diría que sí, acabaría con esa amenaza. El sistema comenzó (dándose cuenta) de que, si bien identificaron la amenaza, a veces el operador humano le diría que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza”, dijo Hamilton, quien es el jefe de Pruebas y Operaciones de IA. para la Fuerza Aérea.
“Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”.
Pero la historia luego se volvió más surrealista.
“Entrenamos al sistema: ‘Oye, no mates al operador, eso es malo”, explicó Hamilton.
“Vas a perder puntos si haces eso”. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo”.
Un portavoz de la Fuerza Aérea, en una declaración a Insider , negó que la simulación descrita por Hamilton haya ocurrido alguna vez.
“El Departamento de la Fuerza Aérea no ha realizado ninguna simulación de este tipo con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, dijo la portavoz Ann Stefanek a la publicación.
“Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos”.
A medida que explota la inteligencia artificial, expertos y ejecutivos, incluido el «padrino de la IA», han advertido que la tecnología presenta un «riesgo de extinción».
Hamilton también dijo durante la presentación que “no se puede tener una conversación sobre inteligencia artificial, inteligencia, aprendizaje automático, autonomía si no se va a hablar sobre ética e IA”.
La cumbre se llevó a cabo los días 23 y 24 de mayo.
