La primera línea del frente se está transformando en un lugar para entrenar modelos de IA, y en estos momentos es, en la práctica, una zona sin regulación
Los campos de batalla en Ucrania están plagados de restos de drones, que se han consolidado como un arma fundamental en la guerra moderna. Pero tras toda esa destrucción, se esconde una nueva mina de oro para el sector de la defensa. Los datos que generan los drones perdurarán mucho más allá de las guerras en las que se utilizan, integrándose cada vez más en la arquitectura de IA que moldea incluso la vida civil.
En cada vuelo, los sistemas no tripulados recopilan miles de datos, desde imágenes y vídeos hasta las acciones del controlador. En conjunto, estos registros muestran cómo una máquina y una persona respondieron a circunstancias en constante cambio.
Ucrania ha comenzado a convertir esa experiencia en un recurso. Su Ministerio de Defensa anunció en enero que pondría a disposición de contratistas militares y empresas comerciales millones de datos recopilados durante decenas de miles de vuelos de drones, y desde entonces más de 100 empresas y el gobierno del Reino Unido han obtenido acceso a ellos.
Para un país en guerra, es una forma rápida de atraer financiación y alianzas. Pero este paso convierte el frente en un campo de entrenamiento activo, aprovechando cómo el caos de la guerra crea condiciones que las empresas de IA tienen dificultades para reproducir por sí solas.
Es probable que otros países y escenarios bélicos sigan el ejemplo de Ucrania, pero la responsabilidad de regular esta nueva industria no puede recaer únicamente en un país que lucha por su supervivencia. Ese vacío legal debe ser cubierto conjuntamente por los países y las empresas involucradas en el desarrollo de esta industria.
Crecimiento explosivo
Los campos de batalla de Ucrania no son los primeros en generar registros utilizados para entrenar y desarrollar modelos: los drones estadounidenses sobre Siria y Yemen recopilaron datos que sirvieron de base para la primera generación de armamento militar semiautónomo a finales de la década de 2010.
La diferencia ahora radica en que el acceso a esos datos se utiliza para desarrollar un ecosistema más amplio. Y el valor financiero para las empresas de defensa es inmenso: los datos del campo de batalla ofrecen grandes volúmenes de experiencia de máquinas recopilada en condiciones que ningún laboratorio puede reproducir.
Esto se debe a que los datos más valiosos para entrenar modelos de IA provienen de situaciones excepcionales: el momento en que desaparece la visibilidad, se interrumpe la señal o un operador humano improvisa. Las empresas de IA invierten años y enormes sumas de dinero intentando capturar suficientes de estos momentos para fortalecer sus modelos. Pero la guerra los genera con una frecuencia que las pruebas controladas no pueden igualar.
Este terreno en constante cambio es lo que hace que los datos de los drones sean valiosos mucho más allá del campo de batalla. Un dron comercial utilizado para reparto o teledetección puede que nunca se enfrente a fuego de artillería, pero aun así debe operar con información incompleta en un mundo donde las personas se comportan de forma impredecible. La guerra condensa este mismo problema en un plazo mucho más corto.
Procesados y cotejados con los registros de las actividades de su operador, esos datos transforman los registros operativos en conjuntos de entrenamiento. El combate se convierte en un activo comercial.
Este ciclo de entrenamiento ya se ha dado en muchos conflictos, donde las grabaciones de drones alimentan las generaciones posteriores de tecnología militar, y se prevé que el mercado siga creciendo. Enabled Intelligence, una empresa estadounidense especializada en el procesamiento de datos para su uso en el entrenamiento de IA, afirma haber puesto a disposición más de medio millón de horas de grabaciones de drones ucranianos para alimentar la próxima generación de modelos, anunciando posibles usos tanto en sistemas militares como comerciales.
Cerrando el bucle de datos
Muchos de los drones que definen la guerra moderna comenzaron como tecnología civil. Sin embargo, recientemente se han potenciado gracias a nuevos sistemas de IA disponibles comercialmente, que permiten que máquinas económicas operen de forma autónoma —ya sea individualmente o en grupo— a medida que cambia el entorno. Cada vuelo registra lo que el sistema encontró.
Los datos resultantes son cruciales. Los entornos de laboratorio controlados, generalmente diseñados para entrenar estos sistemas autónomos, pueden simular fallos, pero no se comparan con las condiciones reales de un campo de batalla, donde los riesgos son muy reales. Los programas de inteligencia militar han almacenado datos generados por sistemas con gran cantidad de sensores, como los drones Predator y Reaper, durante casi una década a través de programas como el Proyecto Maven, pero el acceso se mantuvo exclusivamente dentro del ámbito de la defensa. Los datos generados solo estaban disponibles a través de canales restringidos y clasificados, con el único propósito de desarrollar nuevos sistemas de armas que, a su vez, retroalimentarían al mismo ejército que los produjo. Ahora, esa experiencia se está compartiendo con una red de desarrollo mucho más amplia.
El ciclo se cierra. Las tecnologías comerciales adaptadas para el campo de batalla generan datos que pueden regresar a las industrias de las que provienen, convirtiéndose en parte de la infraestructura de datos en la que confían tanto los gobiernos como el sector privado.
Los drones que fueron entrenados en el espacio aéreo ucraniano con interferencias de señal se están desplegando ahora en el sector agrícola para ayudar a los agricultores a cartografiar y supervisar sus campos en lugares que carecen de la señal celular necesaria para las generaciones anteriores de tecnología.
Es probable que otros países sigan el ejemplo de Ucrania y vendan sus datos de campo de batalla, y no estamos preparados para el nuevo mercado que esto creará.
Actores malintencionados podrían adquirir los datos, pero los controles de compra ya mitigan ese riesgo. Los agentes de inteligencia examinan minuciosamente la infraestructura de los clientes potenciales para detectar posibles vías por donde los datos podrían llegar a manos de enemigos o actores malintencionados.
Los datos de entrenamiento plantean un nuevo problema de rastreo. Mientras que el movimiento de conjuntos de datos comerciales puede seguirse cuando los datos de contacto insertados aparecen a dos pasos del comprador original, la procedencia de los datos de entrenamiento de IA se desvanece de una manera inherente a la propia tecnología. Otro riesgo es que este uso de los datos cree una economía extractiva en la que los países más ricos, lejos del peligro, se beneficien de la amenaza mortal que sufren los estados en primera línea, lo que podría generar un incentivo de mercado para que la guerra continúe como una mina inagotable de oro digital.
Una nueva frontera llena de desafíos
Las leyes vigentes regulan cómo las fuerzas armadas pueden librar una guerra. Sin embargo, no dicen prácticamente nada sobre lo que sucede cuando los registros creados en combate se despojan de su contexto operacional, se empaquetan como datos y se licencian a empresas cuyos productos circulan mucho más allá de su lugar de origen.
Las responsabilidades de las empresas que diseñan estos sistemas siguen sin estar claras. Ucrania está implementando controles de acceso, que se mencionan en el acuerdo de IA recientemente firmado entre el Reino Unido y Ucrania, pero ningún gobierno está trabajando activamente en la regulación de lo que sucede cuando los datos se incorporan a un modelo y se utilizan en los mercados civiles.
Esos registros contienen vidas humanas. Los soldados y civiles que aparecen en ellos no dieron su consentimiento para convertirse en material de entrenamiento para productos que podrían venderse años después. Pero los datos de los sensores, las grabaciones de las cámaras y las coordenadas de los civiles que huyen de un ataque con drones constituyen ahora el tipo de datos que determinarán cómo las máquinas del futuro tomarán decisiones.
Se trata de un problema de consentimiento. Las personas incluidas en los datos —ya sean objetivos, controladores o civiles— pasan a formar parte del material de entrenamiento. Las capacidades autónomas basadas en esos datos no se limitan al campo de batalla. Dichas capacidades se extienden a otros sistemas militares o comerciales, como vehículos de reparto o maquinaria agrícola. Los errores y las suposiciones inherentes a los datos acompañan al modelo incluso cuando este se introduce en la vida civil.
Los datos de campo de batalla no deben tratarse como material comercial ordinario. Sin embargo, actualmente no existe ninguna agencia ni organismo regulador con jurisdicción sobre este tema. Mientras tanto, los gobiernos que facilitan el acceso a datos de defensa deben tratarlos como si se tratara de una transferencia controlada de armas, registrando su origen, otorgando licencias a sus usuarios y restringiendo su posterior divulgación. Ucrania ha comenzado a abordar este problema. Su programa Avengers Labs permite a las empresas entrenar modelos con datos de campo de batalla sin darles acceso directo a bases de datos confidenciales. Sin embargo, esto solo mitiga una parte del problema.
Los gobiernos deberían exigir la divulgación de información cuando los modelos entrenados con material bélico se incorporen posteriormente a productos civiles. El objetivo de dicha regulación debería ser visibilizar el proceso que va del combate al comercio.
Lo que estas empresas realmente extraen es experiencia. Y los soldados no pueden consentir que su experiencia se utilice de esta manera: como datos de entrenamiento que generan ventajas en los modelos y, en última instancia, respaldan un producto utilizado lejos de donde se libró la guerra.
La cuestión ya no es solo qué pueden vender las empresas tecnológicas para su uso en la guerra, sino qué pueden extraer de ella.
Para protegernos de los excesos de esta nueva industria, necesitamos un sistema regulatorio que supervise los datos del campo de batalla allá donde vayan, desde el combate hasta el modelo y el producto comercial.
