Un análisis sobre el uso de inteligencia artificial en operaciones militares recientes, a partir de la participación de la empresa Palantir en el conflicto contra Irán.
Hace tres años, a pocos días del estreno de la película de Christopher Nolan sobre Robert Oppenheimer y el proyecto Manhattan, el New York Times publicó una columna titulada “Our Oppenheimer Moment: The Creation of A.I. Weapons”. El autor, Alexander Karp, director ejecutivo de Palantir, empresa de software de análisis de datos con contratos en el sector público y privado de Estados Unidos, trazó un paralelismo entre la física nuclear y la computación, señalando que sus aplicaciones militares modificarían las coordenadas de la guerra.
Karp comparó los dilemas morales de ambos campos y sostuvo que, al igual que los científicos del proyecto Manhattan avanzaron pese a la incertidumbre sobre los efectos de la bomba atómica, ahora se debería permitir el desarrollo de la inteligencia artificial (IA) reconociendo sus riesgos. La columna citó el arrepentimiento de Oppenheimer tras Hiroshima y Nagasaki, pero no mencionó la carta de Albert Einstein al presidente Franklin Roosevelt del 2 de agosto de 1939, que alertaba sobre la posibilidad de una reacción en cadena y la fabricación de bombas de nuevo tipo.
A partir de septiembre de 1939, la invasión alemana de Europa se expandió, y tras el ataque a Pearl Harbor en diciembre de 1941, la guerra se extendió al Pacífico. En marzo de 1943 se inauguraron los laboratorios de Los Álamos; en julio de 1945 se realizó el primer ensayo nuclear, y en agosto se lanzaron dos bombas atómicas sobre Japón. Estos hechos ocurrieron en un contexto bélico específico.
El artículo de Karp también destacó la diferencia entre la relación jerárquica de los científicos empleados por el Estado en Los Álamos y el vínculo contractual del gobierno actual con empresas privadas como Palantir. Karp expresó su patriotismo y su conformidad con la alineación entre los intereses de su empresa y los del país.
En cuanto a la relación de poder entre estados, Karp subrayó el riesgo de quedarse atrás en el desarrollo de la IA. En el caso de las armas atómicas, el reconocimiento de su poder destructivo generó un consenso para prevenir su uso mediante la disuasión, que resultó estabilizadora. En cambio, la superioridad tecnológica estadounidense no ha producido un mecanismo de contención, sino que se ha combinado con un uso frecuente de la fuerza militar en diversos ámbitos, como las operaciones de la agencia de Inmigración y Control de Aduanas (ICE) y del Departamento de Defensa.
La columna original fue escrita antes de la agresión militar contra Irán. En ese conflicto, las fuerzas aéreas atacaron objetivos que incluyeron a figuras del régimen y causaron más de 170 víctimas, en su mayoría niñas y adolescentes, en el bombardeo a una escuela primaria en el sur del país. Se registraron asesinatos selectivos y un error de localización sin responsables identificados, lo que plantea interrogantes sobre la legitimidad jurídica y la eficacia política de la acción.
Palantir participó en esa operación mediante el sistema Maven Smart System, que integra grandes volúmenes de información y emplea técnicas de IA para identificar y priorizar objetivos. En el primer día de guerra, el sistema ayudó a procesar y ejecutar operaciones contra más de mil blancos. La investigación oficial sobre el ataque a la escuela aún no ha concluido, pero se informó que la información utilizada para seleccionar ese objetivo era obsoleta.
La aceleración de los tiempos de reacción puede ser útil en operaciones defensivas, pero no está claro su beneficio en ataques planificados. El derecho internacional humanitario exige distinguir entre objetivos militares y civiles, aplicar el principio de proporcionalidad y tomar precauciones para minimizar daños civiles. Con sistemas de IA que procesan miles de datos, surge la pregunta sobre cómo un operador puede validar un objetivo en segundos y si la decisión final corresponde al ser humano o al sistema.