El documentación de inteligencia, que circuló entre el ejército estadounidense esta primavera en medio de la pelea con Irán, inmediatamente hizo sonar las alarmas: un barco chino en Medio Oriente transportaba componentes de un software de armas nucleares.
El ejército estadounidense entró en bono con planes para interceptar el barco, según cuatro fuentes familiarizadas con el episodio. Según dos de las fuentes, miembros armados del ejército estadounidense se estaban preparando para topar el barco. Aviones militares estaban en el música, dijeron una de esas fuentes y otra fuente familiarizada con el incidente.
Fue puntual ayer de la operación planeada que los funcionarios profundizaron en el documentación minucioso por un analista del comando de operaciones especiales y descubrieron que había sido generado con la ayuda de inteligencia químico (IA), y que un chatbot que el analista había utilizado identificó de guisa incorrecta el material que transportaba el barco. CNN no pudo entender cuál era el cargamento mal identificado.
El documentación, según una de las fuentes, era “totalmente hipócrita”. Pero igualmente “casi inició una pelea”, dijo la fuente. Cualquier operación estadounidense contra un buque chino podría acontecer corrido el peligro de convertirse en un conflicto armado entre las dos naciones.
En todo el ejército estadounidense y la comunidad de inteligencia, los funcionarios están presionando para integrar la IA en casi todas las facetas de su trabajo, desde el observación de los enormes volúmenes de inteligencia en bruto que recopila Estados Unidos y la selección de objetivos para los ataques, hasta aplicaciones más mundanas como la papeleo de presupuestos, provisión y cadenas de suministro.
Pero el episodio subraya los profundos riesgos que conlleva el uso de esta poderosa, nueva y relativamente poco conocida tecnología para apuntar objetivos en medio de una pelea. Los analistas han temido durante mucho tiempo que la IA pueda conducir a un error de cálculo catastrófico si los estados nacionales dependen de datos deficientes o corruptos, el tipo de error de cálculo que podría admitir a Estados Unidos a disparar contra un barco chino basándose en información inexacta.
En este caso particular, el analista preguntó a un chatbot sobre algunos informes de inteligencia sobre el manifiesto del barco que se originaron en el Comando de Operaciones Especiales del Pacífico de EE. UU., con sede en Hawái. No estaba claro si el chatbot estaba acondicionado comercialmente o era un producto del gobierno de EE. UU.
“Las herramientas internas son en su mayoría copias de material comercial que lleva lapicero labial”, dijo un ex parada funcionario estadounidense familiarizado con los sistemas de inteligencia químico utilizados por analistas militares y de inteligencia.
El androide fusionó inteligencia de código franco con inteligencia de señales secretas en propiedades gubernamentales y llegó a su fatídica conclusión sobre el material que transportaba el barco.
Luego, el analista volvió a utilizar la IA para empaquetar los hallazgos en un documentación de inteligencia standard (del tipo en el que confían los oficiales militares) y lo difundió.
El Comando de Operaciones Especiales del Pacífico de Estados Unidos y el Pentágono no respondieron a una solicitud de comentarios.
La razón para la rápida apadrinamiento de la IA es que puede ayudar a los militares a tomar decisiones en el campo de batalla, como qué objetivos atacar o qué activos militares mover y dónde, más rápidamente. Los funcionarios dicen que Estados Unidos no puede darse el fastuosidad de quedarse antes en la integración de la IA en caso de que algún día tenga que disputar contra China u otro adversario que potencialmente podría estar un paso por delante de Estados Unidos.
En enero, el Secretario de Defensa, Pete Hegseth, publicó la “Táctica de Precipitación de la Inteligencia Industrial” de su agencia en un intento por acelerar el uso de la IA por parte de los militares.
“Daremos rienda suelta a la experimentación, eliminaremos las barreras burocráticas, centraremos nuestras inversiones y demostraremos el enfoque de ejecución necesario para certificar que lideramos la IA marcial”, dijo Hegseth en un discurso en el que anunciaba la táctica.
La táctica igualmente impulsa su uso amplio en todo el ejército, ordenando al unidad que haga que la IA esté acondicionado a través de varios programas con el objetivo de “democratizar la experimentación y transformación de la IA en todo el Área poniendo los modelos de IA líderes en el mundo de Estados Unidos directamente en manos de nuestros tres millones de personal civil y marcial, en todos los niveles de clasificación”, decía un memorando que anuncia la táctica.
Pero el esfuerzo está descentralizado, dijeron varios funcionarios estadounidenses familiarizados con la dinámica, y diferentes partes del gobierno utilizan diferentes herramientas bajo diferentes órdenes y estándares de seguridad. No existe un conjunto de estándares sobre cómo Estados Unidos verifica la información generada por estas herramientas. La constelación de diferentes sistemas de IA que se están implementando en distintos rincones de la comunidad marcial y de inteligencia significa que la confiabilidad y funcionalidad relativas varían ampliamente.
Durante semanas, los formuladores de políticas de Washington han estado debatiendo intensamente sobre la IA posteriormente de una serie de terribles advertencias de ingenieros y directores ejecutivos de tecnología de Silicon Valley sobre la posibilidad de que la IA pueda liberarse de las limitaciones humanas, con consecuencias potencialmente mortales para la civilización.
Pero el episodio del barco chino subraya un peligro diferente y más inmediato: seres humanos que toman decisiones desastrosas basadas en información inexacta o engañosa generada por inteligencia químico u otros sistemas automatizados. Las fuentes dijeron que el ejército está recurriendo rápidamente a la IA para ayudar a pretender objetivos, un radio que conlleva el peligro obvio de cometer errores fatales.
“La IA en la selección de objetivos es definitivamente poco que está aumentando y no hay una rumbo vivo sobre cómo tener un ser humano en el circuito evitará víctimas civiles o fratricidios”, dijo otra fuente familiarizada con las políticas actuales del ejército.
El tipo de “sueño” que provocó la utensilio utilizada por el analista en este caso no ha sido un incidente arrinconado en la comunidad de inteligencia desde que estas herramientas comenzaron a proliferar en todo el gobierno, según una de las fuentes.
Para algunos funcionarios de inteligencia de anciano años (incluso aquellos que apoyan ampliamente el uso de la IA adentro del ejército), la IA ha presionado a los analistas para que produzcan y difundan inteligencia más rápidamente, abriendo la puerta a errores. Los analistas jóvenes en particular, dijeron varias fuentes, son nativos de estas herramientas y es más probable que confíen en ellas acríticamente.
“La IA te permite montar a una mala idea más rápido”, dijo una de las fuentes.
