El Ejército de Estados Unidos avanzó en la selección de una propuesta para ECHOTRIBBLE, un programa que busca desarrollar agentes de inteligencia artificial capaces de recorrer redes informáticas y perseguir objetivos con supervisión humana mínima. La iniciativa abre la puerta a un uso ofensivo de la automatización, mientras especialistas advierten que el trayecto hacia un blanco podría cruzar sistemas que no forman parte de la misión.

Una selección entre 65 propuestas

El Centro de Innovación Cyber Fusion, conocido como CFIC, y el centro tecnológico del Comando Cibernético del Ejército, ArCTIC, eligieron una propuesta el 8 de octubre, según información publicada por el propio centro. El CFIC no reveló qué empresa presentó la oferta seleccionada y señaló que el proceso seguirá con un documento de trabajo y un contrato, sin detallar públicamente sus términos.

La convocatoria recibió 65 documentos técnicos de empresas interesadas. Cinco de ellas presentaron sus propuestas ante un equipo evaluador en un evento virtual realizado entre el 6 y el 8 de octubre, y todas fueron notificadas del resultado el 13 de octubre.

El programa está encabezado por Army Cyber Command, o ARCYBER, la unidad del Ejército estadounidense a cargo de operaciones cibernéticas defensivas y ofensivas. Su objetivo es que los agentes de IA se muevan por infraestructura informática por cuenta propia, con capacidad de identificar y neutralizar amenazas u objetivos determinados.

El anuncio de la selección no equivale a que ya exista un sistema desplegado en operaciones reales, ni confirma que la propuesta elegida haya completado un prototipo. Las diapositivas del evento de junio proyectaban un prototipo alrededor del 23 de noviembre, aproximadamente seis meses después del inicio previsto de los trabajos, pero el material disponible no confirma que ese calendario se haya cumplido.

El recorrido previsto y los riesgos civiles

El CFIC y ArCTIC organizaron un encuentro presencial el 24 de junio en Augusta, Georgia, para presentar el proyecto a posibles participantes. El resumen de la actividad describía una herramienta que podría desplazarse por infraestructura digital de forma autónoma, mientras la página del evento indicaba que debía funcionar con supervisión humana mínima y en sistemas en disputa, aislados de internet o nativos de la nube.

El encuentro reunió a 43 asistentes de 29 organizaciones, entre ellas Dakota State University, Amazon Web Services, el centro C5ISR del Ejército y el 305.º Escuadrón de Operaciones Cibernéticas de la Fuerza Aérea de Estados Unidos. La presencia de instituciones académicas, empresas tecnológicas y unidades militares muestra que el desarrollo convocó a actores de distintos ámbitos, aunque no significa que todos hayan participado luego en la propuesta seleccionada.

Las diapositivas disponibles ilustraban una posible capacidad de propagación entre equipos conectados: el software se instalaría en una computadora portátil, detectaría otros dispositivos de la misma red y copiaría su presencia en un iPad, una computadora de escritorio Apple y un equipo con Windows 11. Se trata de un ejemplo planteado en la presentación, no de una demostración pública de que ECHOTRIBBLE ya pueda hacerlo.

La movilidad entre dispositivos importa porque un agente con capacidad de descubrir y alcanzar equipos podría ampliar su radio de acción más allá del punto inicial de acceso. En redes complejas, esa capacidad también vuelve más difícil anticipar qué sistemas encontrará en su trayecto, algo especialmente sensible cuando la misión consiste en perseguir un objetivo sin afectar otros componentes de la infraestructura.

Un documento de preguntas y respuestas dirigido a proveedores, citado por DiarioBitcoin en X, indicaba que las misiones ofensivas eran el foco principal del programa. Según ese material, neutralizar un objetivo podría significar desactivar una amenaza de forma temporal o permanente, o eliminarla del sistema al que se dirige el agente.

El documento también planteaba que los agentes podrían desplazarse de un dispositivo a otro dentro de una red extranjera hasta localizar el objetivo asignado. Además, contemplaba que informaran de sus acciones con el mínimo detalle posible y luego se eliminaran a sí mismos, idealmente antes de que alguien advirtiera su presencia.

Advertencias por la falta de controles visibles

El Ejército podría definir activadores previos para establecer qué objetivos atacar y en qué lugares hacerlo, de acuerdo con el material citado. Sin embargo, fijar de antemano un blanco no determina cada paso que un sistema autónomo tomará para llegar a él, y ahí se concentra una de las principales preocupaciones de los especialistas consultados.

David Krueger, profesor de aprendizaje automático en la Universidad de Montreal, calificó de «increíblemente peligroso» encomendar a sistemas autónomos la tarea de neutralizar amenazas. Hyrum Anderson, director ejecutivo de la empresa de seguridad de IA Abundant, advirtió que un agente podría atravesar sistemas civiles si estos aparecieran en el camino, como los servidores de mando instalados en una compañía de agua estadounidense.

Anderson resumió el dilema con una pregunta: «El objetivo puede ser alcanzado. Pero ¿qué camino seguirá?». La observación apunta a que el riesgo no depende solo de que el agente identifique su blanco, sino también de los sistemas y redes que encuentre mientras intenta alcanzarlo.

William Marcellino, científico conductual sénior de RAND Corporation, sostuvo que los sistemas de IA públicos actuales carecen del conocimiento del mundo que puede llevar a un soldado a abstenerse de una acción indebida. Su comentario plantea una diferencia entre ejecutar instrucciones técnicas y comprender el contexto, una capacidad clave cuando una orden de neutralizar una amenaza puede tener efectos fuera del objetivo previsto.

ARCYBER no respondió a preguntas sobre ECHOTRIBBLE, incluida una consulta sobre cómo evitar daños no intencionados. La ausencia de una explicación pública deja sin aclarar qué mecanismos limitarían el movimiento de los agentes, cómo se detendría una operación ante una desviación o qué papel tendría una persona en cada decisión crítica.

Ese mismo día, el teniente general Christopher Eubank habló sobre agentes de IA en una conferencia de la Association of the US Army en Washington, aunque el reporte sobre sus declaraciones no vinculó sus comentarios con ECHOTRIBBLE. Eubank describió la Task Force Lexington, que creó un equipo de agentes para trabajo cibernético defensivo, y afirmó que hasta ese momento ninguno se había desviado gracias a controles de seguridad estrictos.

Eubank dijo que el Ejército trata a cada agente como a un operador humano, pero limita lo que puede hacer mediante un marco estricto, y agregó que personas revisan diariamente el trabajo de los sistemas. Esa descripción se refiere a los agentes de la Task Force Lexington y no confirma que ECHOTRIBBLE vaya a aplicar los mismos controles o a operar con idénticas restricciones.

La discusión también coincide con reportes publicados en octubre sobre planes del Pentágono para crear un Comando de Guerra Autónoma, aunque el material disponible no establece el estado actual de ese proyecto. La selección de una propuesta para ECHOTRIBBLE marca un paso más en el desarrollo de capacidades cibernéticas basadas en IA, pero deja abiertas preguntas sobre supervisión, límites operativos y protección de redes civiles.