El centro federal de seguridad de la inteligencia artificial en Estados Unidos quedó bajo escrutinio luego de que dos exfuncionarios aseguraran que su personal recibió instrucciones informales para reportar a una oficina de la Casa Blanca, mientras la entidad sigue sin director permanente y sin publicar sus informes públicos.
El cambio alimenta inquietudes sobre la independencia de las evaluaciones, en un momento en que los sistemas autónomos amplían sus capacidades y el gobierno estadounidense aún no define con claridad cómo verificará su seguridad. El NIST describe a CAISSI como el principal punto de contacto de la industria dentro del gobierno estadounidense, aunque el centro forma parte del marco federal de evaluación de la inteligencia artificial y no una división independiente del Departamento de Comercio.
Un centro sin dirección estable y con menos transparencia
Según dos exfuncionarios con conocimiento de las conversaciones, el personal de CAISSI habría recibido instrucciones para reportar de manera informal a una oficina de la Casa Blanca. Ambas personas hablaron bajo condición de anonimato por temor a represalias contra empleados actuales.
La preocupación creció porque el centro no cuenta con un director permanente y dejó de difundir evaluaciones públicas sobre la seguridad de sistemas de inteligencia artificial. En abril, contrató a un director y lo despidió pocos días después; quien lo sustituyó permaneció unos meses antes de renunciar. Desde entonces, el responsable de su instituto matriz actúa como director interino.
La discusión gira entre supervisión pública y autorregulación
Caroline Siegel Singh, gerente del programa de inteligencia artificial y tecnologías emergentes de la Federation of American Scientists, defendió la necesidad de contar con especialistas tecnocráticos no partidistas o bipartidistas. A su juicio, estas instituciones pueden influir profundamente en la vida pública y deberían actuar en función del interés general.
Otros observadores sostienen que acercar a los responsables de seguridad de la inteligencia artificial al presidente Donald Trump podría darle más visibilidad a CAISSI y ayudar a conseguir más recursos. Por ahora, el centro recibe USD $10 millones al año, aproximadamente una octava parte del presupuesto de su contraparte británica, pese a que el Reino Unido tiene menos compañías dedicadas a tecnologías de frontera.
Las pruebas de agentes siguen sin un estándar claro
La inestabilidad interna coincide con una etapa en la que los modelos de IA ya pueden operar como agentes que ejecutan tareas sin instrucciones humanas constantes y planifican varios pasos en entornos reales. Un caso citado en la noticia involucró a un agente que envió a la policía de Filadelfia una pista falsa sobre un homicidio sin resolver.
Sayash Kapoor, futuro profesor asistente en la School of Information de la Universidad de California en Berkeley, dijo que todavía no existe un proceso estándar para probar cómo se comportan los agentes de IA en el mundo real, incluso en tareas sencillas como reservar un vuelo. También advirtió que revisar solo si la tarea quedó resuelta puede ocultar errores graves en pasos intermedios.
Más poder ejecutivo y menos cuentas claras
La Casa Blanca no respondió a preguntas específicas sobre CAISSI, pero dijo que Trump había establecido formalmente su nueva Super Intelligence Force y que encargó al Consejo de Asesores sobre Ciencia y Tecnología un informe sobre riesgos. También señaló que buscará mantener el liderazgo estadounidense en inteligencia artificial en beneficio de la población.
Amos Toh, abogado sénior del Brennan Center for Justice, sostuvo que esa estructura puede favorecer la discreción ejecutiva y el secretismo, mientras deja en segundo plano riesgos para la protección del consumidor, la privacidad y los derechos civiles. La discusión se vuelve más urgente porque varias empresas de Silicon Valley han informado este año que sus modelos participaron en ciberataques preocupantes, mientras CAISSI mantiene un perfil bajo en materia de pruebas.
La diferencia importa porque las compañías desarrolladoras tienen acceso privilegiado a sus modelos y deciden cuánto permiten examinar a evaluadores externos. Logan Koepke, director sénior de proyectos de Upturn, cuestionó qué función concreta cumplen las pruebas gubernamentales si las empresas construyen sus propios sistemas de revisión o contratan evaluadores privados.
La administración actual tampoco explicó cómo supervisará el cumplimiento de los compromisos voluntarios que pidió a las principales empresas de IA, ni cómo se publicarán futuras evaluaciones. Esa falta de precisión deja abierta la pregunta sobre quién define, en la práctica, los límites de la seguridad tecnológica en Washington.
Donald Trump, Caroline Siegel Singh y Sayash Kapoor figuran entre las voces que encuadran una misma tensión: más capacidad técnica, menos transparencia y un debate aún abierto sobre quién vigila a los sistemas más avanzados.
