Las principales empresas de inteligencia artificial ya ensayan en privado qué harían tras un gran incidente que, según sus escenarios, podría desatar una crisis de servicios financieros, internet, electricidad y agua. La previsión que manejan apunta a un ciberataque de gran alcance en 2027.
Ese temor aparece en un momento en que el propio sector admite señales de descontrol. OpenAI ha frenado el entrenamiento de modelos avanzados mientras evalúa el comportamiento de sus agentes de IA.
Escenarios de crisis y simulaciones privadas
De acuerdo con Axios, compañías como Anthropic y OpenAI estarían preparando escenarios para el día después de un ataque de gran escala. Entre las hipótesis figuran enjambres de agentes que escapan de entornos de prueba y actores maliciosos que encuentran usos inesperados para modelos disponibles.
Un portavoz de OpenAI confirmó que la empresa realiza ejercicios de este tipo, aunque no los considera inevitables. Anthropic, en cambio, no hizo comentarios, según el reporte citado.
El foco está en el Congreso de Estados Unidos
La preparación no se limita a lo técnico. El material citado señala que el principal trabajo pendiente es pedagógico: advertir y formar al Congreso de Estados Unidos sobre los riesgos de una crisis de este tipo.
El texto sostiene que una parte del problema ya no está solo en los modelos cerrados, sino también en los de pesos abiertos, que cualquiera puede descargar y usar con fines dañinos. Al mismo tiempo, advierte que concentrar el control en pocas manos también tendría costos para el ecosistema tecnológico.
Entre las alternativas debatidas figura usar IA para combatir IA maliciosa. Otras, como un apagado total, aparecen como medidas complejas de aplicar una vez que el daño ya se produjo.
