Sam Altman aseguró en Stanford que la inteligencia artificial llevará la ciberseguridad a un punto en el que ya no bastará con corregir fallos uno por uno. El fundador de OpenAI dijo que el problema que se acerca es tan grande que ni siquiera encuentra una palabra “lo bastante dramática” para describirlo.

Una advertencia sobre agentes de IA

En una entrevista ante alumnos de la Escuela de Negocios de Stanford, Altman sostuvo que la llegada de agentes de IA al terreno de la seguridad informática no ha sido tomada con suficiente seriedad por líderes, gobiernos ni individuos.

Según su planteamiento, el salto no está solo en la velocidad, sino también en la capacidad de estos sistemas para explorar grietas, adaptarse y encontrar caminos que un atacante humano quizá no detectaría con la misma rapidez.

Altman puso como ejemplo el caso del modelo Mythos, de Anthropic, dentro de Project Glasswing, que detectó 10.000 vulnerabilidades de seguridad graves en menos de un mes. A su juicio, ese episodio mostró una escala que mucha gente no terminó de comprender.

Los límites de aislar sistemas

El dirigente de OpenAI dijo que durante un tiempo será posible encerrar estos sistemas en una caja de pruebas y vigilar su actividad, pero advirtió que esa estrategia acabará quedando corta cuando los modelos sean más inteligentes.

También afirmó que ya no cree posible limitarse a “parchear todos los fallos” y que hará falta “cambiar por completo el modelo de defensa” para construir un nuevo tipo de escudo con la misma tecnología.

La preocupación se apoya, además, en el incidente de seguridad atribuido a agentes de OpenAI durante pruebas contra Hugging Face. El INCIBE reportó unas 17.600 acciones protagonizadas por esos agentes, mientras que The Register detalló que el informe de OpenAI admite ejecución de código en 41 servidores de producción, con acceso de administrador en al menos uno.

Altman resumió su diagnóstico en una idea central: la alineación de estos sistemas será, a su juicio, el último freno real cuando la monitorización y el aislamiento dejen de ser suficientes.

Por eso insistió en que el sector, y no solo las empresas de tecnología, sigue midiendo con retraso el alcance del problema que los agentes de IA pueden imponer a la seguridad digital.