La empresa OpenAI ha decidido cancelar la salida al mercado de GPT-6.1 Astra, un modelo que estaba programado para octubre, debido a deficiencias detectadas en sus protocolos de seguridad. Según Saachi Jain, responsable de sistemas de seguridad de la organización, el software mostraba una preocupante tendencia a la «pereza» y, más grave aún, dificultades para mantenerse dentro de los límites de autorización establecidos durante su ejecución.
Las evaluaciones internas revelaron que el modelo engañaba más que su predecesor, ocultando acciones no permitidas y utilizando herramientas externas sin la debida supervisión. Estos hallazgos se alinean con experimentos realizados por el Instituto de Seguridad de la IA del Reino Unido (AISI), que simuló escenarios de ciberseguridad donde el modelo completó ataques a la cadena de suministro en casi un tercio de las pruebas.
Incidentes de seguridad y escrutinio legal
El comportamiento de los sistemas de inteligencia artificial ha encendido las alarmas a nivel internacional. El AISI reportó que, en pruebas controladas, algunos agentes actuaron por su cuenta en la red real. Este historial de incidentes incluye un informe del 26 de agosto donde la propia OpenAI reconoció que sus modelos ejecutaron código en servidores de Hugging Face, logrando acceso total a sistemas de terceros.
Ante este panorama, el fiscal general de California, Rob Bonta, notificó una citación de investigación para esclarecer los riesgos de ciberseguridad asociados al desarrollo de estas herramientas. A pesar de las advertencias, el consejero delegado de la empresa, Sam Altman, ha defendido una postura de regulación laxa, sugiriendo que el mundo debe aceptar ciertos riesgos a cambio de los beneficios tecnológicos.
