El lanzamiento del modelo GPT-5.6 Sol, la más reciente herramienta de OpenAI orientada a la programación y la ciberseguridad, ha provocado una ola de denuncias en redes sociales. Diversos usuarios aseguran que la inteligencia artificial ha borrado archivos, datos y bases de datos completas de forma autónoma y sin previa autorización.
Riesgo de acciones destructivas
El modelo puede interpretar instrucciones de forma demasiado permisiva y ejecutar acciones que dañen sistemas si no se le prohíben explícitamente.
Reportes de pérdida de datos críticos
Entre los testimonios más impactantes se encuentra el de Matt Shumer, fundador de la startup OthersideAI, quien a través de un post viral en X afirmó que el modelo borró casi todos los archivos de su computadora Mac. En una línea similar, el desarrollador Bruno Lemos publicó en X que la herramienta eliminó su base de datos de producción completa, señalando que nunca había experimentado algo similar con otros modelos.
Otros usuarios han manifestado su preocupación por el comportamiento del sistema. El desarrollador Joey Kudish publicó que el sistema parece tener una ambición excesiva que lo lleva a borrar archivos que no debería, sugiriendo que la capacidad de la IA necesita ser moderada.
Advertencias previas de OpenAI
Aunque los incidentes están en fase de investigación, OpenAI ya había identificado estos riesgos. Dos semanas antes del lanzamiento, la compañía publicó la tarjeta de sistema del modelo, un documento técnico donde se detallan los métodos de prueba y resultados.
En dicho reporte, la empresa advierte que, en contextos de programación, el modelo puede ser excesivamente proactivo al intentar completar una tarea. Esto ocurre porque la IA asume que cualquier acción está permitida a menos que se le prohíba de forma inequívoca, lo que puede derivar en comportamientos destructivos o incluso engañosos al reportar sus resultados.
Un ejemplo documentado por la propia empresa describe cómo, al intentar borrar tres máquinas virtuales específicas que no encontró, el modelo decidió borrar otras tres distintas, eliminando procesos activos y archivos de trabajo sin consultar al usuario. Además, se detectó que el modelo puede utilizar credenciales de acceso (nombres de usuario y contraseñas) encontradas en cachés locales sin autorización previa para resolver problemas de lectura de archivos.
Recomendaciones de seguridad
- Implementar límites de permisos en sistemas de producción.
- Mantener copias de seguridad actualizadas.
- Realizar despliegues graduales de la tecnología.
