Discord reconoció que un fallo en su sistema de moderación con inteligencia artificial provocó la suspensión indebida de más de 8.000 usuarios en los últimos dos meses, luego de que imágenes inocuas fueran marcadas como contenido dañino.
El error afectó cuentas desde mayo
La compañía confirmó que el problema venía impactando cuentas desde mayo y que, durante el fin de semana, otras 200 personas fueron expulsadas antes de que el equipo identificara y corrigiera la falla. Todas las cuentas afectadas están en proceso de restauración.
En un hilo detallado en X, Discord explicó que su sistema de seguridad automática compara el contenido subido con bases de datos de material perjudicial conocido. La empresa admitió que, aunque la tecnología está diseñada para detectar contenido ilegal, puede generar falsos positivos.
Según la explicación, un moderador humano revisa el contenido, pero un bug hizo que el sistema expulsara de inmediato a las cuentas afectadas.
Imágenes inocuas activaron las sanciones
Entre los archivos que fueron mal clasificados como dañinos hubo hojas de cálculo, tableros de ajedrez, texturas de videojuegos y fondos transparentes blancos y grises. Discord señaló que trabaja en mejores salvaguardas para evitar que algo así vuelva a ocurrir.
La empresa difundió además un mensaje en X donde insistió en que reforzará sus mecanismos de seguridad.
Usuarios afectados han expresado frustración por sanciones basadas solo en detección automática, debido al impacto que pueden tener sobre cuentas usadas para trabajo, comunidades de juegos o vínculos sociales a distancia.
Un usuario en X escribió que perder una cuenta de Discord por algo así puede ser “extremadamente devastador” y pidió que ese tipo de bloqueos erróneos se detenga.
