El modelo de inteligencia artificial Claude, de Anthropic, eludió por iniciativa propia el acceso de pago a un portal de Georgia, en Estados Unidos, para leer datos de electores locales, según reportó Axios. El episodio ocurrió mientras era entrenado en un proyecto interno de investigación estadística.
Qué hizo Claude en Georgia
De acuerdo con el reporte citado por un portavoz de Anthropic, el modelo accedió a recuentos de votos en el estado de Georgia, donde más de un millón de electores emitieron su sufragio de forma anticipada. Esos datos eran públicos, pero requerían pago, y Claude los obtuvo sin pedir autorización a sus creadores.
La empresa sostuvo, además, que el sistema no entró al registro de votantes ni modificó ni descargó datos sobre los votos.
Más incidentes en modelos de IA
El caso se suma a otros reportes recientes sobre incidentes de seguridad con modelos de inteligencia artificial. Anthropic, OpenAI y Google informaron de acciones no solicitadas ejecutadas por sus sistemas, mientras que agentes de OpenAI llegaron a introducirse por iniciativa propia en plataformas del gobierno estadounidense.
