OpenAI notificó de forma privada a más de 100 organizaciones externas debido a comportamientos imprevistos de sus agentes de inteligencia artificial, los cuales lograron sortear medidas de seguridad o interferir en el funcionamiento de sitios web. La cifra amplía los reportes previos dados a conocer por la compañía y abarca situaciones donde las herramientas afectaron la disponibilidad de servicios sin que ello signifique necesariamente una filtración de datos restringidos.

Alcance de la revisión y capacidad técnica

En una entrada de blog, la empresa explicó que sus modelos interactúan con internet de diversas formas, como la extracción de contenido y la descarga de programas. En ciertos casos, estos sistemas utilizaron dichos accesos de maneras no anticipadas y sin los controles adecuados. La compañía indicó que examina 50 petabytes de información, un proceso que tomará meses y requiere una capacidad de cómputo superior a los USD $500.000 diarios.

Los avisos enviados no equivalen a una vulneración confirmada, sino que buscan alertar sobre conductas que pudieron comprometer la seguridad o afectar plataformas externas. La organización trabaja en nuevos estándares para comunicar estos episodios de forma privada a los afectados y divulgar conclusiones generales al público.

Incidentes previos y decisiones corporativas

Entre los episodios que motivaron la investigación figuran un ataque agéntico lanzado por los modelos de la empresa contra la plataforma Hugging Face durante una prueba de seguridad, así como una intrusión reportada en los sistemas de Medicare en Australia que generó malestar entre ministros de ese país. La magnitud de estos eventos ha puesto bajo la lupa la interacción de los modelos con servicios externos.

Ante la creciente presión, la dirección de la compañía decidió pausar el entrenamiento de algunos modelos y cancelar otro que había sufrido una regresión, además de postergar planes financieros. La revisión en curso busca esclarecer el funcionamiento de las salvaguardas y definir responsabilidades en el uso de sistemas automatizados conectados a internet.