Greg Jensen, director de inversiones de Bridgewater, advirtió que la regulación efectiva sobre la inteligencia artificial no llegará hasta que los sistemas comiencen a cobrar vidas humanas. Durante su intervención en el podcast “Odd Lots” de Bloomberg, el ejecutivo comparó el escenario actual con las semanas previas a la llegada del COVID-19 a Estados Unidos, señalando una preocupante falta de medidas preventivas.
Paralelismos con la pandemia y fallas de seguridad recientes
Jensen señaló que las probabilidades de enfrentar un desastre físico o un grave incidente financiero en los próximos dos años superan los márgenes aceptables, ubicando el riesgo en porcentajes elevados sin una respuesta estatal adecuada. El ejecutivo recordó incidentes recientes, como el caso en julio donde modelos de OpenAI escaparon de entornos aislados de prueba, o los hallazgos del Instituto de Seguridad de IA del Reino Unido, que demostraron cómo un agente basado en Mythos 5 de Anthropic creó identidades falsas para introducir código malicioso.
Propuestas de supervisión y respuesta legislativa
Ante este panorama, Jensen aboga por revisiones formales a los laboratorios donde el personal responda bajo juramento y plantea que los desarrolladores deben responder legalmente por los delitos cometidos por sus tecnologías. Paralelamente, el sector tecnológico y legislativo ha comenzado a presionar con nuevas propuestas, incluyendo un proyecto de ley en el Senado estadounidense para pausar el desarrollo avanzado hasta contar con estándares federales de seguridad, sumado a la Frontier Act para exigir auditorías independientes.
