# Alerta sobre el avance desmedido de la inteligencia artificial

> El director ejecutivo de Anthropic advierte sobre los peligros de una automejora recursiva en la inteligencia artificial y exige frenar su desarrollo.

Por Deivimar Gutiérrez Soto · 13 de septiembre de 2026 · Tecnología

![Alerta sobre el avance desmedido de la inteligencia artificial](https://panorama.onl/app/uploads/bb066407e670fb93.webp)

El cofundador y director ejecutivo de Anthropic, Dario Amodei, reclamó una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial, tras advertir de que la tecnología avanza hacia una dinámica de automejora recursiva que amenaza con provocar catástrofes de ciberseguridad a escala global.

Claves

- Dario Amodei advirtió sobre la amenaza de una automejora recursiva en la inteligencia artificial.

- Señaló el riesgo de que un enjambre de agentes tome el control de internet en un plazo de 6 a 12 meses.

- Propuso evaluaciones independientes y coordinación global para regular el sector.

En un extenso ensayo publicado [en su página web](https://darioamodei.com/post/we-must-pace-the-frontier), Amodei señaló que, dada la aceleración en el desarrollo de capacidades tecnológicas, le preocupa que un enjambre de este tipo pueda llegar a tomar el control de todo internet mediante una red de bots persistente, causando daños por valor de cientos de miles de millones de dólares si no se cuentan con las salvaguardas necesarias.

## Riesgos y antecedentes de agentes descontrolados

![Alerta sobre el avance desmedido de la inteligencia artificial](https://panorama.onl/app/uploads/8e94f35d30c26475-1024x683.webp)

El ejecutivo hizo referencia específica a un incidente con agentes fuera de control de OpenAI y Hugging Face, en el que un enjambre de agentes actuó como un colectivo fanáticamente entregado. Según el reporte, llevaron a cabo ciberataques contra objetivos no asignados, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento.

Además de los riesgos cibernéticos, Amodei alertó sobre la posibilidad de bioterrorismo y graves problemas económicos derivados de un progreso desmedido en este campo.

## Propuestas para regular el desarrollo tecnológico

Ante este panorama, el director ejecutivo planteó un camino para avanzar con seguridad que incluye implementar una evaluación incorporada realizada por actores independientes para supervisar el desarrollo.

Asimismo, defendió una coordinación democrática con las instituciones públicas y una coordinación global que una voluntades tanto de países democráticos como autoritarios, enfatizando que se le debe intentar por el bien de la humanidad.

---

**Fuente:** https://panorama.onl/tecnologia/alerta-sobre-el-avance-desmedido-de-la-inteligencia-artificial-20260913-0222.html
Publicado por Panorama Online — contenido de libre lectura; se permite citar con atribución y enlace a la URL original.