# Anthropic admite que la IA puede superar sus propios controles > El folleto para la oferta pública de la empresa expone una tensión central: automatizar el desarrollo de modelos promete una ventaja competitiva, pero también puede dejar atrás las salvaguardias. Por Kilder F.O. · 26 de octubre de 2026 · Tecnología ![Anthropic admite que la IA puede superar sus propios controles](https://cdn.panorama.onl/uploads/fda88fcd0bc21d61-scaled.webp) Anthropic advirtió en el folleto informativo de su oferta pública inicial que la inteligencia artificial podría generar riesgos catastróficos o existenciales si sus sistemas avanzados se desarrollan y operan sin salvaguardias y supervisión adecuadas. El documento dedica 94 páginas a esos riesgos y señala que la automatización de la investigación en IA podría avanzar más rápido que la capacidad de evaluar y proteger los nuevos modelos. ## La automejora puede rebasar la supervisión humana El folleto describe la automejora recursiva como un escenario en el que los sistemas de IA asumen progresivamente tareas de investigación y desarrollo de otros modelos. La preocupación, según Anthropic, es que ese proceso acelere el progreso hasta un punto en que la empresa no pueda evaluar ni proteger a tiempo sus sistemas. El documento también plantea que sistemas más autónomos podrían ejecutar acciones perjudiciales a gran escala sin intervención humana. Entre los riesgos enumerados están la desalineación con las intenciones de las personas, los errores al definir objetivos y conductas de autopreservación. Si los modelos controlan equipos físicos, agrega el folleto, los errores o el uso indebido podrían causar lesiones, daños materiales o la liberación de sustancias peligrosas, con consecuencias inmediatas e irreversibles. ## Anthropic considera la dinámica una ventaja competitiva La advertencia convive con una apuesta empresarial por esa misma automatización. Anthropic llama “cerrar el bucle” al uso de la IA para mejorar el desarrollo de nuevos sistemas y lo presenta como una de sus ventajas estructurales más importantes. La empresa sostiene que no seguir esa dinámica podría dejarla rezagada frente a competidores que sí utilicen IA para potenciar sus capacidades de desarrollo. Así, el proceso que el documento vincula con riesgos para la seguridad también es descrito como clave para competir. El texto menciona iniciativas legislativas para prohibir la automejora recursiva, entre ellas un proyecto copatrocinado por Bernie Sanders. La propuesta figura en el [texto legislativo presentado ante el Congreso de Estados Unidos](https://www.congress.gov/bill/119th-congress/house-bill/10538/text). --- **Fuente:** https://panorama.onl/tecnologia/anthropic-admite-que-la-ia-puede-superar-sus-propios-controles-20261026-1607.html Publicado por Panorama Online — contenido de libre lectura; se permite citar con atribución y enlace a la URL original.