Un panel consultado por WIRED dejó a un lado la extinción masiva y apuntó a amenazas más inmediatas: ciberseguridad, bioseguridad y errores en sistemas nucleares.
La discusión sobre la inteligencia artificial se ha movido en pocos meses desde la promesa de productividad y el temor a la pérdida de empleo hasta un escenario mucho más extremo: la supuesta extinción humana. Pero el grupo de expertos consultado por WIRED no colocó ese desenlace en el centro del problema. Sus alarmas apuntaron, sobre todo, a riesgos concretos y más inmediatos: ciberataques, usos biológicos dañinos y fallos en entornos nucleares.
La conversación reunida por el medio también dejó una coincidencia incómoda: varios de los especialistas ven improbable que el freno al desarrollo de la IA llegue a tiempo. Según sus respuestas, la cuestión ya no pasa solo por cuánto avanza la tecnología, sino por qué tipo de controles, responsabilidades y límites se adoptan antes de que sus usos más peligrosos se consoliden.
Los riesgos que más preocupan a los expertos
Heidy Khlaaf, científica jefe de IA en el AI Now Institute y exingeniera sénior de seguridad de sistemas en OpenAI, dijo que su mayor preocupación es una catástrofe nuclear. A su juicio, el problema no es la idea abstracta de una máquina todopoderosa, sino la incorporación de modelos poco fiables a operaciones sensibles. Sostuvo que, si esos sistemas llegan a integrarse en el ámbito nuclear, se introduciría un mecanismo “increíblemente defectuoso” capaz de provocar fallos catastróficos.
Khlaaf también rechazó que la extinción merezca el mismo peso que otros escenarios más verificables. Explicó que, como ingeniera de seguridad, no puede trabajar sobre afirmaciones sin cifras o sin sustento comprobable, y criticó que se lancen predicciones sobre la desaparición de la humanidad en plazos concretos sin esa base.
Sayash Kapoor, informático y coautor del boletín AI as Normal Technology, centró su advertencia en la ciberseguridad. Admitió que a largo plazo podría haber defensas mejores, pero señaló que, durante los próximos años, la infraestructura no habrá adoptado nuevas protecciones y que la balanza podría inclinarse a favor de los atacantes. También advirtió sobre el uso imprudente de la IA en el ámbito militar y planteó que, además de barreras técnicas, harían falta mecanismos para controlar solicitudes peligrosas, como las relacionadas con fragmentos de ADN.
Rob Reich, catedrático de ética social de la ciencia y la tecnología en Stanford, llevó la discusión al terreno político y regulatorio. Su mayor preocupación fueron las amenazas químicas, biológicas y radiológicas. Cuestionó la idea de “democratizar” la IA sin un marco de gobernanza claro y comparó ese discurso con la forma en que no se hablaría del acceso libre a materiales nucleares. Para él, el problema no es solo quién usa estas herramientas, sino bajo qué reglas y con qué supervisión.
Gobernanza, empresas y una amenaza que no se detiene sola
Entre los expertos consultados hubo escepticismo sobre la posibilidad de pausar por completo el desarrollo de la IA. La impresión dominante fue que las grandes empresas del sector están tan integradas en el sistema económico que cualquier freno sería temporal. En esa línea, el debate giró menos en torno a prohibiciones totales y más a la responsabilidad de quienes diseñan, despliegan y comercializan estos sistemas.
Las respuestas también pusieron el foco en la política pública. Varios participantes defendieron que los legisladores tienen un papel importante, aunque dudan de que reaccionen con la velocidad necesaria. En esa discusión apareció la idea de democracia como sinónimo de gobernanza, transparencia y límites, no solo de acceso masivo a la tecnología. La conclusión más repetida fue que el riesgo real no está en un apocalipsis abstracto, sino en la suma de daños concretos que podrían escalar rápidamente si no se establecen controles verificables.
El cierre de la conversación dejó una idea de fondo: la IA plantea preguntas técnicas, sí, pero también sociales y éticas. Qué significa crear, decidir o confiar en una infraestructura esencial ya no es una discusión exclusiva de laboratorios y empresas. Para los especialistas convocados, el debate sobre seguridad depende de decisiones colectivas que todavía están abiertas.
Contenido redactado con asistencia de un LLM.
