# Nadella pide freno de emergencia para los modelos de IA

> Satya Nadella llamó a reforzar la arquitectura de confianza en la IA y a dejar mecanismos de pausa y apagado en manos humanas.

Por Reinaldo Villalobos Semprún · 10 de octubre de 2026 · Tecnología

![Nadella pide freno de emergencia para los modelos de IA](https://cdn.panorama.onl/uploads/2c18911c294dbd95.webp)

Satya Nadella dijo que los modelos de inteligencia artificial necesitan un “freno de emergencia” y que ya es momento de revisar cómo se construye la confianza en estos sistemas. Sus comentarios los publicó en un mensaje de X este sábado.

## Separar el modelo de sus controles

Nadella sostuvo que no se puede tratar la superinteligencia como una serie de “cajas negras” y aceptar o rechazar sus respuestas sin más. Planteó que el modelo debe quedar separado del sistema que coordina su trabajo y que los controles y salvaguardas deben estar fuera de ese núcleo.

## Registro y apagado por parte humana

También pidió que cada acción relevante del modelo quede documentada con evidencia legible para humanos y a prueba de manipulación. Además, dijo que una persona autorizada debe poder pausar o apagar un modelo en pleno proceso.

“Debemos asumir que un modelo está comprometido y contenerlo desde el inicio”, afirmó Nadella. “Piénsenlo como un freno de emergencia”.

---

**Fuente:** https://panorama.onl/tecnologia/nadella-pide-freno-de-emergencia-para-los-modelos-de-ia-20261010-2112.html
Publicado por Panorama Online — contenido de libre lectura; se permite citar con atribución y enlace a la URL original.