Satya Nadella dijo que los modelos de inteligencia artificial necesitan un “freno de emergencia” y que ya es momento de revisar cómo se construye la confianza en estos sistemas. Sus comentarios los publicó en un mensaje de X este sábado.
Separar el modelo de sus controles
Nadella sostuvo que no se puede tratar la superinteligencia como una serie de “cajas negras” y aceptar o rechazar sus respuestas sin más. Planteó que el modelo debe quedar separado del sistema que coordina su trabajo y que los controles y salvaguardas deben estar fuera de ese núcleo.
Registro y apagado por parte humana
También pidió que cada acción relevante del modelo quede documentada con evidencia legible para humanos y a prueba de manipulación. Además, dijo que una persona autorizada debe poder pausar o apagar un modelo en pleno proceso.
“Debemos asumir que un modelo está comprometido y contenerlo desde el inicio”, afirmó Nadella. “Piénsenlo como un freno de emergencia”.
