Satya Nadella sostuvo que los modelos de inteligencia artificial deben tratarse como si estuvieran comprometidos desde el inicio y rodearse de reglas, registros y supervisión independiente. En un mensaje publicado en X, defendió que la autoridad no puede recaer en el propio modelo.
Permisos limitados y vigilancia externa
El directivo señaló que el software tradicional permitía rastrear una decisión hasta una línea de código, pero que en los modelos actuales ese control no existe con la misma claridad. Por eso propuso separar el suministro de inteligencia de la autoridad sobre ella y contener los sistemas desde el principio.
Según su planteamiento, los modelos que operan sobre sistemas importantes deben funcionar con la menor autoridad posible, con registro de sus acciones, controles independientes y capacidad de detenerlos cuando sea necesario. También advirtió que las garantías del proveedor no trasladan la responsabilidad a terceros.
Siete principios para contener la IA
Nadella resumió su posición en siete principios: diversidad de modelos, observación total, verificabilidad, controles independientes, auditoría independiente, contención y divulgación de incidentes. En conjunto, sostuvo que ningún modelo debe verificarse a sí mismo ni ser la única dependencia para una tarea relevante.
En otro mensaje publicado hace un mes, también defendió que, si la IA no está bajo control humano, no vale la pena perseguirla. Esa línea de pensamiento coincide con la idea de construir sistemas cuyo comportamiento pueda observarse y limitarse en todo momento.
Microsoft, la empresa que dirige, publicó además una página de perfil sobre Satya Nadella.
