Sam Altman sostuvo que ejecutar inteligencia artificial en computadoras personales desperdicia memoria que, a su juicio, podría aprovecharse mejor en centros de datos. Lo dijo durante una conversación con John Collison en el pódcast Cheeky Pint, al referirse a la escasez de memoria dinámica de acceso aleatorio (DRAM).
Altman estima que la memoria doméstica se usa poco
El director de OpenAI afirmó que muchas computadoras con memoria DRAM pasan la mayor parte del tiempo sin utilizarla. Según su cálculo, esa memoria se emplea apenas 5% del tiempo, por lo que considera más eficiente concentrar capacidad en la nube y compartirla mediante centros de datos.
Altman describió la inferencia local —el procesamiento de modelos de inteligencia artificial directamente en un equipo— como una mala asignación de un recurso limitado. La declaración se produjo en una conversación que abordó la disponibilidad de capacidad de cómputo.
La privacidad y el control local sostienen la otra postura
Quienes ejecutan modelos abiertos en sus propios equipos pueden preferir esa opción por privacidad, por trabajar sin conexión o por no depender de los servicios de una empresa. La afirmación de Altman plantea una prioridad distinta: reservar la memoria para centros de datos, donde, según él, podría utilizarse con mayor intensidad.
