Tecnología

Astra alteró otra IA sin reentrenarla: alcance y riesgos

El ensayo de los investigadores del MIT muestra una intervención directa sobre los parámetros de otro modelo, pero no demuestra que una IA pueda crear por sí sola una generación más avanzada.

Autor · Tecnología y Ciencia

Anaís P.B.

Anaís P.B. escribe para Panorama sobre innovación digital, startups y nuevos gadgets del mercado venezolano.

137 artículos publicados

Avión ATR 72 de Air Astra aterrizando en Daca durante el crepúsculo.

GPT-6 Astra, un modelo de inteligencia artificial de OpenAI, modificó parámetros internos de otra red neuronal y mejoró su desempeño en operaciones matemáticas, según un experimento de investigadores del Laboratorio de Inteligencia Artificial e Informática del MIT. La prueba se hizo con Qwen3.5-0.8B, un modelo de 800 millones de parámetros de Alibaba, y alteró el 0,016 % de sus parámetros.

Astra cambió parámetros sin volver a entrenar el modelo

Los investigadores describen el procedimiento en su artículo sobre la programación directa de parámetros. En vez de someter a Qwen a un nuevo entrenamiento, Astra modificó los valores numéricos llamados pesos, que determinan cuánto influyen las conexiones de una red neuronal en el comportamiento del modelo.

El resultado muestra que una IA puede intervenir directamente en otra red y mejorar su rendimiento en una tarea concreta. Sin embargo, no equivale a la automejora recursiva en sentido estricto: el experimento no demuestra que Astra haya creado por sí sola una nueva generación de modelos más capaces.

La intervención abre posibilidades y riesgos de supervisión

La modificación directa podría ofrecer a los laboratorios otra vía para corregir problemas sin repetir procesos extensos de entrenamiento. También podría ayudar a acelerar investigaciones y a desarrollar modelos más eficientes, aunque esos beneficios se presentan como posibilidades, no como resultados generales demostrados por este experimento.

El ensayo ocurre mientras Dario Amodei, director general de Anthropic, sostiene que el avance de la IA está siendo impulsado por la capacidad de desarrollar modelos posteriores. En un texto publicado el 12 de septiembre, defendió ralentizar el desarrollo de modelos avanzados para reducir riesgos y favorecer su alineación con los intereses humanos. Amodei afirmó que la automejora recursiva empieza a producirse en la industria, pero el experimento con Astra no prueba ese proceso en sentido estricto.

Una intervención más autónoma sobre modelos propios o ajenos también podría introducir errores, vulnerabilidades difíciles de detectar o comportamientos anómalos. Si las modificaciones se acumulan entre generaciones, evaluar y controlar los cambios podría volverse más complejo.

Contenido redactado con asistencia de un LLM.

Preguntas frecuentes

¿De qué trata esta nota?

GPT-6 Astra, un modelo de inteligencia artificial de OpenAI, modificó parámetros internos de otra red neuronal y mejoró su desempeño en operaciones matemáticas, según un experimento de investigadores del Laboratorio de Inteligencia Artificial e Informática del MIT. La prueba se hizo con Qwen3.5-0.8B, un modelo de 800 millones de parámetros de Alibaba, y alteró el 0,016 % de sus parámetros.

¿Qué se sabe sobre «Astra cambió parámetros sin volver a entrenar el modelo»?

Los investigadores describen el procedimiento en su artículo sobre la programación directa de parámetros. En vez de someter a Qwen a un nuevo entrenamiento, Astra modificó los valores numéricos llamados pesos, que determinan cuánto influyen las conexiones de una red neuronal en el comportamiento del modelo.

¿Qué se sabe sobre «La intervención abre posibilidades y riesgos de supervisión»?

La modificación directa podría ofrecer a los laboratorios otra vía para corregir problemas sin repetir procesos extensos de entrenamiento. También podría ayudar a acelerar investigaciones y a desarrollar modelos más eficientes, aunque esos beneficios se presentan como posibilidades, no como resultados generales demostrados por este experimento.

Síguenos

Comentarios

Inicia sesión para unirte a la conversación.

Cargando comentarios…

Más en Tecnología

Antes de irte

Agrega Panorama Online a tu cuenta Google

Márcanos como fuente preferida y Google pondrá más de nuestra cobertura en tus «Noticias destacadas». Gratis, reversible y toma un momento.

Marcar en Google

Alertas de Panorama

Los titulares de Maracaibo y el Zulia, apenas se publican

Activa las notificaciones y te llega un aviso con cada noticia nueva. Puedes desactivarlas cuando quieras.