Tecnología

Otra IA mejora a Qwen3.5 tocando solo 0,016% de sus pesos

Investigadores del MIT probaron un atajo: una IA ajustó otra sin reentrenarla y elevó su desempeño matemático de 7,9% a 48,1%.

Autor · Tecnología y Ciencia

Kilder F.O.

Desde la redacción de Panorama, Kilder F.O. reporta sobre ciencia, telecomunicaciones y los avances tecnológicos que llegan a Maracaibo.

141 artículos publicados

Otra IA mejora a Qwen3.5 tocando solo 0,016% de sus pesos
Crédito: verdict.co.uk

Investigadores del MIT CSAIL probaron una vía poco común para mejorar un modelo de lenguaje: usar otra IA para retocar su estructura interna, sin volver a entrenarlo desde cero.

Un ajuste mínimo con un salto grande

El experimento se hizo con Qwen3.5-0.8B, al que se buscó subir el nivel en razonamiento matemático. Para eso, GPT-6 Astra modificó sus pesos y, según el resultado reportado, la capacidad del modelo en MATH-500 pasó del 7,9% al 48,1%.

La intervención fue muy pequeña: Astra actuó sobre el 0,016% de los pesos de Qwen. Los investigadores llamaron a este enfoque Weight-Space Programming, una forma de programar un modelo escribiendo directamente sobre los millones de números que determinan su comportamiento.

Una promesa todavía incompleta

El avance abre una línea de trabajo que podría abaratar mejoras en modelos más modestos, pero todavía enfrenta límites. El propio texto señala que la investigación no está revisada por pares y que el método solo sirve si hay algo que quitar.

También apunta que con Gemma 3 270M la mejora fue casi nula, porque ese modelo ya no presentaba los bucles de razonamiento que el método buscaba corregir.

La duda de fondo es más amplia: si una IA puede arreglar a otra por dentro, también podría abrirse la puerta a que los modelos se optimicen solos en el futuro. Por ahora, esa posibilidad sigue lejos.

Contenido redactado con asistencia de un LLM.

Preguntas frecuentes

¿De qué trata esta nota?

Investigadores del MIT CSAIL probaron una vía poco común para mejorar un modelo de lenguaje: usar otra IA para retocar su estructura interna, sin volver a entrenarlo desde cero.

¿Qué se sabe sobre «Un ajuste mínimo con un salto grande»?

El experimento se hizo con Qwen3.5-0.8B, al que se buscó subir el nivel en razonamiento matemático. Para eso, GPT-6 Astra modificó sus pesos y, según el resultado reportado, la capacidad del modelo en MATH-500 pasó del 7,9% al 48,1%.

¿Qué se sabe sobre «Una promesa todavía incompleta»?

El avance abre una línea de trabajo que podría abaratar mejoras en modelos más modestos, pero todavía enfrenta límites. El propio texto señala que la investigación no está revisada por pares y que el método solo sirve si hay algo que quitar.

Síguenos

Comentarios

Inicia sesión para unirte a la conversación.

Cargando comentarios…

Más en Tecnología

Antes de irte

Agrega Panorama Online a tu cuenta Google

Márcanos como fuente preferida y Google pondrá más de nuestra cobertura en tus «Noticias destacadas». Gratis, reversible y toma un momento.

Marcar en Google

Alertas de Panorama

Los titulares de Maracaibo y el Zulia, apenas se publican

Activa las notificaciones y te llega un aviso con cada noticia nueva. Puedes desactivarlas cuando quieras.