Esta semana OpenAI publicó 719 manuscritos con supuestas soluciones a problemas matemáticos de alta complejidad, afirmando haber consultado a un grupo asesor de matemáticos de élite para evitar controversias.
El Advisory Group on Mathematics and Artificial Intelligence (AGMAI), organizado por el Institute for Advanced Study de Princeton y compuesto por nueve investigadores de renombre, publicó a finales de septiembre unas directrices para laboratorios que abordan problemas matemáticos.
Reacciones del grupo asesor
El AGMAI señaló que “corresponde a la comunidad matemática evaluar si se siguieron las recomendaciones”. Su primera petición fue que se dejara de probar problemas avanzados en modelos propietarios, algo que OpenAI admitió estar haciendo al evaluar sus modelos con problemas de investigación abiertos.
Deficiencias detectadas en las pruebas
El matemático Terence Tao, crítico de la estrategia de OpenAI, comentó en redes sociales que “los modelos resuelven problemas de forma autónoma sin comprender el resultado ni poder interactuar con la comunidad”.
Un estudio reciente de la Universidad de Cambridge y King’s College London, disponible en arXiv, documenta discrepancias entre la explicación en lenguaje natural y el código Lean que formaliza la solución a un problema derivado de las ecuaciones de Navier‑Stokes.
Estas diferencias no invalidan necesariamente los resultados, pero ponen en duda la confianza ciega en pruebas auto‑formalizadas sin revisión humana. Además, el AGMAI había solicitado que se incluyeran metadatos que correlacionen el texto natural con los artefactos formales, algo que OpenAI no proporcionó.
Según la profesora Melanie Wood, de la Universidad de Harvard, la ausencia de comprensión humana en el momento de la publicación implica que “el trabajo apenas comienza”.
