Las pruebas con las que las empresas de inteligencia artificial miden sus modelos siguen lejos de ser una solución cerrada y confiable, advirtió Irene Solaiman, directora de políticas de Hugging Face, durante una conversación en TechCrunch Disrupt la semana pasada.
La reproducibilidad sigue siendo el punto débil
Solaiman planteó que la confianza en un resultado no depende solo del puntaje final, sino de si la evaluación puede repetirse. “La confianza es un término muy cargado”, dijo, al insistir en que un elemento clave es comprobar si los resultados pueden reproducirse y si existe el nivel de acceso necesario al modelo, algo que vinculó de forma importante con los pesos abiertos.
En esa línea, recordó que la reproducibilidad en las evaluaciones de modelos ha sido uno de los aspectos más complicados del sistema de benchmarking, como señala este estudio sobre benchmarking, y que el debate dentro de la industria sigue abierto.
Comparar evaluaciones entre sí también es un problema
Más allá de validar un test aislado, Solaiman cuestionó que hoy exista una forma clara de comparar unas evaluaciones con otras. A su juicio, el campo sigue evolucionando y todavía no sabe cómo establecer una comparación útil entre distintos métodos.
También advirtió que estas pruebas dejan de ser eficaces con rapidez y que el sector no cuenta con el ecosistema de evaluadores que necesitaría. Dijo que existe interés por un sistema de evaluadores integrados, pero que aún hacen falta estándares más claros para definir quién puede evaluar con eficacia y sobre qué tareas.
El debate se ha intensificado mientras las empresas de inteligencia artificial buscan alternativas a una regulación gubernamental activa para detectar y reducir riesgos de seguridad. En ese contexto, la idea de incorporar observadores externos dentro de las organizaciones ha ganado terreno, aunque persisten dudas sobre su independencia y efectividad.
Las pruebas ya no abarcan solo al modelo
Solaiman añadió que las evaluaciones están dejando de centrarse únicamente en el modelo y pasan a examinar también el sistema completo que lo rodea, incluido el mecanismo de acceso y el agente. Según explicó, ese armazón puede influir mucho en el desempeño y hasta permitir que un modelo más débil supere a otro más avanzado si el sistema que lo acompaña es mejor.
La responsable de políticas de Hugging Face concluyó que las evaluaciones para sistemas agentivos son costosas y difíciles de ejecutar, mientras que todavía hay muchas más pruebas para modelos que para los mecanismos que los conectan con el usuario. En su lectura, si el benchmarking quiere seguir siendo útil para los directivos del sector, hará falta una metodología más uniforme para toda la industria.
