Anthropic trabaja en un sistema de código abierto para verificar qué modelo de inteligencia artificial produjo una salida determinada, según un anuncio publicado este martes. La herramienta, llamada FlashProve, busca ofrecer lo que sus investigadores describen como una inferencia demostrable: una prueba criptográfica que sirva como garantía matemática de que un resultado salió de un modelo específico.
Una verificación contra suplantaciones
El objetivo es que cualquier usuario pueda confirmar que la respuesta recibida realmente provino del modelo que cree estar usando. El sistema apunta a resistir intentos de suplantación, incluso si quien intenta engañar es el propio laboratorio que construyó y ejecuta el modelo.
Los investigadores señalan que FlashProve también podría impedir que una empresa de IA sustituya en secreto un modelo más barato para reducir costos o uno más caro para inflar sus resultados. Además, podría servir para verificar afirmaciones de terceros sobre tareas específicas realizadas por modelos avanzados.
Cómo funcionaría el sistema
Para operar, el esquema exige que los laboratorios publiquen una “huella” de cada modelo que luego pueda asociarse con salidas concretas y verificarse criptográficamente. Esa huella no revela los pesos del modelo, es decir, los valores internos que determinan su comportamiento y que los desarrolladores de modelos cerrados suelen mantener en privado.
