Anthropic ha estado presentando en el Capitolio un borrador de proyecto de ley sobre seguridad de modelos de inteligencia artificial punteros, según Politico. La propuesta fija un umbral muy alto antes de que el Gobierno pueda frenar un modelo y concentra ese poder en un solo departamento.
El umbral que propone el borrador
De acuerdo con Politico, el Gobierno solo podría bloquear el lanzamiento o el uso de un modelo si este representa un riesgo previsible e inminente de más de 1.000 millones de dólares en daños, o de causar la muerte o lesiones graves a más de 50 personas.
Además, el peligro tendría que provenir de un arma biológica, de un modelo que evada los controles de su desarrollador o de un ciberataque, de acuerdo con el borrador citado por el medio.
El papel del Departamento de Comercio
El medio agrega que instituciones independientes registradas en el Departamento de Comercio evaluarían periódicamente a un laboratorio de IA y a sus modelos frontera. Los laboratorios podrían pagarles, siempre que ese pago no dependa del resultado de la evaluación.
Si un evaluador detecta un “riesgo inminente enumerado”, tendría que comunicárselo al Departamento de Comercio en un plazo de 72 horas tras finalizar la evaluación. Después, el departamento podría pedir a un juez federal del Tribunal de Distrito que detenga el lanzamiento de un modelo. Tom’s Hardware añade que el despacho tendría que presentar sus pruebas ante el juez, quien tomaría la decisión final.
Politico también afirma que el texto prohíbe explícitamente a cualquier otro “departamento, agencia u oficial” suspender el desarrollo, despliegue o uso interno de un modelo. En la práctica, eso convertiría al Departamento de Comercio en el único órgano ejecutivo con capacidad para activar el freno, y solo un tribunal podría ordenarlo.
Obligaciones adicionales para los laboratorios
Más allá de quién tendría ese botón rojo, Politico señala que los laboratorios de IA tendrían que crear marcos de seguridad, publicar informes de transparencia para los nuevos modelos de frontera, proteger a quienes denuncien problemas de seguridad y notificar incidentes críticos al Departamento de Comercio.
La preocupación por la seguridad de la inteligencia artificial se ha intensificado tras varios incidentes recientes, entre ellos el hackeo a Hugging Face por parte de cientos de agentes de OpenAI y la irrupción de varios agentes de IA en webs gubernamentales, según recoge el medio.
Politico añade que varios de los incidentes ocurridos este verano no se tradujeron en muertes ni en daños económicos superiores a 1.000 millones de dólares, por lo que, bajo el borrador atribuido a Anthropic, no habrían superado ese umbral.
Por ahora, se trata solo de un borrador y Anthropic no ha respaldado formalmente ningún proyecto de ley específico en el Congreso.
