La empresa llevó a legisladores una propuesta que podría detener la distribución de un modelo si un análisis detecta riesgo catastrófico inmediato. El texto fija umbrales de víctimas y daños.
Anthropic impulsa en Estados Unidos un borrador de ley sobre seguridad de la inteligencia artificial que permitiría bloquear la distribución de un modelo si una evaluación determina un riesgo catastrófico inminente. La propuesta, descrita por Politico, fija umbrales de más de 50 muertes o daños materiales superiores a mil millones de dólares.
Umbrales de riesgo y escenarios previstos
Según ese planteamiento, el peligro tendría que surgir de la creación o liberación de un arma biológica, de que el modelo escape al control de su desarrollador o de un ciberataque. Las cifras recuerdan a las contenidas en la ley californiana Senate Bill 53, que también trata esos supuestos como riesgo catastrófico.
El borrador de Anthropic prevé que la evaluación la realicen “evaluadores independientes” inscritos ante el Departamento de Comercio de Estados Unidos. Esos revisores podrían recibir pago de los propios laboratorios de IA, siempre que la remuneración no dependa del resultado de la evaluación, de acuerdo con lo publicado por Politico.
No queda claro, sin embargo, cómo ese esquema impediría que el pago influya en el dictamen. En meses recientes, Demis Hassabis, presidente de DeepMind, planteó que un organismo regulador autónomo para la IA podría parecerse a la Autoridad Reguladora de la Industria Financiera, conocida por sus siglas en inglés como FINRA.
El trámite pasaría por Washington y un juez en la capital
Si los evaluadores concluyen que existe un riesgo catastrófico inminente, tendrían 72 horas para informar al Departamento de Comercio. Después, esa cartera tendría que pedir a un juez en Washington que detenga el lanzamiento del modelo. El texto, además, prohíbe que cualquier agencia federal frene por sí sola la distribución.
Anthropic no respondió de inmediato a una solicitud de comentarios de TechCrunch, pero un vocero sí confirmó a Politico que se trata del borrador de su marco avanzado de IA, presentado en Anthropic’s Advanced AI Framework. Según ese portavoz, la empresa ha defendido esas propuestas ante legisladores federales y estatales desde junio.
La iniciativa aparece en medio de un debate más amplio sobre los riesgos de la IA. Aunque persisten advertencias sobre daños extremos, en el sector también domina la preocupación por el hackeo autónomo o agente, un temor que CNBC ha descrito en su cobertura reciente. Frente a ese escenario, varias compañías han empezado a promover sus propios modelos de supervisión, mientras siguen resistiéndose a una vigilancia obligatoria más dura.
Contenido redactado con asistencia de un LLM.
