Dario Amodei dijo en Nasdaq que Anthropic ralentizará el entrenamiento y despliegue de IA hasta tener confianza en su seguridad. La compañía debutó en Wall Street en la mayor OPV de la historia.
Anthropic debutó este jueves en Wall Street con la mayor oferta pública inicial de la historia, y su director ejecutivo, Dario Amodei, aprovechó la jornada para insistir en que la empresa mantendrá el desarrollo de inteligencia artificial a un ritmo prudente y bajo control humano.
Antes de la campana de apertura del Nasdaq, Amodei aseguró que la compañía no cederá ante presiones empresariales ni políticas y que “seguirá bajo control humano”.
La empresa prometió priorizar la seguridad
En su discurso, leído desde un texto impreso, Amodei comenzó con el origen de Anthropic como un intento de crear tecnología poderosa en beneficio de la humanidad. Dijo que esa visión estuvo marcada por la muerte de su padre a causa de una enfermedad que se volvió curable pocos años después.
El ejecutivo añadió que la inteligencia humana ya permitió dejar atrás enfermedades como la peste, la viruela y la polio en gran parte del mundo, pero sostuvo que todavía hay pocos científicos y poco tiempo para avanzar en otras áreas de la medicina. A su juicio, la IA puede ayudar a acelerar ese trabajo si opera junto con las personas.
El planteamiento coincide con advertencias previas del propio Amodei sobre los riesgos de avanzar demasiado rápido. En septiembre, el ejecutivo expuso un plan para frenar el ritmo de desarrollo de la IA, con propuestas como coordinar estándares de seguridad con otras compañías líderes e incorporar evaluadores de terceros para verificar que se cumplan los compromisos de protección, según detalló CBS News.
Riesgos “muy reales” y más controles
En la intervención de este jueves, Amodei insistió en que la industria debe avanzar, pero con resguardos. Habló de riesgos “muy reales” si la tecnología cae en manos de actores maliciosos, ya sean individuos o Estados, además de posibles efectos como disrupción económica y pérdida de control sobre los sistemas de IA.
También sostuvo que esos riesgos pueden evitarse si existen salvaguardas adecuadas. Dijo que Anthropic seguirá invirtiendo en alineación, pruebas y nuevas formas de entender el comportamiento de sus modelos para conservar el control humano.
“Todavía queda mucho trabajo por hacer, y el más difícil está por delante”, afirmó. “El talento increíble de la empresa, que nos ha permitido construir los sistemas de IA más capaces, deberá orientarse aún más a revisar dos y tres veces que esos sistemas sean seguros y sigan bajo control humano”.
Amodei cerró con una promesa directa: la empresa ralentizará el entrenamiento y el despliegue de sus sistemas de IA durante el tiempo que sea necesario para tener la certeza de que son seguros. Su hermana y cofundadora de Anthropic, Daniela Amodei, reforzó ese mensaje en una entrevista con CNBC, en la que dijo que los riesgos son reales, pero que el potencial de la IA también es “increíble”.
Contenido redactado con asistencia de un LLM.