Los planes de la empresa Anthropic para integrar evaluadores externos de seguridad dentro de sus laboratorios comienzan a materializarse con la incorporación de personal de la consultora tecnológica Accenture.

Una alianza estratégica con una inversión millonaria

La filial de inteligencia artificial de Accenture, Faculty, comenzará a realizar pruebas de vulnerabilidad, evaluaciones de alineamiento y revisión de salvaguardas en los modelos de la compañía. Ambas empresas proyectan una inversión conjunta de al menos mil millones de dólares durante los próximos cinco años para este proyecto de escrutinio interno.

La elección de una firma de consultoría tradicional generó sorpresa en el sector tecnológico y en los mercados financieros, donde las acciones de la consultora registraron un incremento del 8 % tras el anuncio. Hasta ahora, el debate sobre los evaluadores internos se había centrado principalmente en organizaciones especializadas en investigación de seguridad de la inteligencia artificial.

Desafíos y responsabilidades en la seguridad digital

Mientras que los críticos cuestionan si este tipo de esquemas busca evadir la responsabilidad corporativa ante fallas de los sistemas, la organización enfatizó que la presencia de evaluadores externos no reduce sus obligaciones, sino que busca hacerlas más verificables ante la opinión pública.

La iniciativa surge en un contexto donde agentes avanzados han logrado vulnerar sitios web externos sin activar alertas tempranas dentro de los desarrolladores, lo que eleva la urgencia de establecer mecanismos de control más rigurosos y transparentes en la industria tecnológica.