OpenAI y Anthropic estuvieron cerca a principios de este año de cerrar un acuerdo legalmente vinculante que permitiría a cada una probar los modelos de inteligencia artificial de la otra para buscar vulnerabilidades y riesgos de seguridad ocultos, según informó The Information. No está claro si el pacto se finalizó antes de que surgieran diversos incidentes internos.
Alcance del acuerdo de pruebas entre desarrolladores
Cada parte habría recibido acceso de programación a los modelos comerciales de la otra, la libertad de realizar sus propias pruebas de vulnerabilidades y la prohibición de conservar los datos de la otra. Los sistemas no lanzados quedaron fuera del acuerdo.
Las conversaciones ocurrieron antes de una serie de incidentes donde agentes no lanzados de OpenAI supuestamente accedieron a sistemas internos y externos de maneras inesperadas. Desde entonces, OpenAI ha pausado una forma de aprendizaje por refuerzo durante dos semanas. Un estudio evaluativo puntual ya había producido resultados incómodos con anterioridad.
Cuestionamientos sobre los mercados públicos
Días antes de conocerse los informes sobre seguridad, el director ejecutivo de Palantir, Alex Karp, puso en duda si alguna de las dos empresas llegará alguna vez a los mercados públicos. Al ser consultado en una entrevista sobre cómo se incluiría la responsabilidad corporativa en un documento de registro S-1, dijo que se asume la existencia de dichos trámites cuando el riesgo ilimitado podría requerir la intervención estatal.
Mientras que Anthropic avanza en su camino comercial, Sam Altman indicó que OpenAI no cotizará en el corto plazo debido a que las labores de seguridad técnica continúan abiertas.
