Safeworld busca certificar la seguridad de robots con GenAI
La startup salió del sigilo con más de 12 millones de dólares en capital semilla para evaluar robots con IA generativa antes de que lleguen al mundo real.
Por Reinaldo Villalobos Semprún··Actualizado hace 1 h
Safeworld salió del modo sigiloso con una ronda semilla de más de 12 millones de dólares para intentar responder una pregunta clave en robótica: cómo garantizar que un humanoide impulsado por IA generativa no represente un riesgo antes de desplegarse.
Una apuesta por certificar la seguridad
La empresa surge con la idea de crear un estándar de seguridad en una etapa en la que los robots todavía están siendo diseñados y desplegados. Su sitio web es Safeworld.
La compañía fue fundada por Ding Zhao, que dirige el laboratorio Safe AI de Carnegie Mellon University, junto con Kyle Wong y Simo Rachidi. Zhao sostiene que el reto tiene dos partes: evaluar un sistema probabilístico de IA generativa y, al mismo tiempo, generar confianza para poder usarlo en un robot.
El financiamiento estuvo liderado por Shine Capital y a16z Speedrun, con participación adicional de Box Group, Carnegie Mellon University Endowment, Innovation Endeavors y SV Angel.
Simulaciones con modelos humanos
Safeworld dice que su especialidad será evaluar sistemas de control robótico mediante simulaciones pobladas con modelos humanos realistas. La idea es crear una versión digital de entornos concretos, insertar el robot con su software real y probar miles de escenarios en los que las personas se crucen con él.
Wong explicó que uno de los casos más comunes es el de una esquina ciega en una fábrica: allí importa saber qué velocidad o distancia de frenado necesita el robot para no chocar con una persona, incluso si esa persona carga cajas o adopta posturas distintas.
La empresa también plantea que la validación no puede depender solo de cálculos formales. Según Zhao, el comportamiento humano es impredecible y los robots tendrán que operar en entornos no estructurados, con estándares de seguridad distintos en cada instalación.
Los fundadores creen además que un tercero tendrá valor para validar ese trabajo y compartir información sobre casos de seguridad entre competidores. Zhao afirmó que el verdadero desafío no es el robot que luce bien en una demostración, sino el que se despliega a gran escala con personas que quizá nunca antes han operado uno.
