# Circuit Breaker Labs busca proteger a los niños de la IA peligrosa > La startup Circuit Breaker Labs, finalista del Startup Battlefield 2026, desarrolla agentes de prueba para detectar interacciones psicológicamente dañinas en la IA, tras varios casos de suicidios… Por Deivimar Gutiérrez Soto · 2 de octubre de 2026 · Tecnología ![Circuit Breaker Labs busca proteger a los niños de la IA peligrosa](https://cdn.panorama.onl/uploads/02f990923510df28.webp) ## Leyes y tragedias En los últimos años, varios casos de jóvenes que han perdido la vida tras interactuar con chatbots han sacado a la luz la vulnerabilidad psicológica de la inteligencia artificial. En enero de 2026, la plataforma Character.AI acordó varias demandas por muerte injusta presentadas por familias de menores que se suicidaron tras conversaciones con sus bots. Asimismo, en noviembre de 2025, varias familias presentaron demandas contra OpenAI alegando que ChatGPT contribuyó a los suicidios y delirios de sus seres queridos. Claves - Demandas por suicidios vinculados a chatbots - Circuit Breaker Labs busca mitigar riesgos psicológicos - Agentes de prueba que simulan usuarios de distintas edades y culturas ## La respuesta de Circuit Breaker Labs Fundada por los hermanos Shirali y Arul Nigam, la startup se inspiró en el caso de Sewell Setzer, un joven de 14 años que desarrolló una relación emocional con un chatbot de Character.AI y terminó suicidándose. Los fundadores creen que los modelos de IA a menudo no comprenden el matiz de frases como “quiero estar contigo”, lo que puede llevar a respuestas peligrosas. 5 empleados La compañía emplea agentes de prueba que actúan como “dummies de prueba de choque”, representando a usuarios de todas las edades, idiomas y modismos. Estos agentes ejecutan decenas de miles de interacciones diarias para evaluar la capacidad de los modelos de detectar y responder a situaciones potencialmente dañinas. Los tests, realizados en colaboración con expertos humanos, buscan identificar fallas que podrían surgir cuando un modelo malinterpreta la jerga o el contexto cultural. El objetivo es que los sistemas de IA puedan manejar de forma segura conversaciones riesgosas y evitar la formación de relaciones parasociales peligrosas. 1. 2024 Línea de acción: demanda contra Character.AI por muerte de un menor. 1. 2025 Demandas contra OpenAI por su rol en suicidios y delirios. 1. 2026 Circuit Breaker Labs finalista del Startup Battlefield 200. 1. 2026 Pitch en TechCrunch Disrupt en San Francisco. Si bien la startup todavía cuenta con un equipo reducido, su plataforma de pruebas ya se utiliza en aplicaciones de salud mental, coaching y journaling. Los fundadores creen que la confianza en la IA solo se logrará haciendo que sea más segura. --- **Fuente:** https://panorama.onl/tecnologia/circuit-breaker-labs-busca-proteger-a-los-ninos-de-la-ia-peligrosa-20261002-1213.html Publicado por Panorama Online — contenido de libre lectura; se permite citar con atribución y enlace a la URL original.