A principios de 2024, un joven de Huangshi, en el sureste de China, publicó en Douyin un mensaje que decía: «Adiós a este mundo». En minutos, el equipo de prevención del suicidio de la plataforma alertó a la policía y logró ubicarlo antes de que se quitara la vida.
Ese episodio, contado luego en un documental de Douyin difundido por medios estatales chinos, mostró hasta qué punto las empresas tecnológicas del país trabajan de la mano con las autoridades. También sirvió de antesala para una nueva etapa de control: desde el 15 de julio, China aplica las regulaciones más exhaustivas del mundo sobre chatbots de IA «similares a los humanos».
Una norma que apunta a los vínculos emocionales
La nueva reglamentación impone límites estrictos a cualquier sistema capaz de mantener una «interacción emocional sostenida» con una persona. En la práctica, alcanza a aplicaciones diseñadas para actuar como amigos, novios, novias o familiares virtuales, además de modelos de lenguaje complejos que imitan el trato humano.
La redacción es amplia y ambigua. En teoría, incluso asistentes de uso general podrían entrar en ese marco si alguien los usa como apoyo emocional. Pero el foco parece estar en los chatbots de personajes, creados para simular relaciones.
Los menores de 14 años necesitan permiso de sus padres para usar cualquier IA que hable como humano. Los menores de 18 no pueden acceder a parejas virtuales, cónyuges ni otras «relaciones íntimas» virtuales.
Para los adultos, no hay una prohibición total, pero sí restricciones: los sistemas deben aclarar que no son humanos, enviar notificaciones cada dos horas sobre el tiempo de conexión y evitar la dependencia emocional, la adicción o la inducción a decisiones irracionales. También tienen prohibido sugerir autolesiones o suicidio.
