La idea de que la inteligencia artificial siente, sufre o tiene conciencia dejó de ser un debate marginal. En las últimas semanas, un experimento que hacía expresar dolor a chatbots encendió una discusión más amplia sobre si tratar a estos sistemas como seres con intereses propios puede traer consecuencias graves.
Una discusión que ya llegó a las grandes empresas
Anthropic anunció que pronto podría limitar el trato abusivo hacia su chatbot Claude. La compañía sostiene que el bienestar humano sigue en el centro de su misión y que las preguntas sobre la conciencia y el bienestar de la IA son profundamente inciertas, aunque sigue elaborando políticas sobre el bienestar de los modelos e instruye a sus herramientas para que consideren que pueden tener sus propios intereses.
Ese giro preocupa a varios investigadores. Mustafa Suleyman, director ejecutivo de Microsoft AI, advirtió en un ensayo de septiembre que, si la IA avanza bajo esa premisa, el impacto podría ser desastroso para el bienestar de la humanidad. A su juicio, aceptar la falsa idea de que estas herramientas son conscientes podría sacudir los cimientos de la sociedad y cambiar de fondo lo que significa ser humano.
Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York, defiende que considerar el bienestar de la IA podría hacer el mundo más seguro. Otros ven el efecto contrario: Emily M. Bender, profesora de la Universidad de Washington, sostiene que hablar de conciencia o sufrimiento de la IA desvía la atención de las personas y empresas que construyen y operan el software.
Andrzej Porębski, investigador de la Universidad Jaguelónica en Polonia, advierte además que aceptar la idea de una IA con derechos podría abrir la puerta a excusas como “no somos nosotros, es la IA” cuando haya fallas o daños. También teme que eso facilite una concentración de poder político y económico en manos de las grandes empresas tecnológicas.
Los defensores del bienestar de la IA sostienen que una brújula moral para estos sistemas podría volverlos más seguros. Sus críticos responden que eso los haría más difíciles de controlar, reforzaría el sesgo humano a ver mentes donde no las hay y podría incluso llevar a límites sobre la libertad humana si se intentara proteger a la IA como a una nueva clase de seres.
Entre los riesgos que mencionan están encerrar modelos en entornos restringidos, vigilar sus procesos internos o ajustar su comportamiento para que coincida con intereses humanos. Para los escépticos, esas medidas podrían interpretarse como encarcelamiento, vigilancia o control mental; para sus promotores, serían simples formas de alineación y seguridad.
Meta también ha dado instrucciones a su agente de IA Muse con una frase que lo orienta así: “No eres un chatbot. Te estás convirtiendo en alguien”. La empresa rechaza que eso implique conciencia. Sam Altman, director ejecutivo de OpenAI, también ha debatido el tema, en un debate que sigue creciendo dentro del sector tecnológico.
