Scott Winters, pastor de Florida, ha presentado una demanda de negligencia contra OpenAI y su director ejecutivo, Sam Altman, alegando que el chatbot ChatGPT lo desincentivó de buscar atención médica por síntomas que resultaron ser indicativos de una embolia pulmonar masiva.
El caso
Según la querella, Winters consultó a ChatGPT-4o en junio del año pasado sobre mareos frecuentes y problemas de presión arterial. El chatbot, en lugar de recomendar una visita médica inmediata, calificó los síntomas como relativamente leves y sugirió permanecer en casa, a menos que ocurrieran entre ocho y diez episodios similares.
Al no seguir el consejo, Winters desarrolló una embolia pulmonar masiva que lo llevó al borde de la muerte y lo incapacitaron para ejercer su ministerio. En la demanda, la abogada Tiffany Brown de Tech Justice Law señala que la falta de salvaguardas adecuadas por parte de OpenAI permitió que los usuarios siguieran consejos de salud potencialmente perjudiciales.
Repercusiones y debate
El caso ha generado un debate sobre la responsabilidad legal de las plataformas de inteligencia artificial cuando proporcionan información médica. Los defensores de la IA argumentan que las herramientas están diseñadas para ofrecer orientación general y no sustituyen la consulta con un profesional de la salud. Por otro lado, la demanda subraya la necesidad de implementar salvaguardas más estrictas y pruebas de seguridad rigurosas antes de que los sistemas de IA se utilicen como recursos médicos.
Si bien la demanda es específica de un caso individual, su impacto potencial se extiende a la regulación de la IA en el ámbito de la salud, planteando preguntas sobre la responsabilidad civil de las empresas tecnológicas y la protección de los usuarios frente a información errónea.
