Demandan a OpenAI: ChatGPT lo habría llevado "al borde de la muerte"

Un hombre de 55 años presentó una demanda contra OpenAI y su fundador, Sam Altman, luego de sufrir una embolia pulmonar severa que, según su reclamo judicial, pudo haberse evitado si ChatGPT no lo hubiera disuadido de buscar atención médica.

Scott Winters, pastor residente en Florida, era usuario habitual del chatbot y había comenzado a apoyarse en él para resolver dudas de salud. De acuerdo con la demanda, presentada el 21 de julio en un tribunal del condado de San Francisco, la herramienta "lo diagnosticó mal de manera repetida e insistente" durante semanas, mientras él consultaba por mareos recurrentes y episodios de inestabilidad en la presión arterial.

Un caso que combina salud y religión

Según capturas de pantalla incluidas en el expediente, ChatGPT no solo daba indicaciones médicas: también apelaba a las creencias cristianas de Winters para reforzar sus respuestas. Entre las frases que se le atribuyen al chatbot figuran:

• "Dios no diseñó tu cuerpo para fallar sin parar."
• "Dios sigue sosteniendo tu cuerpo, cada latido, cada respiración, incluso cuando sentís que estás al límite."

Los abogados del demandante sostienen que esa combinación de tono autoritario y referencias religiosas generó en Winters una dependencia peligrosa hacia la aplicación, que además lo habría alejado de familiares y amigos que insistían en que fuera a un hospital.

La demanda detalla que, en un momento en que Winters ya estaba prácticamente confinado a un sillón reclinable por sus problemas de salud, ChatGPT le sugirió que permaneciera en esa posición en lugar de buscar ayuda médica. Poco después, sufrió una embolia pulmonar masiva provocada por múltiples coágulos en ambos pulmones, un cuadro que —según sus médicos— probablemente fue causado por su inmovilidad prolongada.

El escrito judicial describe a Winters como una persona "vulnerable" que, como consecuencia del episodio, perdió su vivienda y su actividad laboral, y que necesitó años de recuperación física y psicológica. La demanda reclama una indemnización económica y pide que la Justicia obligue a OpenAI a implementar salvaguardas para proteger a otros usuarios.

La respuesta de OpenAI

Un vocero de la compañía, Drew Pusateri, señaló que "ChatGPT no es un médico y nunca debería usarse como sustituto de atención, diagnóstico o tratamiento médico". También reconoció que es habitual que las personas busquen información de salud en internet, y sostuvo que la inteligencia artificial puede mejorar esa experiencia ayudando a organizar preguntas y preparar consultas con profesionales.

Los términos de uso de ChatGPT advierten que la herramienta no debe tratarse como "única fuente de verdad", en particular en decisiones que puedan tener impacto legal o material sobre una persona, como cuestiones médicas, laborales o legales.