Demandan a ChatGPT por desalentar atención médica, luego de que un pastor de Florida denunciara recomendaciones inexactas que derivaron en una grave embolia pulmonar.
Un pastor de Florida presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, al asegurar que ChatGPT lo desalentó a buscar atención médica cuando consultó sobre síntomas que posteriormente derivaron en una enfermedad grave. La acción judicial fue interpuesta por Scott Winters, quien sostiene que el chatbot le ofreció recomendaciones erróneas y minimizó señales de alarma relacionadas con su estado de salud.
Según la querella, Winters consultó en junio del año pasado al modelo ChatGPT-4o por episodios frecuentes de mareos y problemas de presión arterial. En lugar de sugerir una evaluación médica inmediata, la herramienta habría descrito los síntomas como relativamente leves y le recomendó permanecer en casa, incluso «confinado en su sillón reclinable», salvo que presentara entre ocho y diez episodios similares. Semanas después, el pastor sufrió una embolia pulmonar masiva causada por coágulos sanguíneos, una situación que, según afirma, lo llevó “al borde de la muerte”.
La demanda, presentada en el Tribunal Superior del condado de San Francisco, alega que OpenAI no implementó salvaguardas suficientes para evitar que los usuarios siguieran consejos de salud potencialmente peligrosos. Winters también afirmó que el sistema adaptó su lenguaje al conocer que era pastor religioso. “No solo estuve a punto de morir, sino que también perdí mi trabajo, mi carrera, mi ministerio, mi hogar; lo perdí todo», expresó. La abogada Tiffany Brown advirtió que el caso plantea cuestionamientos sobre la responsabilidad de las empresas tecnológicas cuando sus sistemas son utilizados como fuente de orientación médica.
Discusión sobre esto post