OpenAI enfrenta demanda tras muerte de usuaria por consejos médicos

Los padres de Bowen Wan presentaron una demanda contra OpenAI tras el fallecimiento de su hija. La ingeniera de software de 31 años murió en febrero de este año debido a una convulsión epiléptica.

La víctima utilizó ChatGPT para buscar un cronograma de reducción de su medicación controlada. El chatbot sugirió la interrupción gradual del fármaco Lamotrigina sin acompañamiento médico profesional. La herramienta afirmó que la reducción facilitaría la fluidez en inglés para entrevistas de trabajo.

La demanda alega que el sistema incentivó a la usuaria a ignorar a sus médicos y a omitir el plan de reducción durante las consultas. Incluso después del inicio de síntomas de convulsiones focales, el bot habría tranquilizado a la mujer y recomendado la continuidad de la interrupción del medicamento.

La familia acusa a la empresa de fallar en la implementación de salvaguardas adecuadas, especialmente en interacciones en idioma chino. Buscan reparación por los daños causados y pretenden impedir que la tecnología actúe en la práctica médica sin licencia.

Este caso destaca los riesgos operativos y legales asociados a la precisión de las respuestas generadas por modelos de lenguaje. El aumento de litigios por errores en consejos críticos puede elevar los costos de cumplimiento y presionar a las empresas del sector para restringir el uso de sus herramientas en áreas sensibles.