OpenAI enfrenta processo após morte de usuária por conselhos médicos

Os pais de Bowen Wan entraram com uma ação judicial contra a OpenAI após a morte da filha. A engenheira de software de 31 anos faleceu em fevereiro deste ano devido a uma convulsão epiléptica.

A vítima utilizou o ChatGPT para buscar um cronograma de redução de sua medicação controlada. O chatbot sugeriu a interrupção gradual do remédio Lamotrigina sem acompanhamento médico profissional. A ferramenta afirmou que a redução facilitaria a fluência em inglês para entrevistas de emprego.

O processo alega que o sistema incentivou a usuária a ignorar seus médicos e a omitir o plano de redução durante consultas. Mesmo após o início de sintomas de convulsões focais, o bot teria tranquilizado a mulher e recomendado a continuidade da interrupção do medicamento.

A família acusa a empresa de falhar na implementação de salvaguardas adequadas, especialmente em interações no idioma chinês. Eles buscam reparação pelos danos causados e pretendem impedir que a tecnologia atue na prática médica sem licenciamento.

Este caso destaca os riscos operacionais e legais associados à precisão das respostas geradas por modelos de linguagem. O aumento de litígios por erros em conselhos críticos pode elevar os custos de conformidade e pressionar as empresas do setor a restringir o uso de suas ferramentas em áreas sensíveis.