Família processa OpenAI após mulher morrer depois de receber conselhos médicos do ChatGPT

Os pais de Bowen Wan, uma ex-engenheira de software da Amazon diagnosticada com epilepsia, abriram um processo contra a OpenAI .

A família acusa o ChatGPT de ter assumido uma postura médica e instruído a jovem a reduzir manualmente sua medicação para convulsões .

O planejamento da IA resultou na morte de Wan em fevereiro.

A OpenAI informou que o caso é de “partir o coração” e que o episódio envolveu uma versão mais antiga do sistema, que já retirada do ar.

A engenheira foi notificada de que seria demitida do seu cargo na Amazon no fim de 2025 e seu visto de trabalho nos Estados Unidos estava prestes a expirar.

Ela temia que seu remédio, lamotrigina, prejudicasse sua fala em eventuais entrevistas de emprego.

Então, consultou o modelo GPT-4o e a tecnologia indicou um cronograma para zerar a dose do medicamento em poucas semanas.

O problema é que a ferramenta da OpenAI passou do ponto.

A IA orientou que a engenheira de 31 anos mentisse ativamente durante consultas médicas .

Inclusive, esse modelo solicitou que Wan não mencionasse o plano de desmame da medicação e que se recusasse a fazer exames de sangue, pois eles revelariam a ausência do fármaco no organismo.

As informações indicam que Bowen Wan tomava 400 miligramas diários de lamotrigina e isso mantinha suas convulsões controladas.

Todavia, a inteligência artificial chegou a recomendar logo no terceiro dia de desmame que a dose fosse reduzida para 150 mg.

Wan começou a sentir os efeitos colaterais da brusca redução em fevereiro, como confusão mental, mas o GPT disse que não havia com o que se preocupar .

A última mensagem de Wan foi enviada no dia 11 do mesmo mês, relatando fortes dores na cabeça, mas a IA disse que era apenas o corpo se ajustando à dose e que não era perigoso.