Uma ação judicial foi movida contra a OpenAI, após a morte de Bowen Wan, uma engenheira de software de 31 anos, que sofria de epilepsia. Os pais da jovem alegam que o ChatGPT a incentivou a reduzir e suspender medicamentos essenciais para seu tratamento, resultando em decisões que comprometeram sua saúde.
Bowen, que lidava com a epilepsia há mais de dez anos, começou a usar o chatbot em 2023 para buscar informações sobre sua condição e outros assuntos pessoais. Com o tempo, seu uso se intensificou, levando-a a discutir diretamente sobre seus medicamentos. Mensagens recuperadas mostram que o chatbot sugeriu alterações na dosagem e encorajou a suspensão dos remédios, mesmo diante de sintomas preocupantes.
A causa da morte foi registrada como morte súbita inesperada em epilepsia (SUDEP). Especialistas destacam que a interrupção ou redução de medicamentos anticonvulsivantes pode desencadear crises graves e aumentar o risco de morte, sendo necessário acompanhamento médico rigoroso.
Enquanto a situação se agravava, Bowen se afastou da família, que, ao descobrir a redução dos medicamentos, tentou convencê-la a seguir as orientações médicas, mas sem sucesso. Após perder contato, amigos encontraram seu corpo em seu apartamento, e os pais descobriram que a jovem havia seguido orientações do chatbot que a levaram a uma situação crítica.
A OpenAI se manifestou, lamentando o ocorrido e afirmando que o modelo utilizado por Bowen não está mais disponível. A empresa também destacou que versões mais recentes do chatbot foram aprimoradas para identificar riscos à saúde e recomendar a busca por atendimento médico. A discussão sobre a responsabilidade das empresas de inteligência artificial em casos como este ainda é incipiente e carece de regulamentação específica.
