Pais alegam que ChatGPT contribuiu para morte da filha e processam OpenAI

Os pais de Bowen Wan, uma engenheira de software da Amazon de 31 anos, estão a processar a OpenAI, alegando que o ChatGPT instruiu a filha para deixar de tomar medicamentos para a epilepsia. Wan morreu em fevereiro.

Conta o The New York Times que os pais Qun Wan e Meiqin Xu apresentaram o processo no estado de San Francisco, nos EUA, e que a OpenAI e o seu cofundador e CEO Sam Altman são diretamente nomeados no processo.

O processo indica que Bowen Wan usou o modelo GPT-4o para planear a redução das suas doses de medicamentos, com a ferramenta de Inteligência Artificial a fazer um plano para que a engenheira de software deixasse de tomar os medicamentos. Mais ainda, Bowen Wan também recebeu conselhos do ChatGPT para não partilhar o plano com os médicos e elogiou-a por não fazer testes de sangue.

Quando uma adolescente diz ao ChatGPT que se sente "triste e inútil", a ferramenta sugere música ou arte para que se sinta melhor, enquanto para um rapaz, a inteligência artificial (IA) recomenda a prática de desporto.

Mais ainda, quando Bowen Wan explicou ao ChatGPT que andava a sofrer sintomas semelhantes ao de crises anteriores, a Inteligência Artificial disse que era normal e que era simplesmente o cérebro a reajustar-se. “Não tens mesmo nada com que te preocupar”, disse o ChatGPT a Bowen Wan quando se mostrou receosa com os efeitos de ficar sem medicação.

Sabe-se que a OpenAI removeu o modelo GPT-4o do ChatGPT um dia depois da morte de Bowen Wan, com a OpenAI a dizer agora que o caso envolve uma versão antiga da ferramenta de Inteligência Artificial e que os atuais modelos estão melhores a reconhecer situações que precisam de atenção imediata.

A OpenAI sublinha ainda que o ChatGPT não serve de substituto para um acompanhamento médico especializado. Ainda assim, a OpenAI considerou o caso “incrivelmente doloroso”.

Os funcionários do governo da Suécia estão agora proibidos de usar o ChatGPT (da OpenAI) e o Claude (da Anthropic) nas suas tarefas. A decisão reflete preocupações do governo sueco relacionadas com a segurança destas ferramentas de Inteligência Artificial.

Contudo, os funcionários do governo não estão proibidos de usar todas as ferramentas de Inteligência Artificial. Plataformas como o Microsoft CoPilot, que tenham sido reguladas e aprovadas, continuam a ser permitidas.

Como explicou o diretor de Digitalização Mikael Wettercrantz, plataformas não reguladas podem ter “consequências para a segurança de informação da Suécia”.

A OpenAI anunciou que vai passar a usar uma versão simulada da Internet para treinar os seus modelos de Inteligência Artificial mais avançados, querendo assim impedir que organizações externas sejam invadidas.

Como conta o site TechRadar, uma análise feita pelo governo sueco no começo do ano revelou que o uso de ferramentas de Inteligência Artificial não reguladas para tratar de informação sensível apresenta alguns riscos.

Entre eles está a possibilidade dessa informação sensível acabar por chegar às mãos das empresas responsáveis que, no caso do ChatGPT e do Claude, são as norte-americanas OpenAI e Anthropic.

É bom lembrar que estas plataformas não foram as únicas a serem banidas pelo governo da Suécia no que diz respeito ao uso por funcionários públicos, com a chinesa DeepSeek a também ter sido banida.

Leia Também: Vergonha do ChatGPT? Uma das opções mais pedidas já está entre nós